Quem realmente manda na fábrica quando o algoritmo começa a decidir?

Por Wellington Ott*

Com análise jurídica especializada pela equipe do direitoce.com.br

Durante décadas, a lógica industrial foi simples e quase incontestável: máquinas executam, pessoas decidem. Essa hierarquia sustentou a previsibilidade que sempre definiu a indústria. Mas agora, ela está deixando de existir.

Com o avanço da automação e, principalmente, da inteligência artificial, parte relevante das decisões operacionais já não passa mais diretamente pelas mãos humanas. Sistemas priorizam pedidos, ajustam linhas de produção em tempo real e antecipam falhas antes mesmo que elas se manifestem. Não se trata mais de eficiência. Trata-se de comando.

Em muitas operações, o algoritmo já ocupa, na prática, um espaço de decisão. Não porque alguém formalmente delegou esse papel, mas porque a complexidade e a velocidade dos processos tornaram a intervenção humana lenta demais.

Um exemplo claro está nas linhas automatizadas que se reconfiguram sozinhas diante de uma mudança de demanda. O sistema redistribui recursos, altera sequências de produção e redefine prioridades em segundos. Nenhum operador conseguiria acompanhar esse ritmo. A decisão acontece, com ou sem supervisão direta.

O operador deixa de ser executor e passa a vigiar sistemas que ele nem sempre compreende por completo. O gestor, por sua vez, precisa confiar em decisões baseadas em dados que não acompanhou na origem. Entre ação e decisão, surge um novo agente, que é o algoritmo.

O problema é que essa mudança não está sendo tratada como mudança de poder. Está sendo tratada como evolução tecnológica. Muitas empresas adotam soluções avançadas sem redesenhar responsabilidades. Quando tudo funciona, o ganho de produtividade é celebrado. Quando algo falha, surge a pergunta que ninguém estruturou antes: quem responde por uma decisão que ninguém tomou diretamente?

A indústria sempre foi um ambiente de controle. Processos previsíveis, riscos calculados, decisões rastreáveis. Ao introduzir sistemas que aprendem, se adaptam e tomam decisões com base em padrões dinâmicos, esse controle deixa de ser centralizado e passa a ser distribuído.

E isso não é um problema e sim uma mudança estrutural. O risco está em não a reconhecer. O futuro da indústria não será definido apenas pela capacidade de automatizar processos, mas pela maturidade em governar decisões que não nascem mais exclusivamente do humano. Empresas que não estabelecerem critérios claros de supervisão, responsabilidade e entendimento sobre o papel dos algoritmos estarão operando com eficiência aparente e risco oculto. No fim, a pergunta não é mais quem manda na fábrica. É quem está preparado para assumir quando o sistema decide.

Sobre
Wellington Ott é especialista em automação industrial e sistemas inteligentes, com atuação em projetos no Brasil e no exterior. Ao longo da carreira, participou da implementação e integração de sistemas automatizados em ambientes industriais de alta complexidade, com foco em eficiência operacional, conectividade e tomada de decisão orientada por dados.

 Análise Jurídica Especializada da equipe direitoce.com.br

A matéria apresenta, com precisão técnica, um fenômeno que já ultrapassou o campo da engenharia e ingressou de forma contundente no universo jurídico: a transferência fática do poder decisório para sistemas automatizados baseados em inteligência artificial.

Sob o ponto de vista jurídico, essa transformação produz efeitos relevantes em quatro grandes eixos: responsabilidade civil, direito do trabalho, governança corporativa e regulação tecnológica.

1. Responsabilidade civil: o problema central da imputação

O ponto mais sensível levantado pelo texto é a pergunta: quem responde pela decisão do algoritmo?

No ordenamento brasileiro, a resposta ainda não está plenamente consolidada, mas alguns princípios são claros:

• O algoritmo não possui personalidade jurídica
• Portanto, não pode ser sujeito de direitos e obrigações

Assim, a responsabilidade recai necessariamente sobre agentes humanos ou pessoas jurídicas envolvidas:

• A empresa (responsabilidade objetiva em muitos casos)
• O desenvolvedor do sistema
• O fornecedor da tecnologia
• Eventuais gestores (em casos de culpa ou negligência)

À luz do Código Civil Brasileiro, especialmente nos arts. 186 e 927, configura-se responsabilidade sempre que houver dano decorrente de ação ou omissão, ainda que mediada por tecnologia.

Em ambientes industriais, essa responsabilidade tende a ser:

• Objetiva (risco da atividade), sobretudo em atividades perigosas
• Vinculada à teoria do risco empresarial

Consequência prática:
A adoção de IA não reduz responsabilidade, ao contrário, pode ampliá-la.

2. Direito do trabalho: redefinição de funções e riscos

A transformação do operador em “supervisor de sistemas” traz implicações diretas no campo trabalhista.

Pontos críticos:

• Desvio ou acúmulo de função: o trabalhador passa a exercer atividade distinta da originalmente contratada
• Responsabilização indevida: operadores podem ser responsabilizados por decisões que não controlam plenamente
• Riscos psicossociais: aumento de estresse pela vigilância de sistemas complexos

A Consolidação das Leis do Trabalho impõe ao empregador o dever de:

• Garantir ambiente seguro
• Treinar adequadamente os empregados
• Delimitar responsabilidades

Consequência jurídica relevante:
Empresas que mantêm trabalhadores supervisionando sistemas opacos (black box) podem enfrentar:

• Reclamações trabalhistas
• Alegações de culpa patronal
• Indenizações por danos morais ou materiais

3. Governança corporativa e dever de diligência

A matéria acerta ao apontar a ausência de redesenho de responsabilidades. No direito societário, isso se conecta diretamente ao dever de diligência dos administradores.

Segundo a Lei das Sociedades por Ações:

• Administradores devem agir com cuidado e diligência
• Devem controlar riscos previsíveis

A introdução de IA sem governança adequada pode caracterizar:

• Falha de gestão
• Negligência estratégica
• Eventuais responsabilidades pessoais de administradores

Boas práticas jurídicas exigem:

• Auditoria de algoritmos
• Rastreabilidade de decisões
• Protocolos de supervisão humana (“human in the loop”)

4. Proteção de dados e decisões automatizadas

Quando os algoritmos utilizam dados, entra em cena a Lei Geral de Proteção de Dados.

Aspectos relevantes:

• Direito à revisão de decisões automatizadas (art. 20)
• Necessidade de transparência
• Responsabilização por uso inadequado de dados

Mesmo em ambiente industrial, se houver impacto sobre pessoas (empregados, fornecedores, consumidores), a LGPD pode ser aplicada.

5. Risco regulatório e tendências futuras

O cenário descrito pela matéria aponta para um movimento inevitável: regulação da inteligência artificial.

Experiências internacionais, como o AI Act, indicam o caminho:

• Classificação de sistemas por nível de risco
• Exigência de supervisão humana
• Responsabilidade clara por decisões automatizadas

O Brasil caminha na mesma direção, com projetos legislativos em discussão no Congresso Nacional.

Conclusão jurídica

A matéria identifica corretamente uma transformação estrutural. Do ponto de vista jurídico, porém, essa mudança não é neutra. Ela desloca o eixo da responsabilidade sem eliminar a necessidade de imputação.

Em termos claros:

• O algoritmo decide
• Mas a responsabilidade continua sendo humana e empresarial

A ausência de governança adequada pode gerar:

• Responsabilidade civil por danos
• Passivos trabalhistas
• Sanções regulatórias
• Responsabilização de administradores

O verdadeiro risco, como bem sugerido no texto, não está na tecnologia em si, mas na sua adoção sem estrutura jurídica correspondente.

No ambiente industrial contemporâneo, eficiência sem governança não é avanço. É exposição jurídica silenciosa.