Os vieses algorítmicos já figuram entre os desafios mais delicados no uso da Inteligência Artificial no Direito, sobretudo porque muitos sistemas são treinados com bases históricas de dados que refletem desigualdades, distorções e padrões discriminatórios presentes no próprio sistema judicial.
Quando essas tecnologias passam a apoiar análises de risco, triagem de processos, sugestão de decisões ou avaliação de provas, o problema deixa de ser meramente técnico e assume dimensão jurídica, ética e institucional, com impactos diretos sobre garantias fundamentais.
A ideia de neutralidade da Inteligência Artificial é considerada ilusória por especialistas. Algoritmos incorporam escolhas humanas, critérios implícitos e recortes específicos da realidade, capazes de afetar princípios como isonomia, ampla defesa e devido processo legal.
Um dos exemplos mais críticos ocorre no uso de sistemas de IA para prever risco de reincidência criminal. Treinados a partir de dados de um sistema penal historicamente desigual, esses modelos tendem a associar maior risco a determinados perfis sociais ou territoriais, não por maior propensão ao crime, mas pela maior exposição à vigilância e à punição ao longo do tempo. O resultado é a reprodução e legitimação de injustiças estruturais.
No contexto brasileiro, marcado por alto volume processual, profundas assimetrias sociais e dificuldades de acesso à justiça, o uso acrítico da IA pode gerar decisões enviesadas sob a aparência de objetividade técnica. Nesse cenário, a atuação humana qualificada torna-se indispensável.
Para o professor Alexandre Rodrigues, PhD e autor do livro IA Aplicada ao Direito, a Inteligência Artificial deve funcionar como instrumento de ampliação cognitiva do jurista, jamais como substituta do juízo crítico. Segundo ele, compreender como os vieses são formados, como podem ser mitigados e quais limites éticos devem orientar o uso dessas tecnologias é hoje uma competência essencial para advogados, magistrados e demais operadores do Direito.
Referência nacional no debate sobre os impactos práticos e éticos da IA no sistema jurídico brasileiro, Alexandre Rodrigues está disponível para entrevistas sobre temas como vieses algorítmicos, responsabilidade jurídica no uso de modelos de linguagem, riscos da automação decisória, transparência algorítmica e o futuro da advocacia em um ambiente orientado por dados. Seu trabalho defende uma abordagem crítica, aplicada e responsável, capaz de integrar tecnologia e ética institucional.