Especialistas alertam para riscos criados pela IA no Judiciário em seminário da Folha

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

A digitalização dos processos e o uso de inteligência artificial podem ampliar o acesso à Justiça, mas também levar à repetição de vieses e padrões de decisões antigas, tornar menos transparente a triagem de processos e aumentar a desigualdade entre as partes, afirmaram especialistas reunidos pela Folha nesta segunda-feira (24).

A avaliação foi feita durante o terceiro e último painel do ciclo de seminários "O Judiciário em Debate: Integridade, Eficiência e Acesso à Justiça" , promovido pela Folha em parceria com a OAB-SP (seção paulista da Ordem dos Advogados do Brasil), com apoio da AASP - Associação dos Advogados de São Paulo .

Tainá Aguiar Junquilho , professora de tecnologia , inovação e direito no IDP, observou que a inteligência artificial não cria os problemas do sistema de Justiça, mas pode revelá-los e reforçá-los. Entre os riscos, citou vieses discriminatórios, opacidade dos sistemas e dependência de empresas estrangeiras.

Segundo a pesquisadora, sistemas alimentados por decisões e dados anteriores podem reproduzir padrões em vez de revisá-los, o que amplia a preocupação com a repetição de distorções em escala.

Junquilho disse também que a pressão por produtividade pode colocar em segundo plano o direito a contraditório, a paridade de armas entre as partes e a qualidade das decisões.

As regras do CNJ (Conselho Nacional de Justiça) para o uso de IA no Judiciário já preveem medidas para prevenir vieses discriminatórios, além de auditoria, monitoramento e supervisão humana dos sistemas.

Nos últimos meses, tribunais identificaram petições com comandos ocultos destinados a influenciar ferramentas de IA usadas na análise de processos. Casos foram registrados no Superior Tribunal de Justiça (STJ), no Tribunal de Justiça de São Paulo e no Tribunal Regional do Trabalho (TRT) da 8ª Região, o que levou o CNJ a aprovar um protocolo específico para barrar esse tipo de manipulação.

Levantamento do CNJ noticiado pela Folha em junho encontrou em 31 tribunais sistemas capazes de gerar textos como despachos, sentenças e votos. As regras do conselho proíbem que decisões sejam delegadas integralmente à tecnologia.

Um dos usos que mais preocupam os especialistas ocorre antes mesmo da elaboração de uma sentença. Ivar Hartmann , professor de direito no Insper, explicou que a tecnologia já é empregada na triagem de processos, contribuindo para determinar quais casos terão prioridade.

"Essa triagem não é o Judiciário decidindo", disse. "É o Judiciário decidindo o que vai decidir e o que não vai decidir." Para Hartmann, os critérios de triagem dos tribunais já eram pouco transparentes antes da adoção da IA e podem se tornar ainda mais difíceis de compreender com sistemas automatizados.

A possibilidade de automação excessiva também preocupa Ronaldo Lemos , advogado, pesquisador e colunista da Folha .