Uma ferramenta para reduzir o risco de quem usa IA generativa no Direito

Ponto de partida O uso de IA generativa no contexto da prática forense é uma realidade, com os riscos inerentes ao uso “selvagem” ou ingênuo dos modelos de linguagem.

Dentre os riscos mais recorrentes está a criação de legislação, doutrina ou jurisprudência inventada (alucinação; confira texto aqui ).

Os exemplos se multiplicam em face da ausência de conformidade, mesmo para quem usa escondido ( aqui ).

Em fevereiro de 2025, a 5ª Câmara Criminal do Tribunal de Justiça de Santa Catarina julgou o Habeas Corpus 5001175-27.2025.8.24.0000, relatado pela desembargadora Cinthia Beatriz da Silva Bittencourt Schaefer.

O pedido buscava revogar medida protetiva de urgência em caso de violência doméstica.

A petição trazia jurisprudência inexistente: precedentes fabricados, criados para induzir o órgão julgador a erro, conforme registrado na decisão e noticiado pela imprensa jurídica especializada.

O colegiado negou o pedido e advertiu o advogado impetrante por má-fé e por desrespeito ao tribunal (voltarei ao tema em futura coluna: atire a primeira pedra quem nunca usou IA generativa).

O episódio catarinense não é isolado.

Tribunais trabalhistas, federais e estaduais já aplicaram multa em casos análogos, em que a “legislação” e/ou a “jurisprudência” foram “fabricadas” [ inventadas ] por ferramenta de IA generativa.

O problema tem nome técnico, e um projeto brasileiro pretende atacar a causa, em vez do sintoma: a Advocacia Aberta.

Doença é o dado ilegível O manifesto do projeto abre com um diagnóstico seco: a alucinação não é a doença, é o sintoma; a doença é o dado ilegível.

A Advocacia Aberta é um sistema de dados jurídicos aberto, criado por Emidio Trancoso, com infraestrutura hospedada pela Apolus.ai.

Código aberto sob licença MIT, publicado no GitHub.

A proposta não cria mais um assistente de IA.