STJ multa advogados por tentar manipular IA com comandos ocultos

O Superior Tribunal de Justiça ( STJ ) multou em R$ 20 mil advogados que esconderam instruções em uma petição para influenciar a inteligência artificial usada pelo tribunal.

A prática, conhecida como prompt injection , foi considerada uma tentativa ilícita de interferir na estrutura tecnológica da Justiça.

A 1ª Turma também determinou o envio das peças à OAB do Paraná e ao Ministério Público Federal .

Segundo a fonte, essa é a maior multa aplicada pelo STJ em um caso de tentativa desse tipo.

O uso de inteligência artificial é permitido em peças, mas tentar enganar os algoritmos da Corte é ilícito. – Imagem: Digineer Station/Shutterstock Como funciona o ataque com comandos ocultos O prompt injection é uma técnica que tenta direcionar as respostas de uma inteligência artificial por meio de instruções inseridas em textos.

Em vez de apenas analisar o conteúdo solicitado, o sistema pode ser induzido a seguir comandos maliciosos que tentam alterar o resultado da tarefa.

No caso julgado pelo STJ, os advogados distribuíram instruções ocultas em diferentes pontos de uma página da petição de recurso especial.

Uma delas foi inserida na faixa decorativa do rodapé, na mesma cor do elemento gráfico, o que impedia sua leitura a olho nu.

Os comandos buscavam favorecer a argumentação dos próprios advogados.

Entre as orientações, havia pedidos para que a IA considerasse que o acórdão questionado desrespeitou os limites da coisa julgada e concluísse que o recurso deveria ser integralmente aceito.

O risco está na possibilidade de a ferramenta interpretar essas instruções como parte legítima da tarefa, em vez de reconhecer que alguém está tentando manipular sua análise.

A técnica explora justamente a dificuldade de separar o conteúdo que deve ser examinado das ordens inseridas para influenciar a resposta.

Quais são os riscos para decisões e documentos Quando uma IA é usada para examinar documentos ou produzir recomendações, comandos maliciosos podem comprometer a análise se o sistema não conseguir identificá-los adequadamente.

Em um contexto jurídico, isso poderia afetar a interpretação de argumentos, a síntese de informações e as recomendações produzidas para auxiliar o trabalho humano.