STJ multa em R$ 20 mil por uso de comando oculto para IAs em petição

O Superior Tribunal de Justiça (STJ) aplicou multa de R$ 20 mil a advogados que inseriram comandos ocultos de inteligência artificial em uma petição de recurso especial.

A 1ª Turma do Superior Tribunal de Justiça considerou que a conduta atenta contra a dignidade da Justiça. Os comandos ocultos buscavam orientar a inteligência artificial usada pelo tribunal e são conhecidos como prompt injection .

Uma das inserções de texto foi realizada na faixa decorativa do rodapé da petição e na mesma cor da barra, tornando impossível a leitura do conteúdo a olho nu. A petição de recurso especial apresentava camadas de textos que foram ocultadas em pontos diferentes de uma das páginas do documento.

O colegiado também mandou enviar as peças à OAB do Paraná e ao Ministério Público Federal. A OAB deve avaliar possível punição administrativa, enquanto o Ministério Público Federal (MPF) analisará a perspectiva de crime.

Essa é a maior punição aplicada pelo STJ em um caso de tentativa de prompt injection . Em maio, o tribunal informou que investigaria o uso dessa prática.

O relator, ministro Paulo Sérgio Domingues, classificou o episódio como de gravidade acentuada. Para ele, a multa elevada é uma "resposta à altura".

O tribunal afirmou que a decisão não impede o uso de IA na produção de documentos jurídicos.

Não se está a coibir a utilização de ferramentas de IA no apoio à confecção de documentos jurídicos, mas, sim, que seja empregada ilicitamente como veículo de comando velado dirigido à IA do órgão julgador com o intuito de afetar a estrutura tecnológica do tribunal.

O Supremo Tribunal Federal já aplicou multa a um advogado pelo mesmo motivo. A punição foi determinada pelo ministro Alexandre de Moraes.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.