Justiça identifica tentativa de manipular IA, mas mantém absolvição em MS

A 5ª Turma do TRF3 (Tribunal Regional Federal da 3ª Região) manteve a absolvição de quatro acusados de estelionato em Campo Grande, mesmo após identificar comandos ocultos em documentos da defesa que tentavam manipular a ferramenta de inteligência artificial utilizada pelo Judiciário.

Em decisão de 16 de outubro, o desembargador federal Paulo Gustavo Guedes Fontes concluiu que os mecanismos de segurança do sistema impediram a interferência e que a tentativa não alterou o julgamento nem a tramitação deste processo específico, que teve como réu o conhecido estelionatário Selmo Machado da Silva , preso pela invasão hacker de sistemas do Judiciário em outros procedimentos.

Além de Selmo, o caso envolve Marcos Recaldes Aveiro, Sidney Machado da Silva e Diego Guilherme Rodrigues, acusados pelo MPF (Ministério Público Federal) de participar de uma fraude com cheque no valor de R$ 178.569,67, em março de 2014.

A Justiça Federal absolveu os quatro por insuficiência de provas, e o tribunal manteve a decisão ao rejeitar um recurso da acusação.

A tentativa de manipulação da decisão veio à tona por iniciativa da própria defesa.

O advogado Matheus Pelzl Ferreira informou ao tribunal que identificou uma falha de controle interno no escritório, envolvendo a inserção de comandos ocultos em modelos de documentos utilizados nos processos.

Matheus já falou ao Campo Grande News sobre isso aqui e aqui .

Segundo a comunicação apresentada à Justiça, um colaborador teria incluído as instruções sem autorização dos sócios.

Como o escritório utilizava os mesmos modelos em diferentes ações, os comandos acabaram reproduzidos automaticamente em outras peças processuais.

A técnica é conhecida como prompt injection, ou injeção de comandos.

Ela consiste em inserir instruções em conteúdos que serão analisados por sistemas de inteligência artificial, na tentativa de fazer com que a ferramenta desconsidere suas regras originais e execute determinadas orientações.

No caso analisado pelo TRF3, os comandos buscavam interferir na atuação da ferramenta de IA especialmente na avaliação de questões relacionadas à admissibilidade processual.

A SETI (Secretaria de Tecnologia da Informação) do tribunal examinou os documentos e confirmou a presença das instruções ocultas em embargos, alegações finais e um pedido de acesso à cópia integral de conteúdo de mídia digital.

A análise técnica, entretanto, concluiu que as proteções implementadas no sistema impediram a alteração das instruções de funcionamento da inteligência artificial.