Deepfakes podem dificultar análise de provas, alertam OpenAI e Meta

Representantes da OpenAI e da Meta alertaram integrantes do Judiciário dos Estados Unidos na quinta-feira (15) sobre as dificuldades crescentes para identificar vídeos e áudios falsos produzidos por inteligência artificial (IA).

Segundo os especialistas, os chamados deepfakes estão se tornando tão sofisticados que será cada vez mais difícil verificar a autenticidade de provas audiovisuais apresentadas em julgamentos.

O alerta foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos.

Desde 2023, o grupo discute como lidar com os riscos de conteúdos fabricados por IA nos tribunais e quais critérios devem ser aplicados para confirmar a validade desse tipo de evidência.

Deepfakes dificultam a verificação de provas Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens por IA tornam cada vez mais difícil desenvolver métodos científicos capazes de identificar conteúdos artificiais.

“As imagens de IA estão cada vez melhores, e não acho que haverá uma maneira científica de detectá-las no futuro”, disse Anderson ao comitê.

Devin Norder, diretor de gerenciamento de produtos da Meta, também destacou a evolução da tecnologia.

Segundo ele, conteúdos produzidos pelos modelos de IA mais avançados já podem ser indistinguíveis, para observadores humanos, de mídias autênticas ou de outros materiais gerados artificialmente.

Norder acrescentou que o custo e o tempo necessários para criar esse tipo de conteúdo são muito baixos .

Isso aumenta a preocupação com a possibilidade de materiais falsos serem apresentados como provas legítimas em processos judiciais.

Poucos casos identificados até agora Apesar dos alertas, ainda há poucos registros de disputas judiciais envolvendo deepfakes nos Estados Unidos.

Em março, o Centro Judicial Federal, órgão de pesquisa do Judiciário americano, informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado casos em que uma das partes contestou a apresentação de provas por suspeitar que fossem deepfakes.

Jesse Furman, juiz federal de Manhattan e presidente do comitê, afirmou que existe uma quantidade significativa de análises acadêmicas e previsões sobre o impacto da tecnologia nos tribunais, mas que os casos concretos ainda são limitados.

Na reunião de quinta-feira, Furman nomeou um subcomitê para aprofundar a análise do problema.