Cármen Lúcia rejeita tese de 'deepfake do bem' e compara vídeos de IA a foto de Tancredo

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

A ministra do STF (Supremo Tribunal Federal) Cármen Lúcia compara os vídeos de IA ( inteligência artificial ) que imitam pessoas, os deepfakes, à famosa foto do então eleito presidente Tancredo Neves sentado em uma poltrona, cercado por seus médicos no hospital de Brasília, em março de 1985.

Tancredo estava doente e viria a morrer 27 dias depois, antes de assumir o cargo. O objetivo da imagem era tranquilizar os eleitores sobre a saúde do mandatário. A foto foi autorizada pelo político.

Em entrevista ao episódio de estreia do podcast "A Máquina", série da Folha publicada pelo Café da Manhã durante o período eleitoral, a ministra rejeita a tese de deepfake "do bem". Para ela, ainda que um vídeo de IA não tenha como objetivo ofender alguém, seja autorizado e não contenha nenhuma mentira, ainda é um deepfake — vedado, portanto, pela regra do TSE (Tribunal Superior Eleitoral) .

É o caso do vídeo de Jair Bolsonaro exibido na convenção do PL . A peça é alvo de ação do PT , e será julgada em breve pelo TSE. "Isto é falso, foi criado por uma máquina para passar uma mensagem", disse Cármen, com a ressalva de que não opinava diretamente sobre esta ação.

"Trata-se de algo que não aconteceu e pode mudar o comportamento do eleitor", diz a magistrada, relatora da resolução do TSE de 2024 que vedou os deepfakes.

Na entrevista, Cármen Lúcia falou sobre os desafios de regular novas tecnologias na eleição, chatbots, da confiança da população no Supremo e o novo código de ética da corte. O episódio, em vídeo, pode ser assistido no Spotify e no site da Folha .

No Brasil, estamos criando essas respostas ao mesmo tempo que aparecem os problemas. Temos que estar a par de cada invencionice tecnológica ou uso abusivo das tecnologias, e imediatamente dar uma resposta, porque a extensão dos efeitos dela é muito maior do que jamais tivemos na história.

Uma das novidades tecnológicas são os deepfakes. O TSE vai julgar uma ação contestando o uso de um vídeo em IA do ex-presidente Jair Bolsonaro dando apoio ao candidato Flávio Bolsonaro , exibido na convenção do PL. A resolução do TSE proíbe qualquer tipo de deepfake . Mas a defesa de Flávio alega que não se trata de deepfake, pois não houve má intenção. Na visão da senhora, que foi relatora da resolução do TSE de 2024 que proibiu deepfakes, o que é um deepfake? O fake é algo que ou não existe ou existe de outra forma e o que lhe foi apresentado não é o fato como se deu. Digamos que eu fique muito nervosa diante de um público, de ter que falar com as pessoas. Então, eu não vou ao público, autorizo o uso da minha imagem, da minha voz, para falar o que eu falaria mesmo [para um vídeo deepfake]. Mas não sou eu. É uma criação em que a máquina transforma o que eu iria falar de forma atabalhoada, pouco compreensível. Isto é fake, porque eu não sou desse jeito no público.

O voto é um fato, é um gesto. Eu vou à cabine, aperto ali a tecla e eu votei. Então, aquilo que me levou a chegar a um convencimento sobre a minha escolha precisa ser algo verdadeiro, que aconteceu.