TSE proíbe deepfakes realistas e esquece que a realidade é surreal

O debate ficou claro quando, no plenário do TSE, o ministro Floriano de Azevedo Marques defendia que a vedação alcançasse deepfakes como um todo.

O relator, ministro Nunes Marques, que preside a Corte, puxou para outro lado: a proibição deveria mirar a deepfake que engana quem assiste, sob pena de a Justiça Eleitoral acabar proibindo também o candidato dançando em vídeo sintético, o meme, a caricatura animada. Floriano respondeu que se fosse esse o preço, ao menos nesta eleição, o tribunal deveria pagá-lo sob pena de gerar uma disputa interpretativa sobre se a deepfake engana ou não. Essa posição acabou vencida.

O resultado foi a tese que passa a orientar juízes eleitorais no país inteiro. O Tribunal fixou que a incidência da vedação do art. 9º-C, § 1º, da Resolução 23.610/2019 depende de dois requisitos cumulativos.

O primeiro é técnico: deepfake é o conteúdo sintético, produzido ou manipulado por inteligência artificial ou tecnologia equivalente, que apresente grau de realismo ou verossimilhança e crie, reproduza ou altere imagem, voz ou manifestação de pessoa viva, falecida ou fictícia.

O segundo é contextual: o conteúdo precisa se qualificar como propaganda eleitoral. Fora dessa interseção, não há deepfake proibida pelas normas do TSE; há, no máximo, conteúdo sintético submetido ao regime geral do ordenamento jurídico.

O caso concreto era o vídeo de Jair Bolsonaro gerado por IA, exibido na convenção do PL em 25 de julho, declarando apoio ao filho. Por 4 a 3, a maioria não viu ilícito: a convenção é evento interno, e transmiti-la pela internet não transforma apoio político em pedido de voto. Mas o que importa para além do caso é a tese, e ela merece pelo menos três perguntas.

Nos últimos dois anos, a palavra virou sinônimo de qualquer coisa que passou perto de um modelo de IA. Mudou o cenário do vídeo em que aparece uma pessoa com uma ferramenta de IA generativa? Usou um estilo de desenho animado para apresentar o candidato ou criticar outro? Tudo começou a ser tratado como deepfake.

O TSE fez bem em resistir a essa inflação. Na mesma direção, a ANPD, na sua publicação Radar Tecnológico, delimita o conceito. Deepfake, diz a ANPD, é uma subcategoria de mídia sintética, e o que a distingue das demais é o resultado: uma simulação hiper-realista da identidade e da ação humana. Correção de cor, cortes de áudio, remoção de ruído e filtros de iluminação estão fora, porque não alteram a semântica, o contexto ou o sentido da mensagem.

Lido ao lado da tese do TSE, o Radar da ANPD mostra que a Corte não inventou um critério exótico. Verossimilhança apta a confundir o eleitor sobre se aquilo é real é exatamente o ponto em que a literatura técnica e a regulação comparada convergem. O avatar estilizado, o desenho e a caricatura ficaram de fora. A dancinha sintética, portanto, está liberada. Resta saber o que mais ficou de fora junto com ela.

Aqui começa o terreno movediço. A tese condiciona a vedação à qualificação do conteúdo como propaganda eleitoral. Isso resolve o caso da convenção partidária e alinha a regra à lógica geral da Resolução 23.610, que é, afinal, uma resolução sobre propaganda.