YouTube vai alertar usuário quando seu rosto aparecer em deepfake

O YouTube e o TSE (Tribunal Superior Eleitoral) devem formalizar nos próximos dias uma parceria para tentar impedir a disseminação de deepfakes durante as eleições deste ano.

O acordo prevê uma ferramenta capaz de identificar vídeos produzidos com inteligência artificial que reproduzam o rosto de pessoas reais.

Pelo mecanismo, usuários poderão cadastrar suas feições e receber notificações caso o sistema identifique o rosto em vídeos gerados por IA.

A partir do alerta, será possível solicitar ao YouTube a remoção do conteúdo.

A iniciativa será formalizada por meio de um memorando de entendimento e tem como principal objetivo reduzir o risco de vídeos manipulados serem usados para enganar eleitores ou interferir na disputa eleitoral.

A preocupação está relacionada aos chamados deepfakes, conteúdos produzidos ou modificados com inteligência artificial capazes de reproduzir de forma realista a aparência ou a voz de uma pessoa, inclusive fazendo parecer que ela disse ou fez algo que nunca ocorreu.

O YouTube já começou neste ano a disponibilizar para figuras públicas uma ferramenta destinada a localizar conteúdos criados com IA que reproduzam seus rostos.

O sistema permite revisar os vídeos encontrados e solicitar a retirada de conteúdos, embora o pedido esteja sujeito à análise pelas regras da plataforma.