Conselho da Meta manda remover deepfakes e cobra regras mais duras

O Conselho de Supervisão da Meta determinou que a empresa remova do Facebook dois vídeos deepfake (tecnologia que usa IA para criar imagens, vídeos ou áudios falsos que parecem autênticos) e reforçou críticas às regras da plataforma para lidar com conteúdo enganoso gerado por inteligência artificial.

Decisão envolve um vídeo que imita um político local do Partido Trabalhista na Escócia e atribui a ele uma fala ofensiva sobre refugiados. O conselho afirmou que o conteúdo deveria ter sido derrubado por violar as regras da Meta contra conduta de ódio (ao atribuir comportamento criminoso e predatório aos refugiados como um grupo) e também receber um rótulo de "IA de alto risco".

Conselho também mandou derrubar um vídeo que ridiculariza uma jovem muçulmana que atuava como voluntária em uma campanha de educação sobre saúde menstrual. A gravação, feita a partir de imagens manipuladas, a mostra dando supostos conselhos de saúde enquanto faz exercícios absurdos ou come comida ultraprocessada, o que, para o órgão, configura bullying e assédio.

Crítica central é que as proteções atuais não acompanham a velocidade do problema. "De políticos a cidadãos comuns, deepfakes gerados por IA estão cada vez mais sendo usados para assediar e silenciar mulheres, afastando-as do debate público", disse Pamela San Martin, co-presidente do Oversight Board,

Para o conselho, os casos mostram um padrão de ataques direcionados. "Esses casos demonstram um padrão mais amplo e preocupante, em que mulheres que se expõem publicamente em temas de interesse público são desproporcionalmente alvo de assédio e desinformação. Meta e outras plataformas precisam de políticas mais robustas para enfrentar a proliferação de deepfakes", afirmou San Martin.

Órgão recomendou mudanças para reduzir alcance desse tipo de postagem e endurecer punições para reincidentes. Em publicação no blog, o conselho afirmou que "a maioria [do conselho] conclui que a Meta precisa de políticas mais robustas sobre deepfakes, incluindo ampliar as situações em que rótulos de 'alto risco' podem ser aplicados, mais medidas para reduzir a disseminação de conteúdo enganoso gerado por IA, aumentar as penalidades para contas que o compartilham repetidamente e mais transparência sobre dados de quando rótulos de IA são aplicados".

O Conselho de Supervisão da Meta é um órgão criado pela empresa em 2020 para revisar decisões de moderação no Facebook, Instagram e Threads. Ele funciona como uma instância externa de apelação: usuários podem recorrer quando discordam de decisões anteriores, e o conselho também pode selecionar casos de grande repercussão para emitir juízos.

As decisões do conselho sobre casos específicos são vinculantes, ou seja, a Meta precisa cumprir o que foi determinado sobre manter ou remover conteúdos. Já as recomendações de política não são automáticas, mas a empresa tem prazo para responder publicamente se vai adotar as mudanças sugeridas.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.