Meta promove anúncios de app que promete criar falsas fotos íntimas de mulheres com IA

A Meta veiculou, na primeira quinzena deste mês, anúncios de uma ferramenta de inteligência artificial (IA) voltada para a criação de pornografia digital não consensual em suas plataformas.

As peças publicitárias promoviam a geração de vídeos falsificados que imitavam políticas dos Estados Unidos (EUA), o que contraria normas internas da dona do Instagram e do Facebook que proíbem materiais de cunho sexual.

O caso envolve o aplicativo Kromix, que se apresentava publicamente como um estilizador de imagens por IA.

Segundo investigação conduzida pela norte-americana WIRED, a narração de um dos vídeos publicitários promovia a ferramenta sob a alegação de que não havia restrições de uso, com a frase de que todos os personagens eram pessoas reais.

Em resposta, a Meta promete combater novos casos similares e bloquear anúncios que violem suas regras.

Em um dos anúncios, uma mulher com traços semelhantes aos de uma política dos EUA de destaque aparecia diante da bandeira oficial do país e da presidência com a legenda em inglês “What if she moved?” (“E se ela se movesse?”, em tradução livre).

Em seguida, a mulher piscava e o vídeo transitava para cenas explícitas de sexo com o mesmo rosto.

As peças foram direcionadas exclusivamente para perfis masculinos, sob o slogan “Liberte a magia da inteligência artificial de última geração” .

Segundo a biblioteca de anúncios da Meta, a conta responsável veiculou 32 anúncios que permaneceram no ar entre cinco e 46 horas antes de serem excluídos, após o contato da imprensa.

A página que bancou os anúncios foi criada no dia 3 de agosto e não tinha seguidores.

Para Katie Paul, diretora do Tech Transparency Project , grupo de pesquisa que identificou as publicações, o episódio expõe fragilidades graves na supervisão comercial da empresa.

“Todos os anúncios que vimos até agora sobre desnudamento têm como foco exclusivo a sexualização e a inserção de mulheres em conteúdo pornográfico gerado por inteligência artificial.

Isso levanta muitas questões sobre como a Meta vai lidar com esse tipo de conteúdo, especialmente quando atinge mulheres que atuam na política, enquanto a própria empresa veicula ativamente anúncios com esse material em sua plataforma”, afirmou Katie à WIRED.

Violação em série e brechas na moderação Além da menção a figuras públicas, o aplicativo Kromix convidava usuários pagantes a carregar fotos reais para inseri-las em cenários de violência sexual, como estupro em quarto de dormir.