Perdido, chefão do Instagram diz que não sabe como combater deep fakes na plataforma

O chefe do Instagram, Adam Mosseri, admitiu que a rede social ainda não sabe como combater uma nova onda de vídeos falsos criados por inteligência artificial (IA).

O problema envolve perfis que utilizam personagens digitais para reproduzir conteúdos de artistas reais, principalmente comediantes, e até ganhar dinheiro com as publicações.

Segundo o jornal britânico The Independent, a declaração ocorreu após denúncias de humoristas que tiveram suas apresentações reproduzidas por mulheres criadas por IA.

Alguns desses perfis acumulam centenas de milhares de seguidores e direcionam o público para plataformas de conteúdo adulto, como OnlyFans e Fanvue.

Em uma resposta pública ao comediante George Brett Olson, Mosseri afirmou estar "muito preocupado" com a tendência.

O executivo também reconheceu que a empresa ainda procura uma solução para impedir esse tipo de apropriação de conteúdo.

"Estamos tentando descobrir o que fazer.

É um problema complicado", escreveu o executivo, em tradução livre.

Como funcionam os vídeos falsos no Instagram? O problema ganhou repercussão após comediantes encontrarem vídeos nos quais personagens gerados por IA reproduziam suas piadas, incluindo falas, pausas e até detalhes das apresentações originais.

Em um dos casos, George Brett Olson encontrou um vídeo de uma influenciadora virtual chamada Tiffany Sloane reproduzindo uma de suas apresentações.

Segundo a revista WIRED, o conteúdo utilizava um cenário semelhante ao original e roupas parecidas com as do comediante.

Na ocasião da investigação, o perfil de Tiffany já acumulava mais de 375 mil seguidores e divulgava uma conta no OnlyFans.

Outro exemplo envolve Julia Jasunas, que teve uma de suas piadas reproduzida pela personagem virtual Aylen Skye, com aproximadamente 250 mil seguidores.

Nesse caso, o perfil promovia conteúdos adultos na Fanvue, concorrente do OnlyFans que também permite a monetização de personagens criados por IA.