Nova York derruba sites usados para criar deepfakes sexuais de famosas

Autoridades de Nova York (EUA) anunciaram nesta segunda-feira (14) a derrubada de 12 sites que hospedavam e comercializavam pornografia deepfake produzida com inteligência artificial (IA).

As plataformas exibiam imagens e vídeos falsos de pessoas famosas, incluindo atrizes, políticas, atletas, musicistas, influenciadoras digitais e outras figuras públicas.

Segundo a Promotoria do Distrito de Manhattan, os sites reuniam material envolvendo cerca de 1,2 mil pessoas reais , em sua maioria mulheres.

As imagens e vídeos mostravam versões geradas ou manipuladas por IA das vítimas participando de atos sexualmente explícitos sem seu consentimento.

A investigação apontou que as plataformas anunciavam explicitamente serviços de “pornografia deepfake de famosas” e eram utilizadas para publicar e vender esse tipo de conteúdo, além de outros registros íntimos não consensuais.

O promotor distrital de Manhattan, Alvin Bragg , afirmou acreditar que esta seja a maior operação já realizada para retirar do ar sites dedicados à pornografia ilegal gerada por IA.

“São fotos e vídeos que utilizam inteligência artificial para fazer parecer que pessoas reais participam de atos sexualmente explícitos”, explicou Bragg.

Segundo o promotor, a legislação de Nova York considera ilegal compartilhar fotos ou vídeos reais de pessoas praticando atos sexuais sem consentimento.

A mesma regra se aplica quando o conteúdo é criado ou alterado com ferramentas de IA.

Exemplo de página que foi removida – Imagem: Reprodução Leia mais: IA pode aumentar risco de corrida por armas biológicas, dizem especialistas Trump chama pedido de freio na IA de “conspiração doentia” para favorecer China China chama de “alarmismo” pressão dos EUA para frear a IA Como funcionavam os deepfakes Os sites utilizavam ferramentas de IA para modificar imagens e vídeos e substituir os rostos das pessoas que apareciam originalmente nas gravações pelos rostos das vítimas; Com isso, eram produzidos conteúdos hiper-realistas que davam a impressão de que pessoas reais estavam envolvidas em situações sexualmente explícitas, embora nunca tivessem participado delas; As vítimas incluíam atrizes, políticas, atletas, musicistas, defensoras de causas sociais e influenciadoras digitais , entre outras pessoas conhecidas pelo público; De acordo com a Promotoria de Manhattan, as empresas responsáveis pelos sites lucravam com a publicação e disseminação de imagens e vídeos sexuais não consensuais, independentemente de o material ter sido produzido com IA; Bragg afirmou ainda que essas violações de privacidade acompanham as vítimas em suas carreiras e vidas pessoais e provocam um impacto significativo em seu bem-estar emocional e mental.