Ministério da Justiça pede bloqueio de 80 sites que criam “deepnudes” com IA

A Secretaria Nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública acionou a Polícia Federal (PF) e a Agência Nacional de Proteção de Dados (ANPD) para solicitar o bloqueio de 80 sites que utilizam inteligência artificial (IA) para produzir imagens e vídeos falsos de nudez, os chamados deepnudes .

O documento, assinado pelo secretário Victor Oliveira Fernandes, pede, ainda, a investigação das empresas que oferecem esses serviços e a preservação dos dados de acesso dos usuários.

A ação foi motivada por denúncia da Safernet, ONG de defesa dos direitos humanos na internet, que identificou indícios de uso das ferramentas para gerar conteúdo sexualizado de crianças e adolescentes.

A nota técnica elaborada pela Secretaria de Direitos Digitais orienta a PF e a ANPD a fiscalizar as plataformas e avaliar a possibilidade de suspensão das páginas.

O documento aponta indícios de que mulheres reais e crianças foram vítimas da fabricação de imagens de nudez nesses sites.

Além do bloqueio, o pedido inclui a investigação das empresas que oferecem os serviços de nudificação e dos usuários que os acessam.

Alguns dos sites listados não apenas disponibilizam ferramentas para gerar imagens falsas, mas também oferecem, segundo o documento, “acervo de imagens e vídeos previamente manipulados, inclusive conteúdos envolvendo mulheres identificáveis ou passíveis de identificação”.

Violações e impactos dos “deepnudes” Para o Ministério da Justiça, a simples disponibilização dessas ferramentas já configura prática abusiva.

O documento afirma que “a mera disponibilização de serviços destinados à geração ou manipulação de imagens para a criação de conteúdo sexualizado de terceiros constitui prática intrinsecamente abusiva, por viabilizar a exploração da imagem e da identidade de pessoas para a produção de conteúdos íntimos ou sexualizados sem sua autorização”.

Um agravante apontado pela Secretaria é a ausência de qualquer barreira de acesso: as ferramentas identificadas operam em ambiente de web aberta, acessíveis por navegadores convencionais, sem exigência de cadastro, comprovação de identidade ou verificação etária .

Isso facilita tanto o uso indiscriminado quanto o acesso por menores de idade.

Os impactos para as vítimas vão além da exposição da imagem e incluem constrangimento, sofrimento psicológico, danos reputacionais, assédio, estigmatização e violência.

Base legal e atuação da Safernet A ação do Ministério tem respaldo em dois marcos legais distintos.

A adulteração de imagens de crianças e adolescentes para gerar conteúdo sexualizado é crime tipificado no Estatuto da Criança e do Adolescente (ECA).