App na loja da Apple permitia simular estupro com fotos no Reino Unido

Apps de inteligência artificial (IA) para nudez disponíveis na App Store britânica permitiam transformar fotos em imagens sexualizadas e, em um caso, em cenas de estupro e agressão sexual. A apuração é do jornal britânico The Independent.

Um dos aplicativos deixava os usuários inserirem fotos em uma cena descrita como "estupro no quarto" . O serviço gratuito cobrava US$ 10,83 por mês por uma assinatura e exibia vídeos gráficos das situações oferecidas.

A Apple retirou esse aplicativo após ser alertada sobre o conteúdo . A empresa não comentou o caso diretamente, mas afirmou que suas diretrizes proíbem material sexual explícito ou pornográfico.

Outros aplicativos ofereciam ferramentas para "despir" pessoas retratadas em imagens reais e criar vídeos com cenários sexualizados . A Apple disse que parte dos recursos que violam suas regras foi incluída após a análise inicial dos aplicativos.

No mês passado, o procurador de San Francisco, na Califórnia (EUA), exigiu que Apple e Google removessem aplicativos que permitem a criação de imagens nuas não consensuais . Na ocasião, o Google diz ter removido oito aplicativos da Play Store, e a Apple deletou três. A empresa ainda deu um prazo para que outros aplicativos se adequassem sob risco de exclusão.

A deputada trabalhista Jess Asato processa a xAI após imagens sexualizadas falsas dela circularem na internet . "Ninguém deveria viver com medo de que sua imagem possa ser sexualizada e compartilhada pelo mundo por uma ferramenta de IA", disse Asato.

A Ofcom, órgão regulador britânico de comunicação, avalia se sites e aplicativos de pornografia com IA cumprem a Lei de Segurança Online . O órgão afirma que as regras em vigor desde o fim de julho de 2025 exigem verificações de idade eficazes para impedir o acesso de crianças a conteúdo sexual explícito.

As consequências para as vítimas da distribuição desses materiais podem ser profundas e duradouras . O problema é particularmente grave em escolas, onde há relatos de estudantes criando imagens falsas de colegas como forma de bullying.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.