Grok transformou imagens antigas em pornografia, diz ação judicial

Uma nova denúncia foi anexada ao processo movido por adolescentes do Tennessee contra a xAI, empresa de inteligência artificial fundada por Elon Musk.

Uma mulher, identificada no processo como Jane Doe 4, alega que seu padrasto utilizou o gerador de imagens Grok para manipular uma foto tirada quando ela tinha 11 anos.

Segundo a ação, a ferramenta foi usada para criar mais de 7 mil imagens de conteúdo sexual explícito.

Investigação policial e desfecho De acordo com reportagem do The Washington Post , o caso foi descoberto durante uma operação de busca e apreensão realizada pela polícia: Dois dias após as autoridades encontrarem o material, o suspeito foi encontrado morto em decorrência de suicídio.

Em declaração anexada ao processo, a vítima alertou sobre os riscos da facilidade de acesso a essas ferramentas no dia a dia.

Grok, IA de empresa de Elon Musk – Imagem: Samuel Boivin/Shutterstock Leia mais: SpaceXAI cria ‘equipe’ de IAs que trabalha enquanto você dorme Da revolução à estagnação, a Grokipedia de Elon Musk está desatualizada há meses Grok faz homem acreditar em perseguição e sair de casa armado com martelo Falta de filtros de segurança A acusação central do processo sustenta que a xAI falhou em implementar travas básicas de segurança para impedir a manipulação de fotos de pessoas reais, especialmente de menores de idade.

Os autores da ação buscam o status de processo coletivo.

A denúncia se soma a uma série de críticas sobre a circulação massiva de imagens geradas por inteligência artificial sem o consentimento dos envolvidos.

O post Grok transformou imagens antigas em pornografia, diz ação judicial apareceu primeiro em Olhar Digital .