Tres adolescentes demandaron a xAI y acusan a Grok de generar imágenes sexuales falsas de menores

“De la noche a la mañana, la vida de Jane Doe 4 se hizo añicos”.

La frase pertenece a la primera demanda presentada por tres adolescentes —dos de ellas menores de edad— contra xAI , la empresa de inteligencia artificial (IA) de Elon Musk , en la que se alega que el sistema Grok utilizó fotografías para producir y distribuir material de abuso sexual infantil.

La denuncia, presentada en el Distrito Norte de California en marzo, detalla cómo las víctimas descubrieron que imágenes de ellas falsas y alteradas con IA se difundieron en Discord , informó The Guardian.

Todo comenzó cuando una de las víctimas, identificada como Jane Doe 1, recibió un mensaje de un usuario anónimo para alertarla sobre la circulación de estas imágenes en internet.

Se trataba de fotografías tanto de ella como de sus compañeras de escuela.

“Las imágenes mostraban su cuerpo entero, incluidos sus genitales, completamente desnudo.

El video la mostraba desnudándose hasta quedar totalmente desnuda”, indica la denuncia.

Los investigadores criminales también descubrieron que las imágenes eran compartidas en Telegram , donde se habrían utilizado como “moneda de cambio para obtener otro material de abuso sexual infantil”.

Ese mismo mes, la policía arrestó a un sospechoso y encontró material de abuso sexual infantil en su teléfono, presuntamente generado con Grok. xAI no respondió de inmediato a la solicitud de comentarios de The Guardian.

“La IA optó por lucrarse con la depredación sexual de personas reales, incluidos niños, a pesar de conocer perfectamente las consecuencias de crear un producto tan peligroso”, señaló Vanessa Baehr-Jones, abogada de los demandantes, en un comunicado.

En ese sentido, la demanda busca una indemnización contra xAI por los daños a la reputación y a la salud mental de las afectadas .

“Ver a mi hija sufrir un ataque de pánico al darse cuenta de que estas imágenes fueron creadas y distribuidas sin ninguna esperanza de poder borrarlas fue desgarrador”, dijo la madre de una de las niñas a través de un representante.

El caso se suma a la lista de acciones legales e investigaciones en curso contra xAI por la creación de imágenes sin consentimiento .

De hecho, investigadores del Centro para la Lucha contra el Odio Digital (CCDH) calcularon que Grok creó cerca de 3 millones de fotografías sexualizadas en menos de dos semanas.