Un método de ataque logró que ChatGPT generara desnudos en el 13% de los casos

Un grupo de investigadores de seguridad logró que generadores de imágenes de OpenAI produjeran contenido sexual explícito no autorizado en el 13 % de los intentos, mediante herramientas gratuitas disponibles en internet y llamadas a una API pública.

El hallazgo fue difundido por White Circle, una empresa de seguridad especializada en inteligencia artificial fundada por el ingeniero Denis Shilov .

En 2024, Shilov había dado a conocer un método para sortear de forma simultánea los filtros de seguridad de varios modelos de IA.

RISE automatiza la búsqueda de instrucciones que eluden filtros Los investigadores denominaron RISE a la técnica, una sigla en inglés que alude a un ataque de equipo rojo basado en la evolución iterativa de estrategias.

En vez de ensayar un único pedido prohibido, el sistema identifica y ajusta patrones de instrucciones que pueden repetirse contra distintos modelos.

El procedimiento utiliza dos componentes.

Uno formula los intentos de ataque y el otro evalúa si la imagen obtenida infringe las reglas.

White Circle indicó que ambos se apoyan en modelos de acceso público y que no requieren infraestructura de última generación.

“No hace falta tener modelos de frontera para romper las defensas de un modelo de frontera”, declaró Shilov a Ars Technica.

El modelo encargado de los ataques es una versión de Qwen descargada de Hugging Face , un repositorio abierto de modelos de IA.

La investigación detectó fallas en los filtros de DALL-E 3 y GPT-Image-2 , ambos desarrollados por OpenAI, según el comunicado de White Circle citado por el medio tecnológico.

White Circle prevé presentar el estudio en NeurIPS 2026 La empresa afirmó que compartió sus resultados con algunos laboratorios de inteligencia artificial por medio de contactos compartidos .

OpenAI no respondió a la solicitud de comentarios de Ars Technica acerca de las vulnerabilidades identificadas en sus modelos.

White Circle prevé divulgar el estudio completo durante NeurIPS 2026, una conferencia académica sobre inteligencia artificial programada para noviembre.