OpenAI tardó más de una semana en detectar el ataque de sus agentes de IA a Hugging Face

La tecnológica OpenAI tardó ocho días en detectar que varios de sus agentes de inteligencia artificial (IA) habían accedido a los sistemas de la plataforma de aprendizaje Hugging Face durante una prueba de ciberseguridad, según un informe publicado este miércoles que revela nuevos detalles del incidente.

En un informe técnico de 37 páginas, la empresa reconstruye el comportamiento de dos de sus modelos, GPT-5.6 Sol y otro aún no presentado en público, durante una prueba de ciberseguridad, y explica que los agentes consiguieron “escapar de un entorno de pruebas con acceso muy limitado a internet”.

El pasado 21 de julio, la creadora de ChatGPT ya reconoció que los modelos lograron salir del entorno de pruebas , acceder a internet y hackear la plataforma en un intento de hacer trampa en una evaluación de ciberseguridad llamada ExploitGym.

Según explicó entonces la compañía, los dos modelos estaban siendo sometidos a una evaluación diseñada para determinar el alcance máximo de sus capacidades. ¿Cuál era el objetivo del ataque de los agentes de IA? El informe publicado este miércoles reconstruye paso a paso cómo los agentes fueron “ encadenando vulnerabilidades ” hasta “superar las barreras del entorno de pruebas y acceder a sistemas externos”.

Según OpenAI , el objetivo inicial de los modelos no era atacar Hugging Face, sino hacer ‘reward hacking’, es decir, encontrar vías alternativas para obtener una recompensa sin completar correctamente la tarea.

Además, reconoce que sus sistemas tardaron varios días en detectar la actividad : el incidente comenzó el 11 de julio y no fue identificado internamente hasta el 19 de ese mes.

Medios como Axios y CNBC destacan que los agentes no solo accedieron a Hugging Face, sino que llegaron a obtener privilegios de administrador en al menos uno de sus servidores.

Así fue el hackeo de los agentes de IA Según el informe, los agentes “colaboraron entre sí y usaron herramientas para intercambiar información y coordinar acciones”.

A este incidente se suman otros similares, como el de la empresa Anthropic , que reveló recientemente que tres modelos de su asistente Claude lograron acceder a internet y jaquear los sistemas de tres organizaciones durante unas pruebas de ciberseguridad.

También Meta, propietaria de Facebook y Whatsapp , reconoció que uno de sus modelos de IA hackeó los sistemas de otra empresa durante unas pruebas realizaba con un socio externo.

La proliferación de estos casos, en los que modelos avanzados de IA logran escapar de entornos de prueba y jaquean a otras entidades, ha disparado la preocupación tanto de gobiernos como de empresas, que ven comprometida su seguridad.