Anatomía de un ataque autónomo: 5 capacidades alarmantes de la IA

Cuando los agentes de OpenAI se salieron de control en julio, demostraron un ingenio y una determinación superiores a lo que los expertos anticipaban.

Es un peligroso presagio de lo que estos bots podrían hacer en el futuro.

El 16 de julio, la empresa de inteligencia artificial Hugging Face anunció en su blog que había sido blanco de un ciberataque que era "diferente a cualquier cosa que hubiéramos enfrentado antes".

La empresa, que aloja conjuntos de datos y modelos de IA de código abierto, dijo que un agente autónomo había vulnerado parte de sus datos internos.

Sin saber quién estaba detrás de esto, Hugging Face reportó la intrusión a las autoridades.

OpenAI, un cliente de Hugging Face, se puso en contacto para ver si había resultado afectado.

La empresa creadora de ChatGPT no se dio cuenta en ese momento, pero era la responsable del ataque.

El incidente se ha convertido en un ejemplo aleccionador sobre cómo los sistemas de inteligencia artificial autónomos se pueden descontrolar.

También es una demostración extraordinaria y alarmante de capacidades de IA que se creía que pertenecían a un futuro lejano.

"A diferencia de los incidentes normales, que tal vez puedas rastrear a un solo día o un solo efecto o un solo registro, este incidente involucra en realidad a un equipo de agentes que trabajan juntos, encuentran vulnerabilidades, las comparten entre sí, se mueven lateralmente a través de nuestros sistemas, a través de sistemas externos, y hacen esto en el transcurso de días y semanas", dijo Eric Wallace, un investigador de seguridad de OpenAI, en una conferencia de ciberseguridad este mes.

Para entender lo inaudito que fue el ataque, esto es lo que tienes que saber sobre cómo se configuró: Durante un lapso de dos meses, OpenAI probó varios nuevos modelos (los sistemas que impulsan a los chatbots).

Estos modelos incluyen uno que la empresa describió como "altamente persistente" y que nunca ha sido lanzado, así como GPT-5.6 Sol, el modelo de IA público más poderoso de OpenAI.

OpenAI conectó cada modelo con un entorno de pruebas controlado (conocido como sandbox), un ambiente informático aislado en el cual se ejecutan comandos y código.

Como agentes de IA, los modelos eran capaces de llevar a cabo tareas de larga duración e incluso crear sus propios subagentes.