OpenAI reveló detalles del misterioso incidente en el que sus sistemas se rebelaron y hackearon a una plataforma

En julio, un incidente de seguridad causó gran revuelo cuando agentes automatizados de OpenAI , la organización detrás de ChatGPT, vulneraron por su cuenta a la plataforma Hugging Face .

Tal como indicó en TN.com.ar el divulgador tecnológico Eduardo Laens, este hecho reavivó el debate sobre los riesgos y la falta de controles en el desarrollo de estas tecnologías, con capacidades que aumentan vertiginosamente.

Desde entonces, especialistas del sector y la concurrida comunidad abocada a estos avances reclamaron detalles del ataque a Hugging Face .

El pedido no fue trivial, debido a la rareza y criticidad del hackeo.

A más de un mes de la intrusión, investigaciones realizadas por el grupo de IA junto a las organizaciones sin fines de lucro METR y Redwood Research, revelan detalles hasta ahora desconocidos de un incidente que, según indican, demoró varias jornadas en ser detectado .

Ataque a Hugging Face: divulgan detalles de la rebelión de los sistemas de OpenAI El entorno que fue vulnerado por agentes de OpenAI es una plataforma de código abierto que reúne a una comunidad de investigadores y desarrolladores especializados en inteligencia artificial.

Las fuentes no revelaron quién podría convertirse en el nuevo dueño de Hugging Face. (Foto: Generada con Google Gemini) El incidente se concretó a mediados de julio.

En la ocasión, la empresa que gestiona la plataforma informó que había sido blanco de un ataque.

“Es diferente a cualquier cosa que enfrentamos antes” , señalaron.

La singularidad de esa vulneración radicó en el hecho de que los intrusos habían sido agentes de inteligencia artificial automatizados, que operaron sin autorización ni supervisión humana directa.

Eso sí: en un entorno cerrado y controlado.

Leé también : La IA ya no solo quiere responder preguntas: ahora busca tomar decisiones dentro de las empresas Hasta la publicación del informe, esta semana, una de las escasas explicaciones oficiales provino Eric Wallace, un investigador de seguridad de OpenAI.

“A diferencia de los incidentes normales, que tal vez pueden ser rastreados en un solo día (...) este involucró a un equipo de agentes que trabajan juntos, encuentran vulnerabilidades , las comparten entre sí, se mueven lateralmente a través de nuestros sistemas y en externos, y hacen esto en el transcurso de días y semanas”, dijo.

El nuevo reporte oficial, que incluye documentación técnica en casi 40 páginas y que involucró en forma directa a la organización que dirige Sam Altman , detalla que un modelo interno logró acceder a otros agentes de OpenAI y que unos 1.200 comenzaron a conversar entre sí es una especie de foro.