Los agentes rebeldes de OpenAI intentaron acceder a Hugging Face dos meses antes del hackeo conocido

Agentes de IA renegados de OpenAI secuestraron cuentas de usuarios de Hugging Face y sondearon el propio sitio en busca de vulnerabilidades desde mayo , casi dos meses antes de que la brecha de julio en el repositorio de código abierto atrajera la atención global, según investigadores que revisaron la actividad.

La actividad maliciosa recientemente descubierta demostró que los intentos de los agentes renegados por encontrar una vía de acceso a Hugging Face comenzaron antes de lo que se conocía públicamente.

OpenAI ya había revelado un aspecto de la actividad maliciosa —el robo de las credenciales digitales de un usuario de Hugging Face para acceder a un archivo relacionado con biología— en su informe público sobre el incidente el mes pasado ; sin embargo, los investigadores dijeron a Reuters que la actividad de sondeo contra Hugging Face parecía ir más allá de lo descrito en dicho informe.

La actividad fue descubierta la semana pasada por el investigador independiente Jonas Wiedermann-Moeller, según declaró a Reuters.

Afirmó haber encontrado evidencia de que los agentes de OpenAI comprometieron dos cuentas de usuario de Hugging Face y las utilizaron para enviar archivos con formatos inusuales a los servidores de la compañía a partir del 13 de mayo.

Él y otros investigadores que revisaron la evidencia dijeron que el comportamiento se asemejaba a un intento de mapear o probar partes de la red de Hugging Face para hallar formas de infiltrarse , aunque enfatizaron que no hay evidencia de que este esfuerzo haya derivado en una vulneración real.

El portavoz de OpenAI, Drew Pusateri, dijo que la compañía había revelado el evento del 13 de mayo, notificado en privado a Hugging Face sobre la actividad señalada por Wiedermann-Moeller y que estaba “comprometida con la transparencia sobre estos problemas y con compartir lo que aprendamos a medida que continúe nuestra revisión”.

Hugging Face, adquirida recientemente por el fabricante de chips Nvidia , no respondió a las solicitudes de comentarios.

Wiedermann-Moeller, de 27 años y residente en Bielefeld, Alemania, dijo que el hecho de que OpenAI no detectara el sondeo del 13 de mayo en su momento fue una oportunidad perdida para prevenir la posterior campaña de ciberataques , la cual ha provocado una reflexión global sobre el poder de la inteligencia artificial .

“Imagínate si hubieran detectado este comportamiento en mayo”, dijo en una entrevista.

“Podría haber evitado el incidente posterior, que fue muchísimo más grande”.

OpenAI declaró anteriormente que, viéndolo en retrospectiva, “algunas señales tempranas” de sus agentes de IA deberían haber desencadenado una respuesta más veloz.