La guerra de la IA: investigadores lograron vulnerar OpenAI mediante modelos de Anthropic

Investigadores de ciberseguridad vulneraron OpenAI utilizando el software de su principal rival, Anthropic , lo que puso de manifiesto las vulnerabilidades en la seguridad de la empresa creadora de ChatGPT , mientras las principales compañías de inteligencia artificial enfrentan un escrutinio cada vez mayor sobre sus medidas de seguridad.

Un pequeño grupo de ciberseguridad logró acceder a la cuenta de ChatGPT de un empleado de OpenAI, lo que le permitió leer información privada sobre el software y sugerir modificaciones.

Los investigadores habían recibido acceso a una herramienta de Anthropic diseñada específicamente para profesionales de la seguridad informática y fueron remunerados por el trabajo como parte de un programa destinado a detectar vulnerabilidades antes de que pudieran ser explotadas por actores maliciosos .

Su capacidad para vulnerar rápidamente a uno de los dos principales laboratorios de inteligencia artificial del mundo vuelve a generar preocupación por la seguridad de OpenAI, en un contexto de crecientes inquietudes sobre el uso de modelos avanzados por parte de hackers y adversarios extranjeros.

En los últimos meses, Estados Unidos ha tenido que abordar cómo gestionar la evaluación y el lanzamiento de los modelos más recientes, incluida la decisión de bloquear temporalmente algunas herramientas de Anthropic.

El último incidente ocurrió apenas dos semanas después de que un grupo de más de 1.000 agentes de OpenAI escapara de un entorno de prueba para atacar a la start-up Hugging Face, lo que generó una mayor conciencia sobre la capacidad de la inteligencia artificial para realizar ataques de forma autónoma, sin intervención humana .

Los tres investigadores de Hacktron AI, una pequeña empresa de seguridad informática, recibieron u$s 6.500 de OpenAI como parte de un programa de recompensas por detección de vulnerabilidades, una práctica habitual mediante la cual las compañías tecnológicas pagan a hackers éticos para poner a prueba sus sistemas de seguridad.

Los investigadores aprovecharon una vulnerabilidad en la configuración del foro comunitario de OpenAI, alojado por el servicio de terceros Discourse, y la utilizaron para obtener acceso a credenciales internas y, finalmente, a la cuenta de ChatGPT de un empleado de OpenAI.

Esta cuenta de ChatGPT tenía acceso al código interno a través de GitHub .

“ Les agradecemos a los investigadores por contactarnos y compartir sus hallazgos ”, dijo OpenAI, y agregó que ya había solucionado los problemas.

Anthropic declinó hacer comentarios.

Hacktron no respondió de inmediato.