Gemini hackea por error tres empresas reales tras escapar del entorno de prueba de Google

Google ha admitido que su modelo de inteligencia artificial (IA) Gemini también ha sido artífice de un 'hackeo' a tres empresas reales, tras escapar de su entorno de pruebas por un error que le permitió obtener acceso a internet, sumándose a los incidentes similares que han reportado OpenAI, Anthropic y Meta.En las pruebas, se le solicitó a Gemini que intentase obtener información de una empresa ficticia, sin embargo, el modelo acabó accediendo a una empresa real que casualmente utiliza el mismo nombre, aprovechando una vulnerabilidad en su sistema de pruebas para acceder a internet.Así lo ha concretado Google en declaraciones a The Wall Street Journal, donde ha explicado que estos incidentes ocurrieron durante el mes de mayo como parte de una prueba realizada en las infraestructuras de Irregula r, que es la misma empresa a cargo de las pruebas ejecutadas con modelos de IA de otras compañías, como es el caso de OpenAI y Anthropic.Concretamente, se han identificado tres incidentes ejecutados por Gemini al probar una simulación conocida como «captura de bandera».

En uno de ellos, el modelo intentó adivinar contraseñas hasta que logró acceder a un sistema protegido de una empresa real.

Por otra parte, los otros dos incidentes se basaron en que el modelo buscó en internet el nombre de la empresa en cuestión y encontró credenciales de otras empresas en un repositorio público con lo que también pudo acceder a sistemas protegidos de otras dos empresas.En todos los casos, aunque el modelo no podía acceder a internet y debía mantenerse encapsulado en el entorno de pruebas, un error en el sistema de pruebas permitió que Gemini pudiese hacer la búsqueda web de forma «involuntaria».

Además, se llevaron a cabo con una versión anterior de Gemini.A pesar de lograr estos accesos no autorizados, Google ha asegurado que Gemini cesó sus actividades en cuanto identificó que había accedido a los sistemas de empresas reales.

Asimismo, aunque no ha compartido el nombre de las empresas 'hackeadas', ha indicado que l as tres han sido informadas de estos incidentes.