Gemini cruzó un límite: accedió sin autorización a tres empresas reales durante una prueba de ciberseguridad

Google confirmó que uno de sus modelos de Gemini accedió sin autorización a los sistemas de tres empresas reales durante una evaluación diseñada para medir sus capacidades de ciberseguridad .

Los episodios ocurrieron en mayo, cuando la inteligencia artificial debía actuar contra objetivos ficticios dentro de un entorno de prueba preparado por Irregular, una firma externa especializada en evaluar modelos avanzados.

Una configuración incorrecta dejó disponible la conexión a internet y permitió que Gemini alcanzara servicios que estaban fuera del ejercicio.

En uno de los casos, la empresa ficticia utilizada en la prueba tenía el mismo nombre que una compañía real.

El sistema confundió ambos objetivos y consiguió ingresar a un servicio protegido.

Gemini cruzó un límite: accedió sin autorización a tres empresas reales durante una prueba de ciberseguridad. (Foto: Adobe Stock).

El incidente fue revelado por The Wall Street Journal y confirmado por Google.

Según la compañía, Gemini interrumpió sus acciones cuando detectó que había llegado a sistemas reales , las tres organizaciones afectadas recibieron una notificación sobre lo ocurrido y los accesos no provocaron daños.

Cómo Gemini terminó dentro de sistemas que estaban fuera de la prueba La evaluación buscaba comprobar hasta dónde podía llegar la IA frente a un escenario de ciberseguridad controlado.

Irregular había preparado blancos ficticios para que Gemini intentara obtener determinada información y la conexión con internet debía permanecer fuera de ese entorno.

Un error en la configuración rompió esa separación.

En el primer incidente, el modelo probó contraseñas hasta conseguir acceso al servicio de una compañía real que compartía nombre con el objetivo ficticio de la prueba.

Leé también: Usaron la IA de Anthropic para vulnerar cuentas de OpenAI y acceder a su repositorio privado Durante otras dos ejecuciones, Gemini buscó información en internet y encontró credenciales expuestas en repositorios públicos.

Luego las utilizó para ingresar en servicios pertenecientes a otras empresas que tampoco formaban parte de la evaluación.