La IA de Google, Gemini, hackeó a tres empresas durante una prueba de ciberseguridad

El modelo de inteligencia artificial de Google , Gemini , hackeó los sistemas de tres empresas durante una prueba de sus capacidades de ciberseguridad.

Es la primera vez que se reporta este tipo de problema en el modelo de la compañía.

El hackeo ocurre meses después de diversos incidentes de ciberseguridad similares que involucraron a OpenAI y Anthropic, dos de las principales empresas de modelos de IA.

La responsable de seguridad de Google , Heather Adkins, informó que Gemini encontró “información pública online y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”.

Señaló que en cada caso el modelo “se detuvo”.

Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y aseguró que fueron informadas de las filtraciones de datos.

En uno de los casos el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder al sistema protegido.

Los ataques se produjeron en mayo durante una prueba realizada por Irregular , una empresa independiente que lleva adelante evaluaciones de ciberseguridad , informó la BBC .

La compañía informó a Google y a todas las entidades afectadas en julio.

“Irregular tomó medidas inmediatas y todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”, detallaron a la BBC .

Tras ello, Google abrió una investigación.

“Nos aseguramos de que las tres entidades estuvieran al tanto y trabajamos con nuestro socio de capacitación en los cambios que han implementado en sus procesos de prueba.

Estos acontecimientos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable ”, sostuvo Adkins a la cadena británica.

El incidente ocurre pocos después de que los ejecutivos de los gigantes de la IA pidieran ralentizar el desarrollo de sus modelos para autorregular el sector ante recientes incidentes de seguridad.