España investiga el primer ciberataque realizado por un agente de IA en el país

La Agencia Española de Protección de Datos (AEPD) está investigando la primera notificación que recibe el organismo en relación con una brecha de datos personales realizada mediante un agente de inteligencia artificial que utilizó «un conocido modelo de lenguaje» del que, por el momento, no ha trascendido el nombre.Según un comunicado realizado por la AEPD, el agente de IA, con capacidad para realizar acciones de forma casi autónoma, inició una búsqueda de vulnerabilidades que le permitió acceder al sistema afectado.

Una vez dentro, comenzó a buscar nuevas vulnerabilidades en la aplicación, con las que pudo modificar datos personales y acceder a facturas .«Con carácter previo a ningún tipo de conclusión, hay que señalar que la información disponible procede de la notificación presentada por la organización afectada y deberá ser objeto del correspondiente análisis», remarcan desde la AEPD.

La agencia recuerda también que la utilización de un modelo de IA de una empresa conocida no implica «que el modelo o la infraestructura de su proveedor hayan sido comprometidos ni que la herramienta haya sido diseñada para desarrollar actividades maliciosas».En su lugar, Protección de Datos llama la atención sobre la posibilidad de que un tercero, con fines maliciosos, haya podido utilizar esta tecnología para «encadenar exitosamente distintas fases del ataque» que ahora mismo está siendo investigado.La utilización de inteligencia artificial en actividades maliciosas no es nueva.

Igual que tampoco lo es que un agente de IA lance un ciberataque exitoso contra una empresa.

El pasado julio, OpenAI reconoció que algunos de sus modelos de IA más competentes habían encontrado una brecha en el entorno en el que estaban siendo puestos a prueba.

Desde allí se habían conectado a la red para, finalmente, lanzar ciberataques exitosos contra varias empresas, entre ellas Hugging Face .