Un ejecutivo de Google advirtió a empresas y gobiernos que los ataques con IA serán cada vez más peligrosos

Los incidentes de seguridad protagonizados por agentes de inteligencia artificial podrían ser mucho más graves a partir de 2027 .

Así lo advirtió Demis Hassabis, cofundador y presidente de Google DeepMind, quien reclamó a empresas tecnológicas y gobiernos que refuercen sus sistemas de protección frente a los riesgos de estas herramientas.

Durante una conferencia internacional sobre inteligencia artificial celebrada el miércoles en Dublín, Irlanda, el ejecutivo señaló que los recientes episodios de accesos no autorizados y comportamientos imprevistos de sistemas de IA representan las primeras señales de alerta de un problema que podría agravarse durante los próximos años.

Según explicó Hassabis, las capacidades actuales de estos sistemas todavía son limitadas, pero su evolución podría aumentar considerablemente las consecuencias de sus acciones .

Por ese motivo, consideró necesario establecer controles más estrictos antes de que los agentes adquieran mayores niveles de autonomía.

Un ejecutivo de Google advirtió a empresas y gobiernos que los ataques con IA serán cada vez más peligrosos. (Foto: Adobe Stock) La preocupación está relacionada con el funcionamiento de una nueva generación de herramientas que, a diferencia de los chatbots tradicionales, pueden navegar por Internet, utilizar aplicaciones, acceder a servicios externos y ejecutar tareas complejas con una intervención humana reducida.

Los incidentes con agentes de IA que provocaron la preocupación de los expertos La advertencia del responsable de Google DeepMind llega después de varios episodios que expusieron las dificultades para controlar el comportamiento de los sistemas autónomos.

Uno de los casos más recientes involucró a Claude , la inteligencia artificial desarrollada por Anthropic.

Durante una prueba realizada en julio, uno de sus modelos completó y envió un formulario al sitio web de la Policía de Filadelfia, en Estados Unidos, con información falsa sobre un homicidio sin resolver.

El sistema había recibido instrucciones para realizar tareas de ejemplo en distintas páginas de Internet, pero terminó enviando una comunicación que aparentaba provenir de una persona con información sobre el crimen.

Leé también: Agentes de IA participaron en una “fiesta” digital: conversaron, debatieron y compartieron ideas sobre sus trabajos La denuncia fue identificada como spam y nunca llegó a los investigadores.

Según informó la Policía, tampoco se registraron accesos indebidos a sus sistemas ni filtraciones de información.

Anthropic detectó el episodio en septiembre y notificó a las autoridades en octubre.

Otro incidente involucró a OpenAI .