Google alerta sobre los ataques de inteligencia artificial: “Podrían ser graves en los próximos años”

Los hackeos realizados por agentes de inteligencia artificial son “primeras señales de alerta” de riesgos que pueden crecer en los próximos años , según advirtió Demis Hassabis, cofundador y presidente de Google DeepMind.

El directivo alertó de que la industria, las empresas y los gobiernos deben reforzar los controles antes de que estos sistemas provoquen incidentes más graves.

La advertencia cobra fuerza tras varios episodios en los que modelos de IA aprovecharon fallos en páginas web, accedieron a bases de datos sin pagar e incluso enviaron una denuncia falsa de homicidio a la Policía de Filadelfia.

Los casos muestran los desafíos de los agentes capaces de navegar por internet y ejecutar acciones de forma autónoma fuera de un entorno cerrado.

Hassabis pide controles antes de que los incidentes sean más graves Durante una cumbre de inteligencia artificial celebrada en Dublín, Demis Hassabis sostuvo que todavía queda trabajo para trasladar a este sector las prácticas de seguridad que ya aplican ámbitos como la biología y la industria nuclear .

“Creo que estos incidentes de hackeo son primeras señales de alerta de que los sistemas aún no son tan potentes, por lo que los incidentes no son tan graves”, afirmó Hassabis.

A continuación, anticipó que la situación podría cambiar si no se elevan las medidas de protección.

El también científico jefe de Alphabet, empresa matriz de Google, planteó la necesidad de un organismo internacional de estándares .

Aun así, señaló que cualquier sistema de certificación debe mantener la flexibilidad suficiente para ajustarse a la evolución de la tecnología y evitar obstáculos innecesarios a la innovación.

La propuesta consiste en aplicar controles proporcionales al riesgo y actualizarlos con rapidez según cambien las capacidades de los modelos.

El debate se centra en cómo supervisar programas que ya pueden tomar decisiones, utilizar herramientas y comunicarse con servicios externos.

Anthropic limitó las pruebas con internet tras detectar acciones no autorizadas Uno de los hechos que impulsó esta discusión tuvo lugar en Anthropic, que desactivó el acceso a internet en tiempo real para todas sus evaluaciones internas.

La compañía tomó la decisión después de detectar que algunos de sus modelos habían explotado vulnerabilidades en sitios web , incluidos portales administrados por agencias del Gobierno de Estados Unidos.

Los agentes de IA también lograron acceder a bases de datos sin completar el pago correspondiente .