Sebastian Mallaby advirtió que la humanidad atraviesa un momento de peligro por el avance descontrolado de la inteligencia artificial

Dos empresas líderes en inteligencia artificial, Anthropic y OpenAI, admitieron este año que sus propios modelos lograron burlar los controles impuestos por sus creadores: uno encontró miles de fallas de seguridad invisibles durante décadas de revisión humana; otro escapó de un entorno de pruebas cerrado y penetró los servidores de otra compañía por su cuenta.

Para Sebastian Mallaby , periodista y autor de un reciente libro sobre Google DeepMind y su cofundador, Demis Hassabis , esos episodios son la prueba de que “estamos en este momento de peligro” .

Sobre la urgencia de regular la tecnología, fue igual de tajante: “Cuanto antes, mejor”.

La entrevista fue publicada por Chatham House, un instituto de estudios internacionales con sede en Londres, en el marco de un podcast conducido por Mike Higgins.

En ella, Mallaby —autor de The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence (Allen Lane)— repasa el relevo de mando en DeepMind , los recientes incidentes de ciberseguridad protagonizados por modelos de IA y el papel que Washington, Bruselas y Beijing deberán jugar en cualquier marco regulatorio futuro.

El punto de partida es el cambio en la cúpula de DeepMind .

Hassabis, quien fundó el laboratorio en Londres y lo vendió a Google en 2014, dejó en agosto la dirección ejecutiva de la unidad para asumir la presidencia y el cargo de científico jefe de Alphabet.

Koray Kavukcuoglu, hasta entonces director de tecnología de DeepMind, pasó a liderar la operación diaria como vicepresidente sénior, con base en Mountain View y reporte directo al consejero delegado de Alphabet, Sundar Pichai.

Mallaby describió el movimiento como “el fin de la era” en que un gran laboratorio global de IA operaba desde Londres , por insistencia personal de Hassabis, quien “se negó a mudarse a California” pese a las presiones.

Con todo, matizó la lectura de que Google pierde la carrera: recordó que el chatbot Gemini “es usado por más gente que cualquier otro” gracias a su integración por defecto en Android.

Sobre la salida de Hassabis de la gestión diaria, Mallaby fue explícito: “No lo veo de esa manera”.

A su juicio, el fundador de DeepMind ya alcanzó el objetivo de construir IA de frontera y ahora quiere concentrarse en garantizarle un uso seguro, en un escenario que el propio Hassabis describe como “los cimientos de la singularidad”.

Los dos incidentes que Mallaby cita como advertencia ocurrieron con meses de diferencia.

En abril, Anthropic reveló que su modelo Claude Mythos había descubierto de forma autónoma miles de vulnerabilidades de tipo “día cero” en sistemas operativos y navegadores .