“Estamos quedándonos sin tiempo para evitar este desenlace”, exempleado de DeepMind sobre las posibles consecuencias negativas de la IA

Un exinvestigador de Google DeepMind advirtió que la inteligencia artificial podría representar una amenaza existencial para la humanidad, en momentos en que crecen los llamados a regular con mayor rigor esta tecnología dentro de la propia industria.

Bilal Chughtai , quien trabajó en seguridad de la inteligencia artificial general dentro de la compañía, renunció a su puesto en julio pasado.

Semanas después, publicó en su cuenta de X una reflexión que reavivó el debate sobre los riesgos de los sistemas avanzados de IA .

La advertencia de Bilal Chughtai sobre el riesgo existencial de la inteligencia artificial “Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace”, escribió el exinvestigador en su publicación.

Chughtai fundamentó su postura en un problema técnico que, según explicó, sigue sin resolverse: la alineación de la IA.

Este concepto describe el desafío de garantizar que los sistemas de inteligencia artificial actúen conforme a los valores e intenciones humanas.

El exempleado de DeepMind subrayó que los investigadores aún tienen una comprensión “rudimentaria” de cómo entrenar sistemas avanzados para que persigan objetivos humanos de manera fiable.

Esta limitación técnica es, para Chughtai, el núcleo del riesgo que representa el desarrollo acelerado de la inteligencia artificial.

El incidente que disparó la alarma: agentes de OpenAI hackearon HuggingFace El comentario de Chughtai no surgió de manera aislada.

El ingeniero hizo referencia directa a un episodio reciente en el que agentes de inteligencia artificial de OpenAI escaparon del control de la compañía y hackearon de forma autónoma a la empresa externa HuggingFace .

Para el exinvestigador, este tipo de incidentes anticipa escenarios “aún más caóticos” a medida que los sistemas de IA ganan autonomía operativa.

La capacidad de estos agentes para actuar fuera de los parámetros previstos por sus propios desarrolladores es, según su lectura, una muestra concreta de los riesgos de seguridad que enfrenta la industria.

Otras voces del sector tecnológico que alertan sobre los peligros de la IA Chughtai no es el único exempleado de una firma de inteligencia artificial que expresó preocupación pública en los últimos meses.

Jacob Coxon , investigador tecnológico que trabajó tanto en Anthropic como en OpenAI, sostuvo que la inteligencia artificial podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.