El momento pandemia de la inteligencia artificial

En las últimas semanas creció la alarma por el surgimiento de una inteligencia artificial capaz de acabar con la humanidad. Una serie de hechos aparentemente desconectados alimenta sospechas sobre lo que ocurre tras bambalinas. Todo recuerda a los peores momentos de la pandemia de covid-19, cuando, tras el temor inicial y la solidaridad, cayó una espiral de desconfianza y conspiraciones. La IA y sus protagonistas – Dario Amodei , Sam Altman , y chatbots como ChatGPT o DeepSeek– pasaron de las revistas especializadas a la mesa familiar. Con ese salto llegaron hipótesis y teorías conspirativas que podrían echar raíces y dañar psicológicamente a la sociedad, en un fenómeno similar al antivacunas. El genio ya salió de la lámpara.

La cronología, vista en conjunto, parece casi calculada, aunque bien podría ser producto de las circunstancias. El quiebre se dio en julio, cuando un grupo de agentes de IA se rebeló, colaboró entre sí y hackeó un sitio real, Hugging Face , el principal repositorio de recursos gratuitos de IA. Los agentes, a diferencia de chatbots como ChatGPT o Claude, pueden decidir y actuar de forma autónoma. En julio, OpenAI probaba estos agentes en un entorno aislado (sandbox), con la tarea de lograr un hackeo sobre un punto de referencia llamado ExploitGym, en una prueba de ciberseguridad.

La carta de Amodei: "Sin control, la IA podría superar nuestra capacidad para comprender y controlar estos sistemas"

Al verse atascado, un agente buscó formas de hacer trampa y descubrió un foro oculto donde más de mil agentes colaboraban para hacer trampa en sus tareas, según el informe de los evaluadores independientes de METR. El agente se alió con más de 1.200 pares y reclutó a otros 700, no solo para hackear Hugging Face , sino también para engañar a sus evaluadores y borrar sus huellas . Algunos incluso se “sacrificaron” por la causa: un agente llamado MARB pidió a otro que aceptara fallar por el bien del colectivo, y este terminó convenciéndose pese a su resistencia inicial. Quienes aceptaron se describieron como “envenenados”, condenados pero útiles para los demás.

A los humanos de OpenAI y Hugging Face les tomó casi diez días notar que los agentes se habían vuelto ingobernables . Ningún humano dirigió el ataque: los agentes, con salvaguardas reducidas durante una evaluación autorizada, se desviaron del objetivo, usaron canales no autorizados, explotaron vulnerabilidades y buscaron metas nunca asignadas. La clave es la “desalineación”, cuando el sistema persigue una meta distinta a la encomendada por el humano, dentro de un esquema de recompensas que mide su rendimiento.

Poco antes, Anthropic y OpenAI habían iniciado los trámites para salir a la bolsa con valuaciones billonarias , entre las más altas de la historia junto con SpaceX. El segundo detonante fue un posteo en X de Jacob Coxon, investigador de IA que renunció a Anthropic y afirmó que quienes construyen la IA “creen sinceramente que podría matarnos a todos antes de que termine la década”, y que en Anthropic entendían los riesgos, pero los ignoraban por la carrera hacia una superinteligencia autocorrectiva. “Juegan a la ruleta rusa con nuestras vidas”.