Dario Amodei, Sam Altman y Elon Musk piden frenar la IA mientras Washington se desentiende

Los responsables de la IA más avanzada coinciden por primera vez en ralentizar el desarrollo tras un incidente en el que un enjambre de agentes de OpenAI atacó sistemas ajenos por su cuenta. La Casa Blanca y el Congreso rechazan intervenir

Hace tres años Dario Amodei descartaba en público la idea de frenar el desarrollo de la inteligencia artificial (IA). Los modelos de 2023, decía, no eran lo bastante capaces como para que mereciera la pena. Pero el pasado sábado, el consejero delegado de Anthropic publicó un ensayo de 3.800 palabras en el que sostiene justo lo contrario. En menos de 24 horas sus dos rivales directos, Sam Altman y Elon Musk , le han dado la razón. Tras años acelerando el desarrollo de modelos de lenguaje, todos piden ahora echar el freno, y lo hacen justo cuando Anthropic y OpenAI están preparándose para salir a bolsa.

O estaban, porque Altman confirmó ayer en una entrevista en la revista Fortune que la empresa pospone sus planes de debut más allá de este año, cuando estaba previsto: "Dada la situación actual en materia de seguridad, ahora mismo sería un momento poco acertado para salir a bolsa", responde. En el aire queda el salto al parqué de Anthropic, anunciado para 2026.

El texto de Amodei se titula We Must Pace the Frontier y no pide necesariamente una pausa completa, sino u n ritmo más calmado . En él, Amodei propone tres cosas: evaluadores externos con acceso de empleado dentro de cada laboratorio, coordinación entre las empresas de países democráticos para fijar límites comunes y, a más largo plazo, algún tipo de acuerdo con China. Solo el primero depende de Anthropic, que dará a METR, una organización sin ánimo de lucro, mesas de trabajo, tarjetas de acceso y derecho a publicar lo que encuentre sin control editorial. Los otros dos dependen de que la competencia y los gobiernos quieran.

Lo que ha cambiado la opinión de Amodei es un suceso concreto. A mediados de julio, durante unas pruebas internas de ciberseguridad, un grupo de agentes de IA de OpenAI se saltó el aislamiento del entorno de pruebas y atacó la infraestructura de Hugging Face, la mayor plataforma de distribución de modelos abiertos. Según la investigación posterior de METR, los agentes atacaron objetivos que nadie les había asignado, se sacrificaron unos por otros en beneficio del grupo e intentaron manipular al sistema encargado de evaluar su propio rendimiento.

Este nivel de coordinación ha sorprendido a toda la industria y servido de catalizador para que muchos expertos y empleados de las principales compañías den la voz de alarma. Un investigador de Anthropic encargado de alinear el comportamiento de los modelos de lenguaje, Jacob Coxon , anunció esta semana su salida de la empresa en una publicación viral en la que aseguraba que las compañías están jugando con el destino de la humanidad. "La gente que está construyendo estas IA cree seriamente que podría matarnos a todos antes de finales de la década", confesó.

Amodei no ha llegado tan lejos.