El presente y futuro de la IA: creen que podría matarnos; el debate es qué hacer al respecto

Jacob Coxon —recién salido de Anthropic— dijo, el 9 de septiembre, que las personas dentro de esos laboratorios «creen sinceramente» que la tecnología podría matarnos a todos antes del final de la década.

Evan Hubinger, investigador de alineación en Anthropic, no lo desmintió.

Al contrario. «Realmente creemos que la IA podría matar a todos los humanos», escribió en X. «Personalmente, pienso que es superior al 10 % en la próxima década».

Y añadió: «Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente en camino de tenerlo».

No es un tuitero exaltado.

Es el investigador principal de seguridad de una de las empresas que está construyendo exactamente eso que dice que podría matarnos.

Geoffrey Hinton, conocido como el «padrino de la IA» y premio Nobel, respaldó esa estimación. «Un 10 % parece una estimación no irrazonable, pero nadie sabe realmente cómo dar una estimación sensata», dijo en BBC Newsnight el 10 de septiembre.

Añadió que sería «muy tonto» asumir que el riesgo es tan bajo como el 1 %.

Musk, por su parte, ha situado el riesgo entre el 10 % y el 20 %, aunque su cifra no respalda la de Hubinger; es su propio rango.

Paul Christiano, nombrado esa misma semana para la junta de OpenAI, escribió: «Existe un riesgo significativo de que la aceleración rápida en capacidades de IA conduzca a una pérdida catastrófica e irreversible de control en el muy corto plazo».

Y añadió: «No creo que la industria de la IA en general, incluida OpenAI, esté actualmente en camino de reducir ese riesgo a un nivel aceptable».

Más de 1 300 empleados de empresas tecnológicas firmaron una carta abierta en julio de 2026 para pedir al gobierno de Estados Unidos un mecanismo que frenara el ritmo del desarrollo.

Entre los firmantes están Dario Amodei, CEO de Anthropic; Jakub Pachocki, chief scientist de OpenAI; Shengjia Zhao, chief scientist de Meta AI; y Shane Legg, chief AGI scientist de Google DeepMind.

El dato es alarmante.