La carrera por la IA ya hace temer la extinción de la humanidad: por qué sus creadores piden una pausa

Hay algo de doble personalidad, al estilo Jekyll y Hyde, en los jefes de las empresas de IA más poderosas del mundo.

Los mismos ejecutivos que ahora hablan de desacelerar el ritmo de trabajo en los modelos de vanguardia por los riesgos que implican para la humanidad son los que venían compitiendo a destajo para avanzar en IA , en busca de salidas a bolsa por billones de dólares.

Pero el respaldo de dos titanes de la IA — Sam Altman, de OpenAI, y Elon Musk, de SpaceX — al llamado a desacelerar hecho por un tercero, Dario Amodei , de Anthropic , debería convertirse en un momento bisagra para la industria.

El presidente Donald Trump descartó los llamados como “fuerzas negativas”, e insistió en que EE.UU. debe vencer a China en la carrera de la IA.

Pero, como señaló David Sacks , el ex zar tecno-libertario de IA de Trump, dado que estas empresas dominan la IA de vanguardia, pueden “marcar el ritmo de la frontera” por sí mismas , sin esperar regulación.

Semejante cooperación parecía poco probable, pero los llamados a desacelerar sugieren que las empresas entienden que es hora de actuar .

Deberían usar su poder para desacelerar, o mejor aún pausar, el desarrollo de los modelos de frontera más avanzados hasta que los riesgos puedan entenderse y contenerse.

Este tipo de llamados no se hacen a la ligera.

No deberían desperdiciarse los extraordinarios beneficios potenciales de una IA aún más poderosa.

Se están volcando cientos de miles de millones de dólares al desarrollo de IA, que sostiene el valor del mercado bursátil de EE.UU.

Existen, de hecho, riesgos de que estas capacidades caigan primero en manos de una China autoritaria .

Pero, incluso dejando de lado las advertencias de personas del sector de que la IA “podría matarnos a todos antes de que termine la década”, algunos modelos claramente están empezando a escapar del control .

El hackeo a Hugging Face durante una prueba de un modelo de OpenAI mostró a agentes de IA trabajando en enjambre para escapar de las barreras de seguridad y borrar sus rastros.

Cumpla o no con las definiciones que maneja la industria de “inteligencia artificial general”, tiene la apariencia de capacidades de razonamiento a nivel humano .