¿Puede la Inteligencia Artificial terminar con el mundo? Y si sí, ¿cómo?

El martes a la noche, un investigador de 27 años renunció a Anthropic, la empresa que desarrolla Claude, una de las inteligencias artificiales más usadas del mundo.

Lo anunció con un mensaje en X que en un día superó los cien millones de visualizaciones: “La gente que construye la IA cree en serio que podría matarnos a todos antes de que termine la década.

Esto no es una movida de marketing”.

Y agregó que muchos ejecutivos suavizan lo que dicen en la prensa para sonar sensatos, pero que en privado él los escucha expresar su miedo.

Lo más fuerte, sin embargo, vino horas después.

Evan Hubinger , que en esa misma empresa lidera el trabajo para que la IA no se salga de control, le contestó en público: “Jacob tiene razón.

De verdad creemos que la IA podría matar a todos los humanos.

Personalmente creo que la probabilidad es de más del 10% en la próxima década”.

Y admitió que todavía no tienen un plan para evitarlo.

Hubinger no renunció.

Sigue trabajando ahí.

No fue una voz aislada.

En la misma semana, Geoffrey Hinton , premio Nobel de Física y uno de los padres de esta tecnología, dijo en la BBC que un 10% no le parece una estimación descabellada.

Paul Christiano , uno de los creadores de la técnica con la que se entrena a ChatGPT, se sumó al comité de seguridad de OpenAI advirtiendo que si construimos una superinteligencia sin saber controlarla, “la mayoría de la gente podría morir” .