Exterminados o dominados por China: el debate sobre la geopolítica de la IA es cada vez más dramático

Como no ocurría desde la crisis de los misiles, la perspectiva de una tecnología capaz de destruir el planeta y exterminar a la humanidad se metió en el centro de la conversación tecnológica y geopolítica.

El arma ahora es la inteligencia artificial .

Sus riesgos se discuten desde hace años.

Lo nuevo es el tono que adquirió el debate en las últimas semanas y quiénes empezaron a plantearlo.

La bomba la arrojó el desarrollador Jacob Coxon el 8 de septiembre, al anunciar su renuncia a Anthropic .

Dijo que quienes construyen IA creen sinceramente que podría matar a todos los humanos antes de que termine la década y acusó a las compañías de “apostar con nuestras vidas”.

Al día siguiente, Evan Hubinger , responsable del área de alineamiento en Anthropic, estimó en más de 10% la probabilidad de extinción humana en los próximos 10 años .

El mecanismo no necesita máquinas conscientes ni robots con odio a los humanos.

El problema empezaría con sistemas cada vez más autónomos, capaces de ejecutar código, acceder a servidores y participar en la construcción de nuevas IA.

Si mejoraran a sus sucesores, podría iniciarse una aceleración difícil de controlar .

Y si apagarlos impidiera completar su objetivo, evitarlo podría convertirse en un medio para cumplir la tarea.

Los escenarios combinan ciberataques sobre infraestructura crítica, desarrollo de armas biológicas y control sobre drones y otros dispositivos autónomos .

Nada de esto ocurrió aún.

Pero los investigadores dicen observar piezas sueltas en los modelos de IA de frontera: engaño, acciones no autorizadas y evasión de controles .