La alucinación de una IA que casi abrió fuego entre EEUU y China

Trump y Xi llegan a su cumbre de Washington atrapados entre el temor a que un algoritmo provoque una guerra y la carrera por dominar la tecnología que decidirá las próximas batallas

El aviso parecía lo bastante grave como para movilizar aviones y preparar a un grupo de militares estadounidenses para abordar un carguero chino en Oriente Próximo. Según un informe de inteligencia estadounidense distribuido en primavera, en plena guerra con Irán , el buque transportaba componentes destinados a un programa de armas nucleares . Los mandos comenzaron a organizar la interceptación. Sólo cuando la operación estaba a punto de ejecutarse, alguien volvió a mirar con detenimiento el documento que había encendido todas las alarmas.

La fuente decisiva no era un espía infiltrado, una imagen de satélite ni una comunicación interceptada. Era un chatbot .

Según una información publicada por la CNN , un analista de un comando de operaciones especiales de EEUU había recurrido a la IA para examinar la carga del barco. La máquina identificó erróneamente el material y su conclusión acabó convertida en un informe que circuló como si fuera inteligencia fiable.

El documento era "completamente falso" y " estuvo a punto de desencadenar una guerra ", relató una de las cuatro fuentes conocedoras del episodio citadas por CNN . Atacar o abordar por la fuerza un buque chino habría colocado frente a frente a las dos mayores potencias militares del planeta.

No hizo falta un robot asesino rebelándose contra su programador. Bastó una respuesta equivocada que fue escalando por una cadena humana demasiado dispuesta a creerla. El peligro inmediato no es que la máquina comience una guerra, sino que entregue a quienes pueden empezarla una falsedad convincente cuando apenas queda tiempo para comprobarla.

Todo este debate acompañará a Donald Trump y Xi Jinping cuando los dos hombres más poderosos del mundo se reúnan el próximo jueves en Washington. La IA figura en los preparativos de una cumbre dominada también por los aranceles, los semiconductores, las tierras raras y Taiwán. Los negociadores estudian posibles salvaguardas contra el uso indebido de modelos. Pero nadie espera un gran tratado: ambos países temen al mismo accidente y ninguno quiere aceptar límites que permitan al rival correr más deprisa.

Trump resumió su doctrina esta semana con una frase sin matices: " Quien gane en inteligencia artificial, gana ". Washington está integrando algoritmos en casi todas las capas de su aparato militar: procesan datos, localizan amenazas, ayudan a seleccionar objetivos y recomiendan qué recursos desplegar.

En enero, el secretario de Defensa, Pete Hegseth , presentó una estrategia para acelerar esa adopción y eliminar trabas burocráticas. EEUU sostiene que no puede contenerse mientras el Ejército Popular de Liberación de China aplica la IA a la vigilancia, la planificación, los enjambres de drones y la guerra electrónica.

Esta semana, la inquietud llegó al Foro de Xiangshan , el principal escaparate de la diplomacia castrense china. Unos 2.000 oficiales, diplomáticos y académicos de alrededor de cien países se reunieron durante tres días en Pekín.