La IA casi provoca un conflicto: EU activó operativo contra un buque chino tras falsa alerta de chatbot

Estados Unidos preparó una operación para interceptar y abordar un buque chino en Oriente Medio después de que un informe elaborado con inteligencia artificial (IA) señalara erróneamente su cargamento como componentes para un programa de armas nucleares , según informó este viernes la cadena CNN .

El incidente ocurrió a comienzos de año, en el contexto de la guerra con Irán , según cuatro fuentes con conocimiento del caso citadas por el medio estadounidense.

Dos de ellas indicaron que militares armados se alistaron para abordar la embarcación , mientras varias aeronaves estadounidenses sobrevolaban la zona .

La operación se suspendió poco antes de ejecutarse, cuando funcionarios estadounidenses revisaron con más detenimiento la información y determinaron que el chatbot que un analista había utilizado identificó de forma incorrecta el material transportado. ¿Qué dijo la IA sobre el buque chino con armas nucleares? Según CNN , la herramienta combinó información de fuentes abiertas con inteligencia clasificada, almacenada por el Gobierno estadounidense, y concluyó erróneamente que la carga estaba vinculada a un programa de armas nucleares .

La cadena no pudo determinar cuál era la carga real del buque ni si la herramienta era un producto comercial o un sistema desarrollado por el Gobierno de Estados Unidos .

Una de las fuentes calificó el informe de “completamente falso” y afirmó que una eventual intervención contra una embarcación china podría haber provocado una escalada entre Washington y Beijing .

El caso se conoce en un momento en que aumenta el uso de herramientas de IA por parte del Ejército y los servicios de inteligencia estadounidenses, así como las críticas hacia esta tecnología.

Empresas tecnológicas piden frenar ritmo de la IA El fin de semana pasado, el director ejecutivo de Anthropic, Dario Amodei , publicó un ensayo en el que pidió frenar el ritmo de desarrollo de la industria ante los crecientes riesgos de seguridad de la IA .

El texto se suma a declaraciones en la misma línea de Sam Altman , director ejecutivo de OpenAI, y del multimillonario Elon Musk .

El presidente estadounidense, Donald Trump, se opone, en cambio, a regular el sector, pues considera que ello retrasaría a Estados Unidos en la competencia con China por el liderazgo tecnológico.