Exclusivo: Erro de IA "quase começou uma guerra" entre os EUA e a China

O relatório de informações, que circulou por todo o exército norte-americano esta primavera, em plena guerra com o Irão, fez soar imediatamente os alarmes: um navio chinês no Médio Oriente estava a transportar componentes de um programa de armas nucleares.

Os militares norte-americanos entraram em ação com planos para intercetar o navio, segundo quatro fontes familiarizadas com o episódio. Segundo duas das fontes, membros armados das forças militares dos EUA preparavam-se para abordar o navio. Aviões militares estavam no ar, segundo uma dessas fontes e outra fonte familiarizada com o incidente, disseram.

Foi apenas pouco antes da operação planeada que os responsáveis analisaram mais profundamente o relatório, elaborado por um analista do comando de operações especiais, e descobriram que este tinha sido produzido com a ajuda de inteligência artificial (IA) - e que um chatbot utilizado pelo analista tinha identificado incorretamente o material que o navio transportava. A CNN não conseguiu descobrir qual era a carga que tinha sido identificada incorretamente.

O relatório, segundo uma das fontes, era “inteiramente falso”. Mas também “quase começou uma guerra”, segundo a fonte. Qualquer operação norte-americana contra um navio chinês poderia ter corrido o risco de desencadear uma escalada para um conflito armado entre os dois países.

Em todo o exército norte-americano e na comunidade de informações, os responsáveis estão a pressionar para integrar a IA em praticamente todos os aspetos do seu trabalho, desde a análise das enormes quantidades de informações brutas recolhidas pelos EUA e a seleção de alvos para ataques, até aplicações mais banais, como a gestão de orçamentos, logística e cadeias de abastecimento.

Mas o episódio evidencia os riscos profundos da utilização desta poderosa tecnologia, nova e relativamente pouco compreendida, para a definição de alvos em plena guerra. Há muito que os analistas receiam que a IA possa conduzir a um erro de cálculo catastrófico se os Estados estiverem a basear-se em dados deficientes ou corrompidos - o tipo de erro de cálculo que poderia levar os Estados Unidos a disparar contra um navio chinês com base em informações incorretas.

Neste caso específico, o analista consultou um chatbot sobre informações relativas ao navio e ao seu manifesto de carga que tinham origem no Comando de Operações Especiais do Pacífico dos EUA, sediado no Havai.