Exclusivo: Erro de IA quase causou conflito entre EUA e China, dizem fontes

Um relatório de inteligência, que circulou entre os militares dos EUA em meio à guerra com o Irã, acendeu imediatamente os alarmes: um navio chinês no Oriente Médio estava transportando componentes de um programa de armas nucleares.

As Forças Armadas dos EUA entraram em ação com planos para interceptar a embarcação, de acordo com quatro fontes familiarizadas com o episódio.

Segundo duas dessas fontes, membros armados do Exército americano se preparavam para abordar o navio.

Aviões militares já estavam no ar, disseram uma dessas fontes e outra fonte a par do incidente.

Leia Mais EUA dizem ter interceptado mísseis iranianos direcionados ao Kuwait EUA não investigaram informações sobre ataque a escola no Irã, dizem fontes EUA alertam que soldados são alvo de ameaças com dados vazados Foi apenas momentos antes da operação planejada que as autoridades analisaram mais a fundo o relatório – elaborado por um analista do comando de operações especiais – e descobriram que ele havia sido gerado com a ajuda de IA (inteligência artificial).

Um chatbot usado pelo analista identificou incorretamente a carga que o navio transportava.

A CNN não conseguiu apurar qual era a carga real.

Relatório “quase provocou uma guerra”, diz fonte O relatório, segundo uma das fontes, era “totalmente falso”.

No entanto, também “quase provocou uma guerra”.

Qualquer operação dos EUA contra um navio chinês poderia ter corrido o risco de se transformar em um conflito armado entre as duas nações.

Em todo o Exército e na comunidade de inteligência dos EUA, autoridades estão pressionando para integrar a IA em quase todas as facetas de seu trabalho – desde a análise de grandes volumes de inteligência bruta e a seleção de alvos para ataques, até aplicações mais rotineiras, como gestão orçamentária, logística e cadeias de suprimentos.

Contudo, o episódio destaca os riscos profundos de aplicar essa tecnologia poderosa, nova e relativamente pouco compreendida para a seleção de alvos no meio de uma guerra.

Analistas temem há tempos que a IA possa levar a um erro de cálculo catastrófico se os Estados dependerem de dados fracos ou corrompidos – o tipo de falha que poderia levar os EUA a disparar contra um navio chinês com base em informações imprecisas.

Trump diz que "forças negativas" levantam preocupações exageradas sobre IA | CNN NOVO DIA Neste caso específico, o analista consultou um chatbot sobre relatórios de inteligência a respeito do manifesto de carga do navio – a lista oficial das mercadorias transportadas pela embarcação –, com origem no Comando de Operações Especiais do Pacífico dos EUA, sediado no Havaí.