Erro de IA quase colocou EUA e China em confronto após falsa identificação de carga em navio chinês

Um relatório de inteligência dos EUA, produzido com ajuda de IA, indicou falsamente que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares .

Segundo fontes ouvidas pela CNN , militares americanos chegaram a preparar uma operação para interceptar a embarcação.

A seleção de alvos é uma das áreas em que o uso militar da IA cresce, levantando dúvidas sobre a verificação das informações. – Imagem: TSViPhoto/Shutterstock O quase conflito evitado por pouco Tropas dos Estados Unidos mobilizaram uma operação de interceptação contra o navio após o relatório circular entre os militares.

Soldados armados se preparavam para abordar a embarcação, enquanto aeronaves militares já estavam no ar.

A informação havia sido produzida por um analista do Comando de Operações Especiais, que recorreu a um chatbot para analisar relatórios de inteligência sobre o manifesto de carga do navio.

A ferramenta combinou informações de fontes abertas com dados secretos do governo e identificou a carga de maneira incorreta.

O erro só foi descoberto momentos antes da operação, quando autoridades analisaram o relatório com mais atenção.

O documento foi considerado “totalmente falso” por uma das fontes ouvidas pela CNN, que afirmou que o episódio “quase provocou uma guerra”.

A CNN não conseguiu determinar qual era a carga real da embarcação.

Os riscos da automação militar O episódio chama atenção para os riscos do uso de IA na inteligência militar, especialmente na seleção de alvos.

Analistas já temiam que informações fracas ou corrompidas pudessem levar a erros de cálculo com consequências graves.

Entre os problemas apontados no caso estão: possibilidade de decisões militares baseadas em informações incorretas; maior confiança de analistas jovens nas respostas das ferramentas; ausência de um conjunto único de normas para verificar informações geradas por IA; diferenças de confiabilidade e funcionamento entre os sistemas usados pelas Forças Armadas e pela comunidade de inteligência.

Uma fonte familiarizada com as políticas militares afirmou que “a IA na seleção de alvos é definitivamente algo que está se intensificando, e não há uma orientação real sobre como ter um humano no circuito evitará vítimas civis ou fogo amigo”.

Como o Olhar Digital divulgou recentemente , especialistas dos EUA e da China discutem limites para inteligência artificial militar , com foco em armas nucleares, ataques cibernéticos e controle humano, exatamente para evitar que erros como esse aconteçam com maior frequência.