Erro gerado por IA quase fez EUA atacarem e abrirem guerra contra China

Um relatório de inteligência feito com ajuda de um chatbot de IA quase levou os EUA a interceptar um navio chinês no Oriente Médio no primeiro semestre deste ano - um passo que poderia ter escalado para um conflito armado entre as duas potências. O episódio dá um choque de realidade num debate que vinha muito preso ao "fim do mundo" teórico: o risco mais imediato pode ser bem mais banal - gente tomando decisão grave em cima de informação errada, só porque a IA "pareceu convincente" .

*Segundo a CNN, um analista de um comando de operações especiais dos EUA usou um chatbot de IA para interpretar informações sobre o manifesto (a lista de carga) de um navio chinês visto no Oriente Médio.

*O chatbot alucinou e identificou de forma incorreta que o navio transportava componentes ligados a um programa de armas nucleares.

*Com base nisso, um relatório de inteligência foi montado e distribuído dentro das Forças Armadas - no formato "padrão" que costuma ser tratado como confiável por quem decide operações.

*A reação foi imediata: militares se prepararam para interceptar a embarcação, com planos de abordagem e aeronaves já no ar, segundo fontes ouvidas pela CNN.

*Pouco antes da operação, que teria ocorrido na primavera norte-americana (entre março e junho), autoridades revisaram o material com mais cuidado, perceberam que o relatório tinha sido produzido com ajuda de IA e concluíram que a informação era falsa.

*Não ficou claro qual era a carga real do navio, nem se o chatbot era uma ferramenta comercial ou um sistema interno do governo.

*O caso acontece enquanto o Pentágono acelera a adoção de IA em várias áreas - de análise de grandes volumes de dados e apoio a decisões de combate até tarefas administrativas - e após o Departamento de Defesa divulgar uma "Estratégia de Aceleração de IA" em janeiro.

Esse caso é o tipo de "quase acidente" que assusta mais do que qualquer roteiro de ficção científica: não é a IA "ganhando consciência", é a IA errando parecendo convincente - e humanos tratando o resultado como se fosse uma verdade.

Nos últimos dias, chefões da tecnologia e insiders vêm pedindo para desacelerar e alertando para cenários extremos, inclusive a ideia de que a IA poderia dizimar humanos na próxima década. Só que o episódio descrito pela CNN aponta para um perigo mais próximo do chão: a combinação de pressa, guerra e ferramentas que "inventam" respostas convincentes (as chamadas alucinações) pode empurrar decisões militares para o trilho errado.

O problema não é só o erro do chatbot. É o jeito como o erro vira "documento oficial" quando a IA também ajuda a empacotar a informação num relatório com cara de sério.