Erro de um chatbot “quase começou uma guerra” entre os EUA e a China

Uma nova reportagem revela que as forças armadas dos Estados Unidos da América (EUA) estiveram muito perto de intercetar um navio chinês no Médio Oriente há uns meses. O motivo para o erro reforça as preocupações que têm sido levantadas sobre a Inteligência Artificial (IA).

Segundo quatro fontes ouvidas pela CNN, para uma reportagem exclusiva , o alerta terá surgido a partir de uma consulta feita por um analista do Comando de Operações Especiais do Pacífico dos EUA, sediado no Havai, a um chatbot, sobre informação de um manifesto de carga do navio .

O sistema combinou dados de fontes abertas com informação classificada, proveniente de interceções de sinais, e concluiu que a embarcação transportava material ligado a um programa nuclear .

Depois disso, o analista utilizou IA para transformar essa resposta num relatório de inteligência no formato habitualmente usado e no qual os responsáveis militares confiavam, contribuindo para que o erro se espalhasse rapidamente pela cadeia de comando.

Com base nesse documento, as forças armadas norte-americanas avançaram para uma operação de interceção . Segundo duas das fontes citadas pela CNN, elementos armados prepararam-se para abordar o navio. Uma dessas fontes e ainda uma outra, confirmaram que aviões militares já se encontravam no ar.

Só nos momentos que antecederam a operação é que responsáveis analisaram o relatório com mais atenção e perceberam que tinha sido gerado com recurso a IA e que o chatbot tinha identificado incorretamente a carga transportada.