Relatório incorreto feito por IA quase causou guerra entre EUA e China

Um relatório gerado com o auxílio da inteligência artificial (IA) quase provocou uma guerra entre Estados Unidos e China no primeiro semestre deste ano.

A informação foi divulgada nesta sexta-feira (18/9) pela CNN International.

O documento, segundo fontes militares ouvidas pelo jornal norte-americano, indicou que um navio chinês estaria transportando carga nuclear no Oriente Médio.

Diante da ameaça, forças dos EUA traçaram um plano para interceptar a embarcação.

Acontece que, poucos antes da operação, que já contava com aviões norte-americanos sobrevoando a região onde o navio da China navegava, um erro no relatório foi descoberto antes de qualquer ação ser tomada — o que poderia provocar uma reação de Pequim e uma escalada entre os dois países.

Leia também Mundo Espanha identifica primeiro ataque cibernético autônomo realizado por IA Mundo ONU e Cruz Vermelha pedem proibição de armas autônomas Rodrigo França Seu emprego está preparado para a inteligência artificial? Minas Gerais Câmara aprova uso de inteligência artificial nos serviços da PBH Os militares identificaram que o navio chinês não levava carga nuclear.

O analista responsável pela elaboração do documento utilizou uma ferramenta de IA, que identificou de forma errada o material transportado pelo navio chinês A principal suspeita é de que a inteligência artificial tenha utilizado dados de código aberto, combinadas com informações de inteligência secretas, para chegar à conclusão errada.

Após isso, o analista responsável pelo relatório ainda teria usado a IA para compilar as descobertas no formato de um documento padrão.

Até o momento o governo norte-americano não se pronunciou sobre o caso.

O episódio, contudo, surge em meio à preocupação da comunidade internacional sobre o avanço da IA, e as possíveis consequências negativas que a mesma pode causar o mundo.

Nas últimas semanas, cientistas e executivos do setor têm feito alertas sobre a possibilidade de a tecnologia ser um risco existencial para a humanidade.

O temor é de que a IA avance a tal ponto que se torne capaz de executar ações sem o auxílio de humanos.

Em agosto deste ano, por exemplo, um drone da Rússia escolheu, de maneira autônoma, os alvos de um ataque que deixou três mortos na região de Zaporizhzhya.

A rota do veículo não-tripulado, contudo, foi programada por seres humanos previamente.