IA: Especialistas dos EUA e China pedem proteções semelhantes às nucleares

Um sistema de inteligência artificial que interfira em uma rede de comando nuclear ou lance uma operação cibernética militar pode deixar Washington ou Pequim com apenas alguns minutos para decidir se foi o outro governo que atacou, de acordo com especialistas em segurança dos EUA e da China.

Os especialistas, que fazem parte de um diálogo EUA-China cujo trabalho ajuda a pautar as discussões oficiais entre países, estão instando ambos os governos a se prepararem para tais cenários em meio a crescentes preocupações com sistemas cada vez mais poderosos e autônomos.

Suas propostas incluem linhas vermelhas em torno de sistemas nucleares, controle humano sobre ciberataques de grande impacto e uma linha direta para incidentes envolvendo inteligência artificial autônoma.

Leia Mais CEO da Meta, Zuckerberg alerta que os EUA não devem banir IAs chinesas Análise: Temor sobre riscos da IA pode redefinir eleições nos EUA Bill Gates quer que países monitorem riscos biológicos da IA As recomendações foram publicadas na semana passada, antes das negociações planejadas em nível governamental sobre IA e de uma reunião esperada para 24 de setembro em Washington entre o presidente dos EUA, Donald Trump, e o presidente chinês, Xi Jinping.

As autoras Melanie Sisson, pesquisadora sênior do think tank Brookings Institution, e Tianjiao Jiang, professora associada da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As propostas mostram como a rivalidade entre EUA e China em inteligência artificial está indo além da competição por chips e modelos avançados, abrangendo questões há muito associadas ao controle de armas: como evitar que acidentes sejam confundidos com ataques, limitar decisões militares automatizadas e estabelecer protocolos de comunicação para rivais com armas nucleares quando a tecnologia se comporta de maneira inesperada.

O ministro da Segurança do Estado da China, Chen Yixin, escreveu esta semana em um veículo de comunicação governamental que a IA “transforma fundamentalmente a forma da luta militar”.

Ele afirmou que a inteligência artificial passou de um papel de apoio no campo de batalha para um papel fundamental, citando ataques direcionados por IA na guerra entre EUA e Israel contra o Irã.

Alerta vermelho ao redor dos sistemas nucleares Sisson, da Brookings Institution, argumentou que os humanos deveriam manter a autoridade exclusiva para iniciar ciberataques habilitados por IA contra os sistemas de comando, controle e comunicações nucleares de outro país ou contra infraestruturas estrategicamente importantes.