Especialistas de EUA e China pedem limites à IA militar e 'regulação nuclear'

Especialistas dos EUA e China propõem salvaguardas para inteligência artificial em operações militares nucleares

Pesquisadores de segurança nacional dos Estados Unidos e da China apresentaram esta semana um conjunto de recomendações para reduzir riscos associados ao uso de sistemas de inteligência artificial em operações militares e nucleares. As propostas emergem de um diálogo acadêmico-estratégico que há anos aproxima especialistas dos dois países para discutir os perigos de tecnologias cada vez mais autônomas e poderosas no contexto de rivalidade geopolítica e arsenal nuclear.

O tema ganhou urgência em um momento em que autoridades militares e civis reconhecem que algoritmos sofisticados poderiam potencialmente interferir em infraestruturas críticas, particularmente nos sistemas de comando, controle e comunicação que sustentam as operações nucleares. Segundo os especialistas envolvidos neste esforço de diálogo bilateral, um incidente dessa natureza deixaria os líderes de Washington e Pequim com apenas alguns minutos para tentar determinar se o outro governo estaria por trás de um ataque ou se trataria de um problema técnico.

Os Riscos Concretos da IA em Operações Críticas

A perspectiva de um sistema autônomo afetar redes de comando nuclear ou disparar uma operação digital de grande escala é considerada uma das ameaças mais sérias pela comunidade de pesquisa em segurança internacional. Diferentemente de uma crise convencional, onde os líderes políticos contam com canais diplomáticos para esclarecer intenções, um cenário envolvendo inteligência artificial operacional deixaria pouco espaço para esclarecimentos antes de uma retaliação potencial.

A janela temporal reduzida para compreender o que ocorreu representa um dos principais fatores de risco identificados pelos pesquisadores. Tradicionalmente, os protocolos de dissuasão nuclear dependem de comunicação clara entre as potências nucleares sobre capacidades, intenções e eventuais acidentes. Contudo, a introdução de sistemas de IA que podem agir com velocidade e autonomia cria um vácuo de entendimento que os especialistas buscam preencher através de regras e protocolos conjuntos.

As Propostas Apresentadas

Os pesquisadores recomendaram a ambos os governos a adoção de um conjunto de medidas preventivas e de gestão de crises. Em primeiro lugar, a proposta inclui o estabelecimento de limites rígidos e claros sobre o uso de inteligência artificial em sistemas nucleares. Isso significaria definir com precisão quais funções críticas exigiriam supervisão humana direta e contínua, impedindo que máquinas tomassem decisões autônomas sobre lançamento ou ativação de armamentos.

Além disso, as recomendações apontam para a necessidade de controle humano sobre operações digitais de grande impacto. Embora as agências militares moderna confiem em sistemas computadorizados para muitas funções, certos tipos de ataques cibernéticos poderiam causar danos equivalentes a ataques convencionais, justificando o requisito de que um oficial humano autorize tais operações em vez de deixá-las inteiramente a cargo de algoritmos.

A terceira proposta central diz respeito ao estabelecimento de um canal de comunicação direta entre Washington e Pequim especificamente destinado a incidentes envolvendo inteligência artificial autônoma. Esse mecanismo funcionaria de forma análoga aos canais de crise existentes, mas otimizado para situações em que máquinas apresentarem comportamento imprevisto ou potencialmente prejudicial. Tal linha direta permitiria que líderes ou seus representantes esclarecessem rapidamente se um incidente representava uma ameaça deliberada ou um erro de sistema.

Quem Propõe e em Qual Contexto

O trabalho foi desenvolvido por Melanie Sisson, pesquisadora sênior da conceituada instituição de pesquisa Brookings Institution, sediada em Washington, e Tianjiao Jiang, professor associado na Universidade de Fudan, em Xangai. Ambos participam de um diálogo estruturado que vem ocorrendo desde 2019, fruto de uma parceria entre a Brookings Institution e o Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua, uma das principais universidades chinesas.

Este diálogo bilateral representa um dos poucos espaços formalizados onde pesquisadores e estrategistas dos dois países conseguem discutir temas sensíveis sem as restrições que normalmente cercam negociações governamentais oficiais. As instituições acadêmicas servem como intermediárias, permitindo que ideias sejam exploradas e testadas antes de eventualmente influenciar posições diplomáticas oficiais.

As recomendações foram divulgadas na semana anterior a conversas planejadas sobre inteligência artificial em nível de governo. Além disso, está marcada para 24 de setembro uma reunião em Washington entre Donald Trump, presidente dos Estados Unidos, e Xi Jinping, presidente da China. Embora não exista confirmação de que este encontro abordará especificamente as propostas sobre IA e segurança nuclear, o timing da publicação sugere uma tentativa de influenciar a agenda diplomática de alto nível.

Contexto: Por Que Isso Importa Agora

A convergência entre inteligência artificial e segurança nuclear representa um desafio que não possui precedentes históricos. Durante a Guerra Fria, as superpotências desenvolveram protocolos e tratados para reduzir riscos de conflito nuclear acidental, como linhas vermelhas de comunicação direta. Aquele contexto, contudo, envolvia sistemas de armas cujo funcionamento era inteiramente controlado por seres humanos, mesmo que operando sob grande pressão temporal.

Nos dias atuais, o cenário mudou fundamentalmente. Sistemas de inteligência artificial, especialmente aqueles construídos sobre arquiteturas de aprendizado de máquina profundo, podem tomar decisões que nem mesmo seus criadores conseguem inteiramente explicar ou prever. Isso cria um novo tipo de risco: não apenas acidentes causados por erro humano, mas comportamentos emergentes de máquinas que operam além da compreensão completa de seus operadores.

Adicionalmente, tanto os Estados Unidos quanto a China estão em uma competição tecnológica acelerada no desenvolvimento de capacidades de IA. Ambos reconhecem que liderança neste campo traz implicações militares profundas. O Ministro da Segurança do Estado da China, Chen Yixin, expressou recentemente que a inteligência artificial transforma fundamentalmente o caráter da confrontação militar, validando a percepção de que essa tecnologia será central na próxima geração de conflitos potenciais.

Paralelamente, as operações cibernéticas crescem em escala e sofisticação. O que antes era domínio de especialistas em segurança informática tornou-se questão de segurança nacional e militar. Ataques digitais podem derrubar infraestruturas essenciais, interromper comunicações militares e potencialmente causar perdas de vidas em larga escala. A introdução de IA neste campo amplifica tanto as capacidades quanto os riscos de escalação involuntária.

O Que Acompanhar

Os próximos meses oferecerão oportunidades para observar se essas propostas acadêmicas migram para o âmbito das negociações oficiais. A reunião de 24 de setembro entre Trump e Xi Jinping será um momento importante para medir o interesse dos dois líderes em estabelecer salvaguardas compartilhadas em torno de inteligência artificial militar.

Além disso, acompanhe o desenvolvimento de eventuais tratados ou acordos bilaterais que possam surgir das discussões governamentais sobre IA. Outras potências nucleares, como Rússia, Reino Unido e França, também estarão atentas a qualquer movimento que sinalize estabelecimento de normas internacionais sobre o tema. A forma como Washington e Pequim abordarem essas questões pode estabelecer precedentes que moldem a governança global de tecnologias militares críticas.

Também é relevante acompanhar como as autoridades militares americanas e chinesas implementam, internamente, diretrizes sobre controle humano de operações digitais. A translação de recomendações em doutrina militar prática levará tempo e envolverá resistências institucionais, dados que militares historicamente preferem manter autonomia operacional máxima.

Por fim, observe eventuais incidentes envolvendo sistemas autônomos que possam gerar preocupações sobre controle de máquinas em contextos sensíveis. Qualquer evento que pareça colocar em risco sistemas críticos tenderá a reforçar argumentos em favor de salvaguardas mais rigorosas, potencialmente acelerando negociações sobre o tema.

Principais pontos:

• Pesquisadores dos EUA e China propõem limites rígidos em sistemas nucleares, controle humano em operações digitais de impacto e linha direta para incidentes com inteligência artificial autônoma
• Um incidente envolvendo IA em redes de comando nuclear deixaria líderes com apenas minutos para determinar se ocorreu ataque deliberado ou erro de máquina
• As propostas emergem de diálogo acadêmico desde 2019 entre Brookings Institution e Universidade de Tsinghua, buscando influenciar negociações oficiais
• Reunião entre Trump e Xi Jinping em 24 de setembro pode abordar tema, sinalizando interesse bilateral em salvaguardas compartilhadas