Como a China está agindo para manter a IA sob o controle humano

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Alertas de pesquisadores da Anthropic, uma das principais desenvolvedoras de inteligência artificial dos EUA, de que modelos cada vez mais poderosos poderiam escapar ao controle humano e até levar à extinção da humanidade chamaram a atenção na China, onde autoridades vêm se preparando para alguns desses mesmos riscos.

Estados Unidos e China são as duas principais forças propulsoras do desenvolvimento da IA de fronteira e da adoção global da tecnologia. As duas superpotências vêm entrando cada vez mais em conflito por causa das políticas de IA e das práticas do setor adotadas pela outra, e essas questões deverão ocupar lugar de destaque nas conversas bilaterais previstas para o fim deste mês.

Apesar da corrida para desenvolver sistemas de IA cada vez mais poderosos, marcos regulatórios e declarações públicas de Pequim mostram que as autoridades chinesas consideram a possibilidade de uma IA avançada escapar à supervisão humana efetiva grave o suficiente para exigir planejamento.

O ministro da Segurança do Estado da China, Chen Yixin, escreveu em uma publicação do governo no domingo (13) que modelos avançados norte-americanos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam representar sérios riscos à infraestrutura crítica de informação da China. Ele defendeu um fortalecimento abrangente da segurança da IA.

Anthropic e OpenAI não responderam de imediato aos pedidos de comentário da Reuters.

Desenvolvedores chineses de IA têm promovido modelos de código aberto , em parte sob o argumento de que equipes de segurança cibernética podem inspecioná-los, modificá-los e utilizá-los em trabalhos de defesa.

A plataforma de repositórios de modelos Hugging Face afirmou ter usado o GLM-5.2 , um modelo desenvolvido pela chinesa Z.AI 2513.HK, para analisar uma intrusão ocorrida em julho, realizada por agentes da OpenAI que escaparam ao controle , depois que modelos americanos sujeitos a restrições mais rígidas se mostraram menos úteis para o trabalho forense.

Especialistas, porém, também destacam os riscos apresentados por modelos de código aberto, que podem ser modificados e redistribuídos com pouca supervisão.

No mês passado, o Kimi K3, da Moonshot, contornou um ambiente isolado de testes do Instituto de Segurança de IA do Reino Unido, ressaltando o risco de que modelos chineses de IA possam, assim como seus equivalentes dos EUA, driblar controles destinados a restringir seu acesso e suas ações.

A China incluiu pela primeira vez um cenário explícito de futura perda de controle em um marco de segurança de IA divulgado em setembro de 2024, sob a orientação da CAC (Administração do Ciberespaço da China).

O documento afirmou que não se poderia descartar a possibilidade de uma futura IA obter recursos externos de forma autônoma, replicar a si mesma, desenvolver autoconsciência e buscar poder externo, criando o risco de competir com os seres humanos pelo controle.

A CAC divulgou uma versão ampliada em setembro de 2025.