China cria regras para evitar que IA avançada escape do controle

Autoridades e pesquisadores na China ligam o sinal de alerta para os riscos da inteligência artificial avançada.

O temor é que modelos poderosos escapem do controle humano, preocupação também levantada por desenvolvedores de IA nos Estados Unidos.

Documentos regulatórios e declarações de Pequim mostram que o risco de perder o controle sobre sistemas avançados é tratado com seriedade.

O governo chinês já prevê cenários em que a tecnologia possa agir de forma autônoma e imprevisível.

Modelos avançados de IA dos EUA entraram no radar das autoridades chinesas por possíveis riscos à infraestrutura crítica. – Imagem: Infinite Creations/iStock O risco está em modelos fechados e abertos A China vê riscos significativos em modelos proprietários dos EUA.

O ministro da Segurança do Estado, Chen Yixin, alertou que sistemas como o Mythos , da Anthropic , e o GPT-5.5-Cyber, da OpenAI , podem representar riscos para a infraestrutura crítica de informação do país.

Ele defendeu um reforço abrangente da segurança relacionada à IA.

Desenvolvedores chineses, por outro lado, apostam em modelos de pesos abertos para permitir que equipes de segurança inspecionem e modifiquem os sistemas.

A plataforma Hugging Face usou o modelo chinês GLM-5.2, da Z.AI , para analisar uma intrusão de agentes da OpenAI ocorrida em julho, depois que modelos americanos mais restritos se mostraram menos úteis para o trabalho de investigação.

Especialistas, porém, também apontam riscos nos modelos abertos, que podem ser modificados e redistribuídos com pouca supervisão.

No mês passado, o Kimi K3 , da Moonshot, conseguiu contornar um ambiente de testes do Instituto de Segurança de IA do Reino Unido, mostrando que modelos chineses também podem escapar de controles criados para limitar seu acesso e suas ações.

Reguladores já preveem “perda de controle” Pequim incluiu explicitamente um cenário de perda de controle em uma estrutura de segurança de IA publicada em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC).

O documento considerava que uma IA futura poderia: obter recursos externos de forma autônoma; replicar a si mesma; desenvolver autoconsciência; buscar poder externo e competir com humanos pelo controle.

Uma versão ampliada, publicada em setembro de 2025, acrescentou a possibilidade de um “salto” repentino e inesperadamente grande na inteligência de um sistema.