China reforça regras para manter IA sob controle humano

Pequim passou a incluir explicitamente cenários de perda de controle sobre sistemas de inteligência artificial e visa a fortalecer suas normas de segurança e a supervisão humana.

Alertas feitos por pesquisadores da empresa norte-americana de inteligência artificial Anthropic sobre a possibilidade de modelos avançados escaparem ao controle humano e, em cenários extremos, representarem uma ameaça à própria humanidade ganharam destaque na China, onde formuladores de políticas públicas vêm se preparando para lidar com riscos semelhantes.

Apesar da corrida para desenvolver sistemas cada vez mais poderosos, marcos regulatórios e declarações oficiais de Pequim mostram que as autoridades chinesas consideram suficientemente séria a possibilidade de a IA avançada escapar à supervisão humana para incorporá-la aos seus planejamentos de segurança.

PERDA DE CONTROLE A China passou a mencionar explicitamente cenários de perda de controle sobre sistemas de inteligência artificial em uma estrutura de segurança divulgada em setembro de 2024 sob orientação da CAC (Administração do Ciberespaço da China).

Segundo o documento, não poderia ser descartada a possibilidade de futuros sistemas de IA obterem recursos externos de forma autônoma, desenvolverem autoconsciência e buscarem fontes externas de poder, criando riscos de competição com seres humanos.

Em setembro de 2025, a CAC divulgou uma versão ampliada da estrutura regulatória.

O novo texto tornou o cenário mais específico, afirmando que a IA poderia passar por um salto repentino de capacidade antes de adquirir recursos, replicar-se e buscar o poder.

O documento também incorporou o princípio de “aplicação confiável” e da prevenção da perda de controle.

Posteriormente, uma interpretação técnica publicada no site do regulador afirmou que a nova diretriz busca reduzir riscos de perda de controle que possam ameaçar a sobrevivência e o desenvolvimento da humanidade, mencionando inclusive a possibilidade de uma IA “sair do controle” .

SUPERVISÃO HUMANA A preocupação também passou a aparecer nas mais altas instâncias políticas chinesas.

Durante a Conferência Mundial de Inteligência Artificial realizada em julho, em Xangai, o presidente chinês, Xi Jinping, declarou que as autoridades devem monitorar atentamente tanto os riscos inerentes à tecnologia quanto os seus efeitos indiretos.

Segundo Xi, a inteligência artificial deve permanecer “sempre sob controle humano” .

O principal diplomata chinês para assuntos de IA, Sun Xiaobo, disse em reunião das Nações Unidas no mês passado que o país está acelerando estudos sobre uma legislação mais ampla para a inteligência artificial.