China e EUA buscam mecanismos de proteção contra riscos da IA

A inteligência artificial está deixando de só responder perguntas e vem passando a agir.

O crescimento de agentes de IA capazes de usar ferramentas, executar comandos e tomar decisões ampliou a utilidade da tecnologia, mas também as possíveis consequências quando ela falha ou é mal utilizada.

Em um relatório de fevereiro de 2026 sobre segurança internacional da IA, Yoshua Bengio , laureado com o Prêmio Turing, agrupou os riscos da IA avançada em 3 grandes categorias: uso malicioso, mau funcionamento e riscos sistêmicos.

O uso malicioso inclui empregar IA para realizar ataques cibernéticos, cometer fraude financeira e promover manipulação por meio de deepfakes , ou potencialmente auxiliar no desenvolvimento de armas biológicas ou químicas.

O mau funcionamento , por outro lado, pode ocorrer sem intenção maliciosa, quando os modelos cometem erros por limitações de capacidade, objetivos desalinhados ou interações inadequadas.

Os riscos sistêmicos surgem do impacto cumulativo da IA sobre a sociedade, incluindo emprego, propriedade intelectual, ecossistemas de informação e a distribuição de benefícios econômicos.

Juntos, esses riscos apresentam aos formuladores de políticas públicas o mesmo dilema: os governos não podem esperar até que ocorram grandes prejuízos antes de responder, mas também não podem transformar toda incerteza em uma restrição à inovação.

O desafio é proteger contra riscos graves ao mesmo tempo em que se deixa espaço para o desenvolvimento tecnológico.

China: desenvolvimento e segurança em paralelo A China começou a definir sua abordagem relativamente cedo.

O Plano de Desenvolvimento da Nova Geração de Inteligência Artificial do Conselho de Estado, de 2017, identificou a IA como uma tecnologia estratégica, ao mesmo tempo em que alertava para riscos ao emprego, à privacidade, à ética, à segurança econômica e à estabilidade social.

O plano estabeleceu metas para a criação de leis, padrões éticos e capacidades de avaliação de segurança em paralelo ao desenvolvimento do próprio setor.

Desde então, a China desenvolveu um sistema regulatório em camadas, em vez de uma única lei abrangente sobre IA.

Sua Lei de Cibersegurança, Lei de Segurança de Dados e Lei de Proteção de Informações Pessoais formam a base, complementadas por regras que tratam de recomendações algorítmicas, síntese profunda, IA generativa e, mais recentemente, serviços de IA antropomórfica.

Essa estrutura reflete, em parte, a velocidade com que a tecnologia está mudando.