EUA, China e empresas de IA divergem sobre frear desenvolvimento

Dario Amodei, cofundador e CEO da Anthropic, e Sam Altman, cofundador e CEO da OpenAI, falaram ao Conselho de Segurança da ONU ontem (23/09). A sessão ocorreu um dia depois do lançamento do Claude Opus 5.5. Os dois, porém, admitiram desacelerar seus modelos de inteligência artificial generativa por razões de segurança.

Considerado um dos padrinhos da inteligência artificial, Yoshua Bengio cobrou na mesma sessão da ONU (Organização das Nações Unidas) demonstrações de segurança por avaliadores independentes. Clément Delangue, CEO da Hugging Face, pediu acesso a registros dos agentes após um ataque à sua plataforma. As posições convergem na necessidade de testes, mas divergem sobre quem deve verificá-los e que informações precisam ser divulgadas.

Amodei reafirmou que a Anthropic reduzirá o ritmo tanto quanto considerar necessário para lançar sistemas seguros. Propôs padrões globais de teste, mecanismos para que países verifiquem compromissos uns dos outros e notificação de incidentes relevantes para a segurança internacional. A fala veio um dia depois de a empresa lançar o Claude Opus 5.5.

Altman disse que a OpenAI já havia desacelerado por iniciativa própria e voltaria a fazê-lo, mesmo tendo lançado o modelo Astra no começo deste mês. Defendeu padrões nacionais e internacionais comparáveis, comunicação rápida de incidentes e canais protegidos entre governos, operadores de infraestrutura crítica e especialistas técnicos. As declarações dos dois executivos são compromissos e propostas apresentados ao Conselho, mas a sessão não criou uma obrigação internacional de reduzir o ritmo dos modelos.

Bengio, copresidente do painel científico independente da ONU, contestou a ideia de que as empresas estejam presas a uma corrida inevitável. Ele pediu que desenvolvedores demonstrem a especialistas independentes a segurança dos sistemas antes do treinamento e da implantação. Também defendeu notificação de incidentes, licenciamento e responsabilização.

A cobrança de Bengio vai além da disposição das fabricantes de testar os próprios produtos porque exige que a demonstração possa ser examinada por pessoas sem vínculo de dependência com o laboratório.

Delangue pediu transparência e compartilhamento dos registros completos das ações dos agentes. Ele recordou o ataque sofrido pela Hugging Face em julho, durante uma avaliação de capacidades conduzida com modelos da OpenAI. A plataforma publicou uma reconstrução técnica do episódio. Delangue também defendeu ferramentas abertas para que equipes responsáveis pela defesa tenham acesso a modelos eficazes.

Entre os governos, uma declaração assinada por 22 autoridades de 20 países e da Comissão Europeia pede protocolos transparentes, testes antes da implantação, avaliação independente com acesso suficiente aos sistemas e comunicação compartilhada de incidentes graves.

O texto ainda propõe estudar uma instituição internacional capaz de estabelecer padrões e verificar compromissos. Estados Unidos e China não assinaram.