OpenAI, Anthropic e Hugging Face levam debate sobre riscos da IA à ONU

Sede das Nações Unidas na cidade de Nova York, EUA | Crédito: Canva Executivos de empresas de IA participarão de um briefing no Conselho de Segurança da ONU sobre os riscos da tecnologia.

Nesta quarta-feira (23), representantes da OpenAI , Anthropic e Hugging Face estarão na sede das Nações Unidas para discutir os desafios associados ao avanço da inteligência artificial.

Entre os participantes estão Sam Altman, CEO da OpenAI , Dario Amodei, CEO da Anthropic , e Clément Delangue, cofundador da Hugging Face .

O encontro ocorre durante a Assembleia Geral da ONU, em Nova York.

A expectativa é que Altman defenda a criação de benchmarks para medir as capacidades dos sistemas de IA e avaliar as salvaguardas adotadas pelas empresas.

A discussão acontece em um momento de avanço acelerado da tecnologia e de preocupações sobre sistemas que possam desenvolver capacidades capazes de afetar a segurança internacional.

O Conselho de Segurança já debateu os riscos da inteligência artificial em 2023 e 2024.

Agora, a discussão envolve também os Estados Unidos e a China, países que disputam a liderança no desenvolvimento da tecnologia.

Segundo a Reuters, os dois países discutiram a possibilidade de criar um sistema de notificação para incidentes envolvendo IA que atinjam um nível de segurança nacional, às vésperas de um encontro entre o presidente americano Donald Trump e o líder chinês Xi Jinping, marcado para quinta-feira (24), em Washington.

A discussão, porém, ocorre em meio a diferentes visões sobre como lidar com o avanço da tecnologia.

O presidente Donald Trump afirmou na ONU que os Estados Unidos querem incentivar a IA, e não restringi-la, e rejeitou uma tentativa de estabelecer um mecanismo global para controlar a tecnologia.

O secretário-geral da ONU, António Guterres, por outro lado, vem defendendo uma estrutura internacional para lidar com os riscos da IA.

Em seu discurso de despedida na Assembleia Geral, na terça-feira (22), ele afirmou que os países que lideram a revolução tecnológica deveriam compartilhar informações sobre riscos de segurança, cooperar em testes e avaliações e trabalhar em salvaguardas comuns.

Ele também defendeu um mecanismo multilateral de gestão de riscos da IA, com supervisão independente e credível.