Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA após fala de Trump na ONU

Os CEOs da OpenAI , Sam Altman , e da Anthropic , Dario Amodei , defenderam, nesta quarta-feira (23), uma maior cooperação internacional para lidar com os riscos associados ao avanço da inteligência artificial (IA) durante reunião do Conselho de Segurança das Nações Unidas (ONU).

A participação dos dois executivos ocorre um dia depois de o presidente dos Estados Unidos, Donald Trump , rejeitar o que chamou de um “esquema globalista” para controlar a IA durante discurso na Assembleia Geral da ONU .

Trump afirmou que os EUA continuarão incentivando o desenvolvimento da tecnologia e que não pretende “frear” seu crescimento.

Na ONU, Altman apresentou posição diferente.

Para o executivo, países que competem entre si e nem sempre mantêm boas relações podem trabalhar juntos diante de tecnologias capazes de produzir impactos significativos.

“Acreditamos que este deve ser um desses momentos”, afirmou Altman, defendendo que a IA seja tratada como uma questão que exige cooperação internacional.

Altman e Amodei se aproximam na questão da segurança A posição conjunta dos executivos chama atenção porque OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados de IA.

No início de setembro, Amodei publicou um texto defendendo que a indústria desacelere o ritmo de desenvolvimento dos modelos de fronteira .

O CEO da Anthropic argumentou que o avanço das capacidades dos sistemas poderia superar a capacidade das empresas e dos governos de compreender e controlar seus riscos.

A proposta apresentada por Amodei envolve três frentes principais: permitir que avaliadores independentes tenham acesso aos sistemas das empresas para verificar suas práticas de segurança; ampliar a coordenação entre companhias que desenvolvem modelos de fronteira; e estabelecer cooperação internacional para reduzir riscos associados à tecnologia.

Altman manifestou publicamente apoio à ideia de estabelecer um ritmo mais controlado para o desenvolvimento da chamada IA de fronteira.

A discussão ganhou força depois de uma série de episódios envolvendo modelos avançados e preocupações sobre sua capacidade de executar ações potencialmente prejudiciais.

A Reuters informou que executivos de OpenAI, Anthropic e Hugging Face participaram da sessão do Conselho de Segurança em meio a alertas de que sistemas cada vez mais avançados poderiam adquirir novas capacidades e representar riscos para a segurança internacional.

Trump rejeita a ideia de limitar o avanço da IA As declarações de Altman e Amodei ocorreram um dia depois do discurso de Trump na Assembleia Geral da ONU.