CEO da OpenAI pede freio na IA e coordenação global contra riscos

Sam Altman, CEO da OpenAI (desenvolvedora do ChatGPT), defende a desaceleração no desenvolvimento de inteligência artificial e pede coordenação global de governos para mitigar riscos existenciais da tecnologia.

O CEO da OpenAI publicou um posicionamento hoje no X. Ele argumenta que o progresso de IA de ponta deve ser mais lento que o potencial máximo permitido pela tecnologia, priorizando segurança antes que as capacidades superem o alinhamento e o monitoramento.

O executivo destacou que as políticas anteriores focavam na implantação de modelos já finalizados. Agora, diz, o foco migrou para o desenvolvimento seguro, revelando que a OpenAI formula casos de segurança detalhados antes de iniciar treinamentos de aprendizado por reforço de ponta.

Altman sugeriu que os laboratórios de IA devem compartilhar e aprender com os padrões uns dos outros . Isso ajudaria a criar normas comuns de monitoramento e segurança, de forma voluntária e sem depender de legislações prévias ou isenções antitruste.

Embora defenda que as empresas ajam por conta própria inicialmente, o CEO sugere a criação de um marco regulatório federal com requisitos consistentes de segurança para laboratórios de IA avançada . Ele ressalta que a ajuda governamental será fundamental para a coordenação internacional dos riscos da tecnologia.

Com a popularização de ferramentas de IA e o avanço dos chamados agentes de IA, capazes de executar tarefas complexas com maior autonomia, os debates sobre riscos e segurança passaram a ganhar atenção além da comunidade científica.

Um dos incidentes que mais chamaram a atenção foi o que envolveu a OpenAI e o Hugging Face . Em julho, pesquisadores divulgaram que agentes de IA da OpenAI, operando em um ambiente controlado de testes, realizaram ações cibernéticas não previstas que envolveram a plataforma Hugging Face, episódio citado por especialistas como sinal dos desafios de controlar sistemas cada vez mais autônomos

Relatos de pessoas que trabalham no ramo ajudaram a aumentar a preocupação. Em setembro, o pesquisador Jacob Coxon deixou a Anthropic afirmando que a corrida pelo desenvolvimento de uma superinteligência poderia criar sistemas poderosos, que não poderiam ser controlados e causar danos catastróficos.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.