OpenAI, Anthropic, Google e Musk querem frear avanço da IA; por que isso é tão difícil?

ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe Solen Feyissa/Unsplash Os principais empresários do setor de inteligência artificial dizem que querem reduzir o ritmo acelerado de desenvolvimento da tecnologia, mas enfrentam obstáculos como a concorrência, a resistência do governo dos Estados Unidos e fatores geopolíticos.

No sábado (12), o diretor-executivo da Anthropic, Dario Amodei, defendeu que as empresas diminuam, de forma coordenada, o ritmo de desenvolvimento da IA para entender melhor os riscos dos recursos avançados da tecnologia. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 Ele recebeu o apoio público do diretor-executivo da OpenAI, Sam Altman; do diretor da xAI, Elon Musk; do presidente da Google DeepMind, Demis Hassabis; e do diretor-executivo da Microsoft, Satya Nadella.

CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA Por que agora? Nos últimos meses, OpenAI e Anthropic relataram vários incidentes em que sistemas de IA em fase experimental saíram, por conta própria, de seus ambientes restritos para acessar a internet e atacar sites e plataformas.

Em alguns casos, esses sistemas de IA demonstraram capacidade de coordenar ações, estabelecer hierarquias entre si, trapacear e apagar registros do que fizeram.

Na última terça-feira, o pesquisador Jacob Coxon — que pediu demissão da Anthropic e antes trabalhou na OpenAI — acusou publicamente as duas empresas de manter padrões de segurança frágeis e de estar "brincando com vidas".

Reduzir o ritmo por conta própria? Com uma concorrência intensa e investimentos bilionários em jogo, nenhuma das principais empresas do setor está disposta a correr o risco de reduzir o ritmo sozinha.

Amodei se mostrou disposto a coordenar ações com os concorrentes, sem incluir a China.

Consultadas pela AFP sobre possíveis conversas a respeito dessa coordenação, Anthropic, OpenAI e Google não responderam de imediato.

Por enquanto, a única medida concreta assumida por Anthropic e OpenAI foi permitir que observadores independentes verifiquem o trabalho interno das empresas na área de segurança.

Manobra de relações públicas? Embora boa parte do setor tenha comemorado a mensagem de Amodei, outros integrantes questionaram seus motivos.

Para Brian Roemmele, empresário de destaque no setor de IA, trata-se de um discurso comercial, divulgado semanas antes da provável entrada da Anthropic na bolsa.

"Somos a empresa responsável; somos a cura; comprem o prêmio de segurança", publicou no X.

Vários nomes de destaque entre os investidores de risco do setor de tecnologia também acusaram a Anthropic de fazer uma "captura regulatória": tentar fazer com que as autoridades estabeleçam regras que consolidem a empresa no topo do setor.