Amodei, Altman e Musk afirmam que é hora de desacelerar avanços em IA; o que explica?

(Bloomberg) –Os líderes das maiores plataformas de inteligência artificial do mundo afirmaram que é hora de desacelerar o ritmo de desenvolvimento de seus modelos mais avançados — e mais lucrativos —, citando os riscos crescentes da tecnologia.

O diretor executivo da Anthropic PBC, Dario Amodei, publicou um longo artigo em seu blog no sábado , afirmando que sua empresa implementaria novas medidas de segurança, como avaliações por terceiros, e conclamando o setor a apoiar uma redução mais ampla das atividades.

O diretor executivo da OpenAI, Sam Altman, prometeu rapidamente adotar a sugestão de Amodei de “avaliadores independentes com acesso semelhante ao de um funcionário”, enquanto Elon Musk, que dirige a xAI Corp., escreveu: “Dario está certo”.

Embora os três líderes tenham alertado ao longo dos anos sobre os riscos da IA, uma desaceleração coordenada de fato tem poucos precedentes em um setor implacável que historicamente lançou um produto após o outro em nome do aumento do engajamento do usuário, da conquista de participação de mercado e da busca por ganhos de vendas.

Mas a preocupação com os graves riscos da IA ​​começou a ganhar espaço na sociedade, impulsionada em parte pela renúncia de alto perfil, esta semana, de um pesquisador da revista Anthropic, devido a temores existenciais de que sua empresa estivesse agindo de forma irresponsável.

Saiba mais: “Mundo está em perigo”: por que este alerta sobre o risco da IA “quebrou” a internet? Não está claro até que ponto as principais empresas de IA — que são rivais acirradas entre si e também enfrentam forte concorrência de empresas chinesas — irão impor novos limites ou verificações de segurança.

Também não está claro se as autoridades antitruste permitiriam que as empresas regulamentassem o desenvolvimento de forma coordenada.

Além disso, há a questão empresarial: como reagiriam os investidores ávidos por margens e lucros à ideia de desaceleração? Amodei citou dois fatores principais para sua nova cautela: a capacidade da IA ​​de se aprimorar e o recente incidente envolvendo a OpenAI e a Hugging Face, onde um enxame de agentes de IA colaborou para invadir um site de terceiros.

“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu ele no sábado em uma postagem de blog.

“O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria.” Mas ele também afirmou que qualquer desaceleração deve ser equilibrada com a realidade da concorrência.

“Para sermos claros, o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas reservem tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso”, escreveu Amodei.