CEO da Anthropic defende desaceleração de avanços da IA, em meio a alerta sobre risco

(Bloomberg) – O diretor executivo da Anthropic PBC, Dario Amodei, afirmou que a indústria de inteligência artificial precisa desacelerar o ritmo de desenvolvimento de novos modelos, citando crescentes preocupações com os riscos “sérios” para os seres humanos.

“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”, escreveu ele no sábado em uma postagem de blog.

“O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria.” Ele citou dois fatores principais: a capacidade da IA ​​de se aprimorar e o incidente recente envolvendo a OpenAI e a Hugging Face, onde um enxame de agentes de IA colaborou para invadir um site de terceiros.

“Para sermos claros, o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso”, acrescentou.

A preocupação com os graves riscos da IA ​​começou a ganhar espaço na sociedade, impulsionada em parte pela renúncia de alto perfil, esta semana, de um pesquisador da revista Anthropic, devido a temores existenciais de que sua empresa estivesse agindo de forma irresponsável.

Saiba mais: “Mundo está em perigo”: por que este alerta sobre o risco da IA “quebrou” a internet? Ao longo do boom da IA, executivos dos principais laboratórios de IA alertaram sobre potenciais riscos existenciais – alegações que por vezes foram descartadas como tentativas de comercializar as capacidades de seus produtos e se posicionar como os melhores gestores da tecnologia.

O próprio Amodei já afirmou que há 25% de chance de as coisas darem “muito, muito errado”.

A Anthropic sempre se posicionou como uma empresa focada no desenvolvimento de IA de forma mais responsável e segura, para mitigar os potenciais perigos da tecnologia e maximizar os benefícios para a sociedade.

No início deste ano, a empresa se esforçou para limitar o lançamento de seu modelo Mythos após determinar que ele representava ameaças únicas à segurança cibernética.

A Anthropic também já afirmou que o mundo precisa de um sistema para decidir coletivamente quando diminuir o ritmo do desenvolvimento dessa tecnologia.

Ao mesmo tempo, a Anthropic permanece em uma acirrada competição com sua rival de longa data, a OpenAI, para desenvolver modelos cada vez mais sofisticados que possam automatizar tarefas mais complexas e valiosas para clientes corporativos.

Ambas as empresas já protocolaram documentos confidenciais para abrir capital, e a expectativa é que a Anthropic faça sua estreia na Bolsa de Valores ainda este ano.