Por que empresas que aceleraram a corrida da IA agora defendem pisar no freio; entenda o que está por trás disso

CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA Executivos de grandes empresas de tecnologia passaram a defender uma pausa no avanço da inteligência artificial para tornar o desenvolvimento da tecnologia mais seguro.

O movimento ganhou força após um texto publicado por Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude.

"Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet.

Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 O discurso também foi defendido por executivos de empresas que concorrem diretamente com a Anthropic, como Sam Altman, CEO da OpenAI, empresa responsável pelo ChatGPT; Elon Musk, dono do X e da empresa de IA xAI; e Demis Hassabis, presidente do Google DeepMind.

"Concordo com Dario que precisamos marcar o ritmo da fronteira.

Esse tem sido um tema principal das discussões que tivemos na OpenAI.

Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo.

Teremos mais para compartilhar em breve", escreveu Sam Altman logo em seguida.

"Dario está certo", escreveu o trilionário Elon Musk.

Amodei também pediu que auditores independentes acompanhem e verifiquem os padrões de segurança das companhias.

Segundo o site de tecnologia The Information, Anthropic, OpenAI e Google discutiram secretamente a criação de um órgão para estabelecer padrões de segurança em IA.

Claude costuma ser mais usado por empresas e ChatGPT, por usuários privados Matteo Della Torre/NurPhoto/picture alliance via DW A defesa por mais cautela também ocorre após uma série de episódios que levantaram preocupações sobre o controle da tecnologia nos últimos meses, incluindo relatos de ataques realizados por IA.

Além disso, na semana passada, um pesquisador que deixou a OpenAI para trabalhar na Anthropic abandonou a indústria de IA e acusou as duas empresas de "brincar com as nossas vidas".

"De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima.