CEO da Anthropic pede colaboração global e desaceleração no avanço da IA

A corrida para desenvolver inteligência artificial precisa urgentemente de uma desaceleração, afirmou o CEO da Anthropic, Dario Amodei, em um ensaio publicado na manhã de sábado.

“Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA.

O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria”, escreveu Amodei em uma postagem de 3.800 palavras em seu site.

O executivo, que dirige uma das principais empresas de IA do mundo e seu chatbot Claude, tem sido um forte defensor do avanço da tecnologia — e, da mesma forma, foi acusado de “catastrofismo” em seus alertas sobre os riscos da IA.

Ele reconheceu no sábado que as pessoas podem perder o controle da IA ​​e que a tecnologia pode ser usada indevidamente para “ataques cibernéticos e bioterrorismo, além de causar sérias perturbações econômicas”.

Leia Mais Análise: Temor sobre riscos da IA pode redefinir eleições nos EUA Impulso global de IA mostra sinais de vulnerabilidade, avalia BIS Ganhadores do Nobel e outros 200 especialistas pedem ação sobre IA Em entrevista exclusiva à CNN com Anderson Cooper no sábado, Amodei pediu aos líderes do setor que trabalhem juntos para evitar “os caminhos errados” e a possibilidade de a IA prejudicar a humanidade.

“Se formos muito devagar, continuo acreditando que as pessoas erradas ficarão responsáveis ​​pela tecnologia.

E isso, novamente, aumentará muito a probabilidade de as coisas darem errado”, disse ele.

O apelo de Amodei surge na sequência da demissão de um pesquisador da Anthropic , devido a preocupações de que a empresa e seus concorrentes não estejam agindo de forma responsável no desenvolvimento de IA.

“As pessoas que desenvolvem IA acreditam sinceramente que ela poderá nos matar a todos até o final da década.

Isso não é uma jogada de marketing”, publicou o pesquisador Jacob Coxon na terça-feira passada no X (antigo Twitter).

“Na verdade, muitos executivos e pesquisadores seniores suavizam suas declarações à imprensa para parecerem sensatos, mas ouço essas mesmas pessoas expressarem medo em particular.

Nenhuma outra atividade humana representa esse nível de perigo”, escreveu Coxon.

Amodei disse à CNN que concordava com Coxon em mais pontos do que discordava.