Altman e Musk concordam com CEO da Anthropic sobre desacelerar desenvolvimento da IA

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

O CEO da OpenAI , Sam Altman , e o diretor da xAI, Elon Musk , afirmaram neste sábado (12) que concordam com o CEO da Anthropic, Dario Amodei, de que é necessário desacelerar o desenvolvimento da inteligência artificial (IA), após vários incidentes preocupantes.

"Concordo com Dario", escreveu Altman no X, acrescentando que sua empresa seguirá o exemplo de Amodei ao aceitar avaliadores externos de segurança.

O CEO e fundador da da Anthropic pediu que as empresas de inteligência artificial que reduzam o ritmo de avanço das capacidades de seus modelos, em meio ao aumento dos temores quanto ao uso indevido da tecnologia , e apresentou uma estrutura de três etapas destinada a moderar o desenvolvimento e dar mais tempo para administrar seus riscos.

"Devemos reduzir o ritmo em que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e devemos usar de forma inteligente o tempo que ganharmos", escreveu Amodei em uma publicação em seu blog .

"Minha primeira preocupação é que, desde aproximadamente meados deste ano, a IA vem avançando de maneira drasticamente mais rápida, impulsionada principalmente por sua capacidade crescente de desenvolver a próxima geração de IA. (...) Se não for controlada, ela poderá superar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser conduzida com extremo cuidado —se é que deve ser conduzida", diz Amodei.

O plano de três etapas de Amodei prevê avaliadores independentes dentro das principais empresas de IA, coordenação entre as empresas de IA de fronteira para estabelecer padrões de segurança e limitar o desenvolvimento descontrolado da tecnologia, além de cooperação internacional para administrar seus riscos.

Ele tornou público o ensaio depois que a Anthropic, sediada em São Francisco, divulgou na quinta-feira (10) um relatório de inteligência sobre ameaças detalhando como diversos agentes haviam usado seus modelos de IA Claude em atividades que iam do desenvolvimento de armas e operações cibernéticas à vigilância e fraude.

Amodei apontou a crescente capacidade da IA de aprimorar a si própria, destacando como principais motivos para frear o avanço dos modelos as antigas preocupações de que a tecnologia possa evoluir mais rapidamente do que a capacidade humana de controlar seu funcionamento, além do recente incidente envolvendo a OpenAI e a Hugging Face.

O temor sobre os possíveis danos causados pela IA aumentou nesta semana, quando o pesquisador da Anthropic Jacob Coxon pediu demissão, afirmando que "as pessoas que desenvolvem IA acreditam sinceramente que ela poderá matar todos nós até o fim da década".

Diversos executivos da OpenAI sugeriram que os principais laboratórios deveriam estar dispostos a coordenar uma desaceleração voluntária, se necessário, para aumentar a confiança em suas medidas de segurança.

Receba no seu email o que de mais importante acontece na economia; aberta para não assinantes.

A Anthropic tem se posicionado como o laboratório de IA de fronteira mais preocupado com a segurança, mas não está imune a essas preocupações.