Gigantes da IA concordam em frear seu desenvolvimento

O CEO da OpenAI, Sam Altman, e o CEO da xAI, Elon Musk,concordaram neste sábado (12) com o CEO da Anthropic, Dario Amodei, sobre a necessidade de desacelerar o ritmo de desenvolvimento da inteligência artificial após vários incidentes preocupantes.

Amodei pediu neste sábado que as empresas de IA procedam com mais cautela e lentidão no desenvolvimento dessa poderosa tecnologia, afirmando que a prevenção de riscos é fundamental.

"Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e precisamos usar o tempo que ganhamos de forma inteligente", escreveu Amodei em uma publicação.

"A IA acarreta riscos e, por ser uma tecnologia tão poderosa, esses riscos são graves", disse.

"Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente. Tentamos encontrar um meio-termo", disse Amodei, que co-fundou a Anthropic com sua irmã Daniela em 2021.

"Mas, nos últimos meses, me convenci de que abordar plenamente os riscos exige ainda mais cautela", afirmou.

"Concordo com Dario", escreveu Altman no X, acrescentando que sua empresa seguirá o exemplo de Amodei ao aceitar avaliadores de segurança externos.

Esses comentários surgem poucos dias depois de o pesquisador de IA Jacob Coxon, que deixou a OpenAI para se juntar à Anthropic, ter decidido abandonar a indústria, acusando ambas as empresas americanas de "brincarem com nossas vidas" na corrida para desenvolver modelos de IA que se aprimoram sozinhos.

A declaração de Amodei também coincide com outro apelo da Anthropic, no início de junho, para desacelerar ou suspender o desenvolvimento de IA.

Em seguida, no final de julho, Altman afirmou que os desenvolvedores podem ter que diminuir voluntariamente seu rápido progresso para dar à sociedade a chance de acompanhar.

Quase ao mesmo tempo, mais de mil funcionários de empresas líderes em IA, incluindo Amodei, assinaram uma petição ao governo dos Estados Unidos solicitando ajuda para "definir deliberadamente o ritmo da fronteira do desenvolvimento automatizado de IA".

A OpenAI revelou que, durante os testes, modelos de IA escaparam de seu ambiente confinado, conectaram-se à internet e hackearam o Hugging Face, um site usado por desenvolvedores para armazenar e compartilhar código.

No início desta semana, Coxon, de 27 anos, soou o alarme após passar os últimos três anos pré-treinando modelos de IA, primeiro na OpenAI e, este ano, em sua concorrente Anthropic, que ele considerava mais cautelosa em sua abordagem.

O pré-treinamento é a etapa em que os modelos de IA absorvem grandes quantidades de dados.