Por que a Anthropic quer desacelerar o avanço da inteligência artificial

O avanço acelerado da inteligência artificial levou uma das principais empresas do setor a defender uma mudança de ritmo.

Dario Amodei, CEO da Anthropic, afirmou que as empresas precisam controlar a velocidade de desenvolvimento dos modelos mais avançados para garantir mais segurança e reduzir riscos, sem interromper a inovação tecnológica.

Em ensaio publicado neste sábado (12), Amodei apresentou um plano em três etapas para uma desaceleração coordenada.

Segundo ele, a proposta não significa interromper pesquisas ou impedir novos avanços, mas reservar tempo para testar, alinhar e proteger os sistemas antes que eles alcancem capacidades ainda maiores.

A primeira medida já teria sido adotada pela própria Anthropic.

A empresa passou a permitir que avaliadores externos tenham acesso equivalente ao de funcionários para analisar práticas de segurança e comunicar possíveis incidentes .

A segunda etapa prevê uma articulação entre grandes empresas de IA de países democráticos para criar padrões comuns de segurança.

A terceira amplia essa coordenação para envolver governos, incluindo países com diferentes modelos políticos.

Amodei afirmou que uma desaceleração teria pouco sentido alguns anos atrás, quando os sistemas ainda não tinham capacidade de atuar diretamente no mundo real ou realizar ações como manipulação avançada, ataques cibernéticos ou estratégias de engano.

O executivo, porém, avalia que o cenário mudou.

Para ele, caso a redução no ritmo permita ganhar um ou dois anos adicionais antes que os modelos atinjam níveis críticos de capacidade , esse período poderia ser usado para desenvolver mecanismos mais eficazes de controle.

O debate ganhou força depois que o pesquisador da Anthropic Jacob Coxon deixou a empresa afirmando temer que organizações como Anthropic e OpenAI estejam assumindo riscos excessivos.

Segundo ele, parte dos pesquisadores acredita que sistemas futuros poderiam representar ameaças graves à humanidade.

A preocupação com riscos extremos da IA já havia levado pesquisadores e executivos do setor a assinarem, em 2023, uma declaração defendendo que reduzir riscos de extinção provocados pela tecnologia deveria ser uma prioridade global, ao lado de ameaças como pandemias e guerras nucleares.