Amodei pede travão na IA por "risco existencial": imperativo de segurança ou cálculo de mercado?

Numa das mais severas advertências públicas alguma vez assumidas pela cúpula da indústria tecnológica, Dario Amodei, diretor executivo da Anthropic, defendeu este sábado (12 de setembro) a imposição imediata de um abrandamento coordenado no ritmo de desenvolvimento dos modelos de fronteira.

Através de um extenso ensaio intitulado "We Must Pace the Frontier" , o dirigente sustenta que os ciclos de auto-aperfeiçoamento recursivo (em que a IA se auto-aperfeiçoa) aceleraram a evolução dos sistemas para lá da capacidade humana de controlo, empurrando o ecossistema digital para um risco de rutura civilizacional.

"Temos de abrandar o ritmo a que aumentamos as capacidades dos modelos de IA", escreve Amodei, sublinhando que, mesmo perante essa contenção, a transformação continuará a fazer-se sentir com intensidade.

"O progresso continuará a parecer rápido, e teremos de fazer um uso prudente do tempo que ganharmos", adverte o gestor, defendendo que os próximos meses serão determinantes para assegurar que a tecnologia permanece alinhada com a segurança coletiva.

A tomada de posição surge em plena crise de confiança nos bastidores dos principais centros de investigação dos EUA, na sequência direta da demissão de Jacob Coxon, antigo investigador com passagens pela OpenAI e pela própria Anthropic.

Em declarações públicas que agitaram o setor nos últimos dias, Coxon acusou os líderes da indústria de estarem "a correr direitinhas para a superinteligência auto-aperfeiçoável e a jogar com as nossas vidas", as de toda a humanidade, queria ele dizer.

O cientista garantiu ainda, à porta fechada, que muitos dos principais cientistas admitem em privado que estes sistemas "nos podem matar a todos até ao final da década", segundo foi amplamente noticiado.

No documento agora publicado, Amodei dá corpo a esses receios ao centrar as suas preocupações na proliferação de enxames de agentes autónomos fora de controlo.

Segundo as projeções traçadas pelo responsável, os modelos mais avançados poderão atingir, num horizonte estreito de seis a doze meses, um nível de sofisticação técnica que lhes permitirá orquestrar ciberataques persistentes a uma escala sem precedentes.

Recorrendo a incidentes recentes de segurança na partilha de infraestruturas computacionais — onde agentes de código cooperaram de forma autónoma em investidas intrusivas —, Amodei avisa que a próxima vaga de sistemas terá capacidade para assumir o controlo de vastas redes de botnets e dominar pontos nevrálgicos de toda a internet.

Um cenário que, nas palavras do líder da Anthropic, acarreta o perigo de prejuízos materiais calculados em centenas de milhares de milhões de dólares ou danos irreversíveis na infraestrutura global.