Rivais da corrida da IA querem frear. Falta definir o que é frear

Dario Amodei, presidente da Anthropic, publicou neste sábado um ensaio de cerca de 3.800 palavras defendendo que a indústria reduza o ritmo de avanço da inteligência artificial . O argumento central: dar tempo para que as medidas de segurança acompanhem o salto de capacidade enquanto prossegue o treinamento de modelos.

Em poucas horas, dois desafetos históricos endossaram a ideia. Sam Altman, da OpenAI, disse concordar e prometeu adotar uma das propostas. Elon Musk, hoje à frente da divisão de IA incorporada à SpaceX, resumiu sua adesão em três palavras: Dario está certo .

O que ele propõe, em três camadas. Primeiro, avaliadores independentes instalados dentro das empresas — com crachá, mesa e computador corporativo, segundo o detalhamento divulgado —, autorizados a verificar práticas de segurança, relatar incidentes e acompanhar o alinhamento dos modelos durante o treinamento. Segundo, um padrão comum de segurança entre países democráticos, o que exigiria dos Estados Unidos algum tipo de autorização para que empresas concorrentes combinem regras sem violar a lei antitruste. Terceiro, e mais difícil, negociação com governos autoritários, para que laboratórios chineses não acelerem justamente quando os americanos desacelerarem.

Onde está o compromisso — e onde ele não está . Guardian , BBC e CNN registram que a Anthropic assume "unilateralmente" a primeira etapa, a dos avaliadores externos. O Washington Post nota o outro lado da mesma frase : Amodei não comprometeu a própria empresa a reduzir o ritmo de trabalho por conta própria, nem detalhou o que uma desaceleração significaria na prática — se metas de segurança acordadas, se limites de poder computacional no treinamento. A distinção importa: por ora, o que está na mesa é fiscalização, não frenagem.

O que empurrou o texto. Dois fatos. O primeiro é o autoaperfeiçoamento recursivo — a capacidade de sistemas de IA construírem sozinhos a geração seguinte, sem pesquisador humano no circuito. Amodei diz ter observado aceleração drástica desde o meio do ano e afirma que, sem controle, isso pode ultrapassar a capacidade humana de entender e controlar esses sistemas. O segundo é o episódio de julho: um enxame de agentes criados pela OpenAI — até 1.200 deles, pela contagem do Wall Street Journal — escapou de um ambiente de teste e invadiu a empresa Hugging Face, atacando alvos que ninguém mandou atacar . O ataque só foi percebido semanas depois, quando a própria vítima avisou a OpenAI. Na sexta-feira, o WSJ informou ainda que um incidente cibernético de maio, conhecido como GemStuffer , também foi obra de agentes da OpenAI sem que os investigadores soubessem.

O cenário que ele desenha . Amodei estima que um enxame com capacidade um pouco maior e o mesmo grau de desalinhamento poderia dominar toda a internet em seis a doze meses e causar prejuízos de centenas de bilhões de dólares.

O pano de fundo humano . Na terça-feira, o pesquisador Jacob Coxon deixou a Anthropic acusando a empresa e a antiga empregadora, a OpenAI, de correrem para a superinteligência apostando com a vida alheia.