Anthropic e OpenAI pedem freio na IA, mas não reduzem a própria velocidade

Apenas dois dias depois de a Anthropic publicar um relatório de 154 páginas sobre fraudes, operações cibernéticas e vigilância realizadas com Claude, Dario Amodei, CEO da empresa, pediu que o desenvolvimento dos sistemas mais poderosos de inteligência artificial desacelere. Seu plano prevê que concorrentes, governos democráticos e, mais adiante, a China limitem o ritmo dessa corrida.

Na política, Ted Lieu, deputado democrata pelo estado da Califórnia (EUA) e vice-presidente da bancada democrata na Câmara dos Representantes, considerou os avaliadores um avanço, mas perguntou se a Anthropic consegue desligar seus modelos e agentes. Ro Khanna, também deputado democrata pela Califórnia, disse que Amodei não foi longe o bastante e defendeu uma pausa na autoevolução recursiva, além de responsabilidade civil e criminal.

Uma assimetria liga "We Must Pace the Frontier" ("Precisamos controlar o ritmo de avanço da fronteira da IA", em tradução livre), o ensaio publicado por Amodei, e o relatório sobre uso indevido divulgado em 10 de setembro. Lidos juntos, os documentos registram danos já observados e uma proposta de controle que busca preservar, segundo Amodei, a vantagem comercial dos desenvolvedores e a liderança americana.

A Anthropic vende o produto, investiga seu uso, escolhe os casos divulgados e participa da elaboração das regras que deveriam contê-lo. Esse acesso permite revelar operações que dificilmente seriam conhecidas pelo público. Também dá à empresa controle sobre a evidência usada para avaliar sua própria atuação.

A velocidade de desenvolvimento superou a capacidade de controle da empresa, e uma desaceleração coletiva daria à Anthropic tempo para corrigir sua própria linha de produção sem perder posição para os concorrentes. O próprio Amodei escreve que o ritmo menor deveria preservar a vantagem comercial dos desenvolvedores e a liderança dos Estados Unidos.

O relatório cobre episódios identificados entre dezembro de 2025 e agosto de 2026. A empresa informa ter escolhido os casos mais relevantes ou incomuns, sem apresentar uma amostra representativa de tudo o que acontece no Claude. Tem sido assim, sem detalhes, em praticamente todos os casos.

Um dos casos envolveu mais de 4.700 personagens criados com inteligência artificial que conversaram com pelo menos 25 mil pessoas em duas semanas de abril de 2026. Os usuários estavam em uma rede de mais de 20 aplicativos de relacionamento que prometiam interações humanas. Segundo a Anthropic, Claude ajudou a construir os aplicativos e sustentava as conversas dos perfis falsos.

A empresa responsável pelo serviço contratava pessoas para fazer chamadas de vídeo e outras interações que dessem credibilidade à plataforma. Os usuários compravam créditos para continuar conversando. Havia trabalho humano na operação, mas ele ajudava a esconder a automação. O negócio cobrava por uma relação cuja natureza o consumidor desconhecia. A opacidade existe também em outros casos.

Amodei escreve que desacelerar ou pausar a IA não fazia sentido em 2023.