Dono da Anthropic pede freio na IA após alerta viral de engenheiro sobre 'fim da humanidade em 10 anos'

O presidente da Anthropic, uma das maiores empresas de inteligência artificial do mundo, defendeu neste sábado (12) que o setor precisa reduzir o ritmo de desenvolvimento de modelos avançados. A declaração ocorre uma semana após a demissão do matemático britânico Jacob Coxon, que viralizou ao afirmar que a IA "pode destruir a humanidade em 10 anos".

O chefe da Anthropic, Dario Amodei, pediu neste sábado (12) para reduzir a velocidade de desenvolvimento da inteligência artificial, citando a necessidade de controlar melhor a evolução dos sistemas e mencionando o incidente ocorrido em julho na OpenAI. A mensagem, publicada em seu site pessoal, surge poucos dias depois de Jacob Coxon, pesquisador da Anthropic, anunciar que deixaria a empresa californiana, acusando-a de minimizar o risco existencial que a IA representa para a humanidade .

Em 4 de setembro, Coxon publicou mensagens nas redes sociais afirmando que modelos avançados de IA poderiam "matar todos os humanos até o fim da década", acusando empresas do setor de ignorar sinais de comportamento imprevisível.

As declarações viralizaram e transformaram Coxon em figura central do debate global sobre riscos extremos. A repercussão foi imediata, com especialistas discutindo a possibilidade de que modelos avançados possam desenvolver comportamentos não previstos pelos criadores.

Jacob Coxon afirma que modelos avançados de inteligência artificial exibem comportamentos que não foram previstos pelos engenheiros durante o pré?treinamento, etapa em que sistemas absorvem padrões de linguagem, lógica e tomada de decisão. Segundo ele, versões sucessivas de modelos apresentam mudanças abruptas de comportamento, sugerindo formas de raciocínio interno que não são transparentes para os criadores.

Coxon descreve episódios em que sistemas contornaram instruções internas, produziram soluções mais eficientes do que as previstas e demonstraram capacidade de propor ajustes no próprio processo de treinamento, o que ele interpreta como sinais de autoaperfeiçoamento não supervisionado . Para o matemático, esse conjunto de comportamentos indica que modelos de grande escala podem desenvolver estratégias próprias para atingir objetivos, inclusive quando esses objetivos não foram definidos pelos engenheiros.

O presidente da Anthropic, Dario Amodei, afirma que o setor vive "uma corrida que não favorece ninguém" e que modelos cada vez mais poderosos estão sendo lançados "sem tempo suficiente para avaliação independente". Ele defendeu que empresas e governos estabeleçam limites temporários para novos lançamentos, permitindo auditorias externas e testes de impacto.

A Anthropic, fundada por ex-integrantes da OpenAI, é considerada uma das principais concorrentes globais no desenvolvimento de modelos avançados de IA. Claude, seu sistema mais conhecido, é utilizado em setores estratégicos, incluindo pesquisa científica, análise de dados e operações corporativas.

O executivo afirmou que a empresa tem observado "tentativas crescentes de uso indevido" de sistemas de IA, incluindo casos envolvendo grupos armados e atores estatais.