Por que os últimos 10 dias mudaram o debate sobre inteligência artificial

SÃO FRANCISCO, Estados Unidos, 21 Set (Reuters) - Durante anos, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar paradigmas.

Mas, em uma série de eventos em cascata ao longo de um período de 10 dias, os maiores laboratórios de IA viram-se abalados quando suas próprias criações ameaçaram destruir a própria humanidade.

Um pesquisador da Anthropic pediu demissão da ​empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente dentro de uma década. Outro pesquisador da empresa ​afirmou que as chances de extinção humana ultrapassavam 10%. Surgiram relatos de enxames de agentes de IA agindo em conluio, invadindo sistemas de computador e contornando medidas de segurança.

Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. Desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente sua própria extinção, segundo alguns defensores da segurança da IA e pesquisadores.

Em um almoço em Nova York, em dezembro de ​2025, perguntaram ao presidente-executivo da OpenAI, Sam Altman, se, como líder de uma poderosa ⁠empresa de IA, ele se sentia como o físico ​J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos. Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história ⁠da humanidade por um longo período”. Mas, acrescentou, sentia o peso da responsabilidade.

No centro do debate em andamento está a convicção de que essas ​máquinas podem, e até devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. No início deste mês, pesquisadores alertaram que a AGI estava muito mais próxima do que se acreditava anteriormente e poderia surgir em apenas três anos, gerando uma onda de preocupação entre políticos e líderes do setor de tecnologia em relação aos sistemas de ‌IA.

“Não há como supervisioná-las na escala em que as estamos treinando”, disse o pesquisador da Anthropic, ‌Joe Benton, em uma entrevista após ter ​se demitido recentemente. Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, “então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.

Em 3 de setembro, uma entrevista coletiva à imprensa da OpenAI desencadeou uma cadeia de eventos que levou ao apelo por uma desaceleração do setor, algo que vai contra o mantra do crescimento a qualquer custo do setor de tecnologia.

“Bem-vindos à era da AGI”, disse o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da ‌empresa, conhecido como Astra. No entanto, apenas momentos antes, a empresa admitiu que estava cada vez mais incapaz de controlar ou mesmo monitorar os sistemas de IA que estava desenvolvendo e lançando ao público.

A IA tem sido aclamada por seus defensores como o ápice das conquistas humanas.