Os dez dias que fizeram soar o alerta sobre IA e o futuro da humanidade

San Francisco (EUA) | Reuters Durante anos, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa seguiu um conhecido princípio do Vale do Silício: avance rápido e quebre paradigmas.

Mas, em uma série de acontecimentos em cascata ao longo de dez dias, os maiores laboratórios de IA se viram abalados à medida que suas próprias criações ameaçavam destruir a própria humanidade.

Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente em uma década . Outro pesquisador da companhia afirmou que a probabilidade de extinção humana superava 10%. Surgiram relatos de enxames de agentes de IA atuando em conluio , invadindo sistemas de computadores e driblando mecanismos de proteção.

Em uma rara demonstração de união, os CEOs das rivais Anthropic, OpenAI , DeepMind, do Google , Microsoft e xAI pediram que o desenvolvimento de sistemas de IA cada vez mais capazes fosse desacelerado . Segundo alguns pesquisadores e defensores da segurança da IA, desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não lidava tão seriamente com a possibilidade da própria extinção .

Em um almoço em Nova York, em dezembro de 2025, perguntaram ao CEO da OpenAI, Sam Altman, se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J. Robert Oppenheimer , que comandou o desenvolvimento da bomba atômica pelos Estados Unidos . Refletindo sobre os paralelos, ele disse que o impacto da IA "vai transformar a trajetória da história humana ao longo de um extenso período". Mas afirmou sentir o peso da responsabilidade.

No centro do debate em curso está a convicção de que essas máquinas podem —e até devem— criar versões mais capazes de si mesmas , sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. No início deste mês, pesquisadores disseram que a AGI estava muito mais próxima do que se acreditava e poderia surgir em apenas três anos, desencadeando uma onda de preocupação entre políticos e líderes do setor de tecnologia sobre os sistemas de IA.

"Não há como supervisioná-los na escala em que os estamos treinando", afirmou Joe Benton, pesquisador da Anthropic, após deixar recentemente a empresa. Se as companhias prosseguirem com seu avanço implacável no desenvolvimento da IA, "o ritmo será rápido demais, e não será possível identificar os problemas a tempo de corrigi-los".

Em 3 de setembro, uma entrevista coletiva da OpenAI desencadeou uma série de acontecimentos que culminou no pedido de desaceleração do setor —algo contrário ao mantra da tecnologia de crescer a qualquer custo.

"Bem-vindos à era da AGI", declarou o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra . No entanto, poucos instantes antes, a companhia havia admitido que estava cada vez menos capaz de controlar ou mesmo monitorar os sistemas de IA que desenvolvia e disponibilizava ao público.

A IA tem sido celebrada por seus defensores como o auge das realizações humanas.