Dez dias que mudaram o rumo da IA

SÃO FRANCISCO, Estados Unidos, 21 Set (Reuters) – Durante anos, a corrida para desenvolver uma inteligência artificial cada ⁠vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar paradigmas.

Mas, em uma série de eventos em cascata ao longo ⁠de um período de 10 dias, os maiores laboratórios de IA viram-se abalados quando suas próprias criações ameaçaram destruir a própria humanidade.

Um pesquisador da Anthropic pediu demissão da empresa, alertando que o ritmo do desenvolvimento ‌da IA representa uma ameaça existencial, possivelmente dentro de uma década.

Outro pesquisador da empresa afirmou que as chances de extinção humana ultrapassavam 10%.

Surgiram relatos de enxames de agentes de IA agindo em conluio, invadindo sistemas de computador e contornando medidas de segurança.

Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.

Desde a invenção da bomba nuclear, há mais ‌de 80 anos, a humanidade não havia enfrentado tão seriamente sua própria extinção, segundo alguns defensores da segurança da IA e pesquisadores.

Em um almoço em Nova York, em dezembro de 2025, perguntaram ao presidente-executivo da OpenAI, Sam Altman, se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J.

Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos.

Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”.

Mas, acrescentou, sentia o peso da responsabilidade.

No centro do debate em andamento está a convicção de que essas máquinas podem, e até devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI.

No início deste mês, pesquisadores alertaram que a AGI estava muito mais próxima do que se acreditava anteriormente e poderia surgir em apenas três anos, gerando uma onda de preocupação entre políticos e líderes do ⁠setor de tecnologia ‌em relação aos sistemas de IA.

“Não há como supervisioná-las na escala em que as estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após ter se demitido recentemente.