Análise: Dez dias que mudaram o rumo da IA

Durante anos, a corrida para construir inteligência artificial cada vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar coisas.

Mas, numa série de eventos em cascata ao longo de 10 dias, os maiores laboratórios de IA se viram em apuros, com suas próprias criações ameaçando destruir a própria humanidade.

Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA ​​representa uma ameaça existencial, possivelmente dentro de uma década.

Outro pesquisador da empresa afirmou que as chances de extinção da humanidade ultrapassam 10%.

Surgiram relatos de enxames de agentes de IA conspirando, invadindo sistemas de computador e burlando medidas de segurança.

Leia Mais CEO da Anthropic pede colaboração global e desaceleração no avanço da IA Devagar para os outros De chatbots de IA alucinantes à extinção da humanidade: como chegamos aqui? Numa rara demonstração de união, os CEOs das empresas rivais Anthropic, OpenAI, Google DeepMind, Microsoft e xAI pediram a desaceleração no desenvolvimento de sistemas de IA cada vez mais sofisticados.

Segundo alguns defensores e pesquisadores da segurança da IA, desde a invenção da bomba nuclear há mais de 80 anos, a humanidade nunca havia se deparado tão seriamente com a sua própria destruição.

Em um almoço em Nova York, em dezembro de 2025, o CEO da OpenAI, Sam Altman, foi questionado se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J.

Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica pelos EUA.

Refletindo sobre os paralelos, ele disse que o impacto da IA ​​”transformará a trajetória da história da humanidade por um longo período de tempo”.

Mas, acrescentou, sentia o peso da responsabilidade.

No centro do debate está a convicção de que essas máquinas podem, e até mesmo devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI.

Pesquisadores alertaram no início deste mês que a AGI está muito mais próxima do que se acreditava anteriormente e pode surgir em apenas três anos, desencadeando uma onda de preocupação entre políticos e líderes do setor tecnológico em relação aos sistemas de IA.

“Não há como supervisioná-los na escala em que os estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após sua recente saída da empresa.