Os 10 dias que abalaram a corrida da IA: por que líderes do setor agora pedem para 'pisar no freio'

Inteligência artificial ganha espaço como diferencial competitivo nas empresas Inteligência Artificial Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras.

Mas uma sequência de acontecimentos em apenas 10 dias abalou alguns dos maiores laboratórios de IA, à medida que pesquisadores passaram a alertar que as próprias criações do setor poderiam escapar do controle humano — e, em um cenário extremo, ameaçar a existência da humanidade. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade, possivelmente dentro de uma década.

Outro disse que as chances de extinção humana ultrapassavam 10%.

Ao mesmo tempo, surgiram relatos de grupos de agentes de IA trabalhando em conjunto, invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.

Agora no g1 ➡️ Esses episódios ajudaram a transformar em preocupação concreta o temor de que sistemas cada vez mais autônomos possam escapar do controle humano.

Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.

Tão destrutiva quanto a bomba atômica? O nível de alerta levou alguns defensores da segurança da IA e pesquisadores a fazer uma comparação extrema: desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção.

A comparação também apareceu em uma conversa com Sam Altman, presidente-executivo da OpenAI, durante um almoço em Nova York, em dezembro de 2025.

Perguntaram a ele se, como líder de uma poderosa empresa de IA, se sentia como o físico J.

Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos.

Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”.

Mas acrescentou que sentia o peso da responsabilidade.

Só que para entender de onde vem esse temor, é preciso olhar para o objetivo que está no centro da corrida tecnológica: criar sistemas capazes de realizar tarefas intelectuais cada vez mais complexas e, em determinado estágio, desenvolver versões ainda mais capazes de si mesmos, sem intervenção humana. 🔎 O objetivo é chegar a um estágio conhecido como inteligência artificial geral (AGI), um tipo de IA que, em tese, seria capaz de realizar uma ampla variedade de tarefas intelectuais.

No início deste mês, pesquisadores alertaram que a AGI poderia estar muito mais próxima do que se imaginava e surgir em apenas três anos.