Criadores de IA se preparam em segredo para desastre global nos próximos meses

Os executivos da OpenAI e da Anthropic estão realizando simulações privadas para avaliar como reagir a um possível desastre global relacionado à inteligência artificial (IA).

Segundo relatos sobre os bastidores do setor, os líderes de empresas de tecnologia temem que um incidente grave, especialmente um ataque cibernético de grandes proporções, ocorra nos próximos seis a 12 meses e provoque uma reação negativa da sociedade e dos governos contra a indústria.

Os cenários analisados incluem ataques que podem comprometer serviços essenciais , como sistemas financeiros, redes de internet e infraestruturas de abastecimento de água e energia elétrica.

As hipóteses vão desde agentes autônomos de IA que escapam dos limites previstos em ambientes de teste até criminosos que exploram modelos disponíveis ao público para executar ataques virtuais.

A preocupação não se restringe a situações hipotéticas.

Um ataque recente contra dois bancos da Coreia do Sul teria usado agentes autônomos e ferramentas de IA, como o DeepSeek e o Claude Code, para encontrar vulnerabilidades e comercializar dados roubados.

O episódio reforça o temor de que sistemas que conseguem executar tarefas complexas com pouca intervenção humana ampliem as possibilidades de ataques cibernéticos .

Empresas querem antecipar reação política a uma crise Os executivos também se preocupam com as consequências políticas de um incidente de grande escala.

A avaliação é de que uma crise poderia aumentar a pressão por restrições ao desenvolvimento de IA e colocar líderes, como Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, no centro das críticas públicas.

As simulações também buscam antecipar possíveis medidas do Congresso dos Estados Unidos .

O plano inclui sessões de esclarecimento com congressistas norte-americanos antes que um desastre provoque indignação popular e acelere a aprovação de leis rigorosas.

A intenção é apresentar os riscos e as possíveis respostas com antecedência, para que o setor tenha mais influência nas discussões sobre a regulamentação da tecnologia.

Entre as medidas discutidas estão a suspensão do desenvolvimento de modelos avançados, a proibição de sistemas superinteligentes e a exigência de um mecanismo de desligamento para ferramentas de IA.

Essa última alternativa, porém, enfrenta dúvidas sobre sua viabilidade , especialmente diante da dificuldade de interromper sistemas distribuídos por diferentes plataformas e infraestruturas.