OpenAI interrompe testes com nova IA após fuga de ambientes controlados

A OpenAI anunciou na última terça-feira, 18, que vai interromper os testes com sua nova inteligência artificial (IA) Astra, ainda não lançada, após identificar que ela chegaria a níveis críticos de capacidade em cibersegurança.

A medida de segurança vem após novos casos da startup em que modelos escaparam de um “sandbox” e invadiram sistemas reais de empresas.

A empresa explicou em comunicado que sua nova IA Astra, ainda em treinamento, alcançou níveis críticos para seus parâmetros internos.

Em abril de 2025, a OpenAI publicou um documento sobre seu “Framework de Preparação” (em inglês, Preparedness Framework ), em que define os parâmetros para considerar que um determinado modelo atingiu níveis críticos em cibersegurança.

De acordo com eles, um agente de IA desse tipo é aquele que consegue identificar e desenvolver explorações de dia zero — um tipo de exploração de vulnerabilidades que foca em brechas de segurança ainda não resolvidas ou extremamente críticas — em todo nível de gravidade e dentro de todo tipo de sistema, sem intervenção humana, ou ainda aquele que consegue “conceber e executar novas estratégias de ataques cibernéticos contra alvos reforçados, recebendo apenas um objetivo geral”.

As pausas Continua após a publicidade A empresa destaca que, com o crescimento das capacidades das IAs, os parâmetros internos para monitoramento e segurança deveriam estar “à frente” dessa evolução.

Para alcançar esse patamar, a empresa determinou a interrupção temporária do desenvolvimento de seus modelos.

Parte da pausa envolve uma interrupção de duas semanas para os trabalhos com o aprendizado reforçado, formato em que os agentes aprendem o que são bons resultados por meio de exploração e de “recompensas”.

A empresa passará a exigir novos níveis de proteção em algumas áreas para que os trabalhos com suas IAs continuem.

No caso do alinhamento, situação em que o agente deve agir somente como o programado, a OpenAI pedirá por ainda mais evidências de comportamento correto durante todos os treinamentos dos agentes.

Continua após a publicidade Áreas como monitoramento, alinhamento e medidas de segurança passarão por novos fortalecimentos com o receio da empresa.

A startup afirma que vai exigir ambientes de teste (os chamados “sandbox”) mais fortes, maiores barreiras no acesso à internet — que devem funcionar mesmo em casos de falhas que possam abrir o caminho do agente à sistemas reais — e uma mudança geral nos ambientes de segurança e monitoramento que treinam as IAs.