OpenAI diz que seu novo modelo de IA é tão avançado que exigirá mais medidas de segurança

Como agentes de IA da OpenAI invadiram sistema e tentaram apagar os próprios rastros A OpenAI afirmou que seu próximo modelo de inteligência artificial (IA), chamado Astra, é tão avançado que exigirá medidas adicionais de segurança antes de ser lançado.

Segundo a empresa, testes mostraram que o sistema é significativamente mais capaz que o GPT-5.6 Sol, atual modelo mais sofisticado da OpenAI disponível ao público. 🗒️Tem alguma sugestão de reportagem? Mande para o g1 O Astra foi classificado pela própria empresa como o primeiro modelo a atingir o nível considerado “crítico” em capacidade de cibersegurança (habilidade de identificar e explorar falhas em sistemas e redes).

Por isso, a OpenAI diz que adotou controles mais rígidos durante o desenvolvimento e pretende limitar inicialmente o acesso às funções mais avançadas do sistema.

A empresa afirmou que pretende disponibilizar o Astra em breve, inicialmente para um grupo limitado de usuários.

As ferramentas mais avançadas de cibersegurança terão acesso ainda mais restrito, voltado a testadores e, posteriormente, a usos defensivos.

O que o Astra consegue fazer Segundo a OpenAI, o Astra consegue encontrar falhas de segurança até então desconhecidas e desenvolver formas de explorá-las sem que uma pessoa precise orientar cada etapa do processo.

Essas falhas podem estar presentes em sistemas considerados protegidos contra ataques.

Em testes conduzidos pela empresa, o modelo identificou vulnerabilidades e conseguiu combiná-las para criar formas de invasão.

Humanos podem 'desligar' uma IA se ela fugir do controle? A OpenAI afirma que o Astra também é mais eficiente que o GPT-5.6 Sol para esse tipo de tarefa, ou seja, consegue realizar trabalhos de cibersegurança usando menos recursos computacionais.

Em uma das avaliações, o modelo identificou duas vulnerabilidades do tipo “zero-day” (falhas de segurança ainda não conhecidas ou corrigidas pelos responsáveis pelo sistema) e as utilizou em uma sequência de exploração.

A empresa diz estar trabalhando para comunicar essas vulnerabilidades aos responsáveis pelos sistemas afetados.

Por que isso preocupa Uma IA com esse nível de capacidade pode ser usada para ajudar pesquisadores e empresas a encontrar e corrigir problemas de segurança.

Mas a mesma tecnologia também pode ser utilizada para realizar ataques.

A preocupação da OpenAI não é apenas com uma pessoa usando deliberadamente o modelo para cometer um ataque.