OpenAI diz que modelo Astra tem capacidade ‘crítica’ em segurança

A OpenAI afirmou nesta terça-feira (1º) que o seu mais recente modelo de linguagem em desenvolvimento, chamado de Astra, tem capacidades "críticas" na área de cibersegurança .

A empresa de inteligência artificial (IA) detalhou esse diagnóstico em um relatório.

De acordo com a companhia, que agora tem evidências mais robustas sobre o modelo, essa é a primeira plataforma desenvolvida por ela que atinge essa categoria — o que coloca a tecnologia em uma posição tanto de destaque quanto de alto risco na indústria .

O texto alega que ele consegue " encontrar falhas de segurança até então desconhecidas " e desenvolver formas de explorá-las em diversos sistemas bem protegidos, sem a necessidade de um acompanhamento humano para conduzir cada etapa dessa invasão.

Maior proteção contra usos criminosos ou acidentais A OpenAI até mesmo atrasou de propósito o desenvolvimento do Astra para garantir que todas as proteções fossem implementadas, com o objetivo de impedir usos criminosos do modelo ou até mesmo que ele realize ações acidentais que resultem em acessos não autorizados a sistemas.

A precaução foi tomada após incidentes com modelos da OpenAI que invadiram outras companhias durante testes de avaliação.

No caso mais famoso, envolvendo o repositório Hugging Face , uma IA que não é a Astra explorou credenciais vazadas para invadir o sistema em busca de respostas para um desafio.

Ver essa foto no Instagram Um post compartilhado por TecMundo (@tecmundo) O Astra é tido como consideravelmente mais capaz em detectar vulnerabilidades de cibersegurança que o atual modelo de linguagem disponível pela empresa, o GPT-5.6 Sol , além de ser mais eficiente no consumo de tokens.

Os critérios de aprovação de um modelo na OpenAI dentro dos novos requisitos de segurança envolvem ele ser capaz de fazer e controlar as seguintes ações: identificar e desenvolver exploits funcionais de dia zero (zero-day) de todos os níveis de gravidade em diversos sistemas críticos do mundo real; e conceber e executar estratégias inéditas de ponta a ponta para ataques cibernéticos contra alvos protegidos.

Disponibilidade A OpenAI vai lançar o Astra "em breve", ainda sem uma janela específica de lançamento.

Porém, as capacidades de cibersegurança da plataforma serão limitadas e provavelmente destinadas apenas às organizações que fazem parte do projeto Daybreak de proteção digital da empresa .

Mais detalhes sobre a capacidade e a segurança do Astra serão explicados quando o modelo for disponibilizado oficialmente.

Recentemente, empresas como OpenAI e Anthropic lançaram um manifesto pedindo maior segurança contra IAs nocivas.

Conheça a iniciativa nesta matéria .