OpenAI não descarta que modelo Astra tenha atingido capacidade cibernética “crítica”

A OpenAI comunicou na última sexta-feira (7) que não pode descartar que o seu próximo modelo de fronteira, batizado de Astra e ainda não lançado ao público, tenha alcançado o mais alto nível de risco em cibersegurança previsto em seu Preparedness Framework, o protocolo interno que a empresa usa para monitorar capacidades potencialmente perigosas em seus sistemas de IA antes de colocá-los em produção.

Segundo as diretrizes da própria companhia, e informações da CNBC , um modelo é classificado no patamar “crítico” quando demonstra capacidade de identificar e explorar de forma autônoma vulnerabilidades graves de software, os chamados exploits de dia zero ou de executar ataques cibernéticos sofisticados contra alvos altamente protegidos sem qualquer intervenção humana no processo.

Avaliações preliminares conduzidas nos últimos dias, somadas a análises de especialistas externos, indicaram que o Astra pode ser capaz de realizar tarefas cibernéticas cada vez mais complexas de maneira autônoma.

Diante desse cenário, a OpenAI decidiu pausar atividades internas de desenvolvimento ligadas ao modelo que ainda não contam com salvaguardas adequadas, reforçar o monitoramento sobre seu uso e ampliar os controles de segurança em torno do projeto.