OpenAI desacelera Astra após modelo atingir nível preocupante em cibersegurança

A OpenAI desacelerou parte do desenvolvimento do Astra depois que avaliações internas levantaram uma preocupação incomum: a empresa diz que não consegue descartar que o novo modelo tenha atingido o nível “Critical” de capacidade em cibersegurança, uma das classificações mais altas previstas em seu próprio sistema de avaliação de riscos.

Segundo informações divulgadas pela empresa , atividades com o Astra que ainda não atendem aos controles de segurança exigidos para esse patamar foram interrompidas enquanto novas proteções são implementadas.

Isso não significa que esteja comprovado que o Astra consegue invadir autonomamente qualquer sistema protegido.

O ponto é outro: os resultados obtidos foram suficientes para que a OpenAI não pudesse excluir essa possibilidade dentro dos critérios de seu Preparedness Framework, levando a companhia a adotar medidas preventivas.

O que significa o nível “Critical” para o Astra O Preparedness Framework é usado pela OpenAI para acompanhar capacidades que podem criar riscos graves à medida que seus modelos ficam mais poderosos.

Em cibersegurança, o nível “High” já contempla habilidades avançadas, como contribuir significativamente para operações complexas contra sistemas bem protegidos.

O estágio “Critical” é mais severo e abrange capacidades capazes de abrir novos caminhos para danos graves.