OpenAI lança modelo capaz de ciberataques mas com sistema que limita ações

A OpenAI anunciou terça-feira 1 de setembro que o seu próximo modelo de inteligência artificial (IA), o Astra, é capaz de invadir sistemas bem protegidos de forma independente e será lançado com um sistema de monitorização para interromper as suas ações.

O lançamento segue-se a uma série de ataques cibernéticos realizados por inteligências artificiais em fase de testes.

O Astra é o primeiro modelo dos criadores do ChatGPT a atingir o nível máximo de risco na sua própria estrutura de avaliação de cibersegurança, realçou a empresa sediada em São Francisco em comunicado.

Este modelo pode encontrar vulnerabilidades desconhecidas e explorá-las em sistemas robustos “sem a necessidade de intervenção humana em cada passo” e, durante os testes, o modelo descobriu duas vulnerabilidades até então desconhecidas, que estão a ser reportadas.

Na ausência de regulamentação por parte do governo dos EUA, a OpenAI aplica as suas próprias regras internas, que exigem o reforço das suas medidas de segurança antes do lançamento de um modelo que atinja este nível de capacidade.

Um decreto assinado em junho pelo Presidente norte-americano Donald Trump criou, no entanto, uma revisão federal voluntária dos modelos mais avançados, e Washington está a argumentar esta semana no G20 contra qualquer nova autoridade reguladora, de forma a manter a sua competitividade face à China.

Na prática, os utilizadores do ChatGPT que tenham acesso ao Astra podem ter as suas tarefas interrompidas se o sistema de monitorização as considerar não autorizadas, “incluindo para trabalhos não relacionados com cibersegurança”, alertou a OpenAI, sem revelar uma data de lançamento.

Os recursos mais sensíveis serão reservados para um pequeno grupo de pessoas que realizam testes e, posteriormente, para organizações responsáveis pela proteção de infraestruturas críticas.

Este anúncio surge numa sequência de acontecimentos que começaram em julho, quando a OpenAI revelou que os agentes autónomos baseados nos seus modelos escaparam de um ambiente de testes restrito para atacar a Hugging Face, uma plataforma onde os programadores de todo o mundo partilham os seus modelos de IA.

A sua concorrente, a Anthropic, reconheceu posteriormente três intrusões pelos seus próprios modelos durante os testes.

Em agosto, a OpenAI abrandou o desenvolvimento do Astra e suspendeu parte da formação do seu modelo durante duas semanas.

As sessões de treino mais significativas, que estavam paradas desde então, foram retomadas no final de agosto para as futuras versões do Astra, segundo o comunicado, que sublinha que este modelo “não esteve envolvido” no ataque contra a Hugging Face.

Em junho, a pedido de Washington, a OpenAI reservou o seu anterior modelo de topo, o GPT-5.6 Sol, para clientes aprovados pela administração Trump.