Pesquisadores usam Claude para invadir OpenAI e acessar sistema de código interno da empresa

Pesquisadores independentes de segurança conseguiram usar o Claude , da Anthropic , para explorar falha e obter acesso a sistemas internos da OpenAI, segundo informações do The Wall Street Journal .

O ataque permitiu que a equipe acessasse a conta de um funcionário da empresa no ChatGPT e, a partir dela, lesse arquivos e sugerisse alterações em um repositório privado de software.

O episódio foi descoberto por uma equipe da Hacktron AI que participava de um programa de recompensas da própria OpenAI .

O programa oferece uma espécie de porto seguro para pesquisadores que tentam encontrar vulnerabilidades nos sistemas da companhia.

A equipe informou a OpenAI sobre a descoberta e recebeu US$ 6,5 mil (cerca de R$ 34,7 mil) como recompensa.

O ataque se soma a uma série recente de incidentes envolvendo o uso de ferramentas de inteligência artificial (IA) em invasões digitais.

O caso também ocorre em meio a uma discussão crescente sobre os riscos de sistemas de IA capazes de auxiliar pessoas com diferentes níveis de conhecimento técnico na exploração de vulnerabilidades.

Claude encontrou a forma de explorar a falha O ataque começou em 23 de julho , quando os pesquisadores da Hacktron encontraram uma vulnerabilidade na maneira como o Discourse, serviço de terceiros usado para hospedar o fórum de discussão da comunidade da OpenAI, processava determinados arquivos de imagem; Os pesquisadores tinham acesso a uma versão especial do Claude Opus 4.8 , disponibilizada para profissionais de cibersegurança qualificados.

Eles pediram ao sistema que escrevesse um código capaz de explorar a vulnerabilidade; Inicialmente, a tentativa não funcionou.

Naquela noite, porém, a Anthropic lançou o Opus 5 .

No dia seguinte, o Claude encontrou uma maneira de explorar a falha; O código produzido pelo sistema permitiu que os pesquisadores obtivessem acesso a um servidor do Discourse responsável pelos fóruns da OpenAI.

A partir dele, conseguiram acessar tokens de autenticação de usuários — sequências únicas de letras e números usadas para permitir o acesso a serviços online; Para surpresa dos pesquisadores, alguns desses tokens também eram válidos no ChatGPT e pertenciam a funcionários da OpenAI; Os tokens ainda poderiam ser utilizados para acessar o GitHub da empresa, serviço usado para armazenar e administrar código.

Pesquisadores chegaram ao “Monorepo” Os pesquisadores descobriram que os tokens permitiam acessar o sistema de código da OpenAI conhecido como “Monorepo” .

Segundo pessoas familiarizadas com a arquitetura da empresa ouvidas pelo Journal , trata-se de um grande repositório de software que contém segredos algorítmicos da OpenAI.