Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAI

Um grupo de pesquisadores de uma empresa de “hackers éticos” conseguiu invadir os sistemas da OpenAI usando a inteligência artificial de uma das suas concorrentes, a Anthropic.

O resultado? Um pagamento de US$ 6,5 mil ao trio que descobriu a brecha de segurança.

Todo o caso foi relatado no blog da Hacktron AI, uma empresa de segurança que detecta vulnerabilidades em sistemas antes que possam ser explorados por hackers com intenções maliciosas.

Leia mais: Novos alertas sobre IA reacendem debate sobre controle da tecnologia Harsh Jaiswal, Mohan Pedhapati e Rahul Maini detalharam como utilizaram uma ferramenta da Anthropic desenvolvida para profissionais de segurança a fim de acessar a conta do ChatGPT de um funcionário da OpenAI.

De acordo com os pesquisadores, essa poderia ser a porta de entrada para uma série de informações internas da companhia.

“Todo o cronograma, desde a descoberta inicial até a obtenção de acesso ao repositório da OpenAI, transcorreu em menos de 72 horas”, disseram no blog da empresa.

Na tarde do dia 24 de julho, a Anthropic havia acabado de lançar o Opus 5, modelo de linguagem por trás do seu chat de IA generativa Claude.

Os pesquisadores usaram a nova versão para abrir o caminho até o fórum da OpenAI hospedado pela plataforma Discourse.

Por meio da comunidade, eles conseguiram credenciais de login do funcionário no ChatGPT.

Como a IA pode ser conectada a diversos serviços, a ferramenta de IA teoricamente poderia dar acesso a outras aplicações como a plataforma de desenvolvimento GitHub, o chat corporativo Slack ou e-mails.

Quando identificaram o problema, os membros da Hacktron AI acionaram o programa de bug bounty da OpenAI.

A iniciativa é comum na indústria de tecnologia e serve para premiar hackers éticos — aqueles que procuram por bugs em sistemas apenas para relatá-los às empresas em troca de premiações em dinheiro.

A OpenAI pagou US$ 6,5 mil aos pesquisadores e resolveu o problema.

A revelação ocorre em meio a discussões sobre medidas de segurança para controlar o acelerado desenvolvimento das inteligências artificiais em gigantes da tecnologia.