Pesquisadores descobrem como ‘roubar’ pensamentos secretos do ChatGPT, Claude e Gemini

Uma senha. Uma chave de acesso à nuvem da Amazon. Um número de passaporte. Nada disso apareceu no texto que o usuário viu na tela — mas tudo isso estava lá, escondido no "pensamento" que a inteligência artificial (IA) prometia manter em segredo.

É o que pesquisadores de instituições como o Instituto Max Planck e a Universidade de Tübingen, na Alemanha, encontraram ao vasculhar 315 mil blocos de raciocínio interno gerados por modelos da Anthropic , OpenAI e Google .

Eles descobriram uma falha que permitia decifrar esse raciocínio (normalmente criptografado e invisível ao usuário) e recuperar, em texto puro, informação que nunca deveria ter vazado.

O estudo ainda não passou por revisão por pares, o que significa que suas conclusões devem ser tratadas com cautela, pois trata-se de dados preliminares.

A vulnerabilidade foi comunicada às três empresas antes da divulgação pública, e todas já aplicaram correções — os autores confirmam que o ataque descrito não funciona mais desde agosto.

Modelos de raciocínio avançado, como o Claude, o ChatGPT e o Gemini em suas versões mais recentes, não respondem diretamente. Antes de mostrar uma resposta, eles geram uma cadeia de raciocínio interna , um rascunho mental onde testam hipóteses, cometem erros e corrigem o próprio caminho.

Esse rascunho costuma ser mais revelador que a resposta final, segundo a pesquisa, e pode conter dados sensíveis processados durante a tarefa, hipóteses descartadas e, em alguns casos, informação que o modelo decide não mostrar ao usuário por segurança — mas que ainda processou internamente.

Por isso, as três empresas pararam de exibir esse raciocínio em texto puro. Em vez disso, devolvem um bloco de texto criptografado, que o próprio usuário precisa reenviar à API a cada nova mensagem para manter a conversa fluindo — uma solução que evita que as empresas precisem guardar esse histórico em seus próprios servidores.