Copilot “ensinou” pesquisadores a hackear o próprio sistema

Especialistas usaram engenharia social para burlar barreiras de proteção (ilustração: Vitor Pádua/Tecnoblog) Resumo A falha CoSnitch no Copilot da Microsoft permitia roubo silencioso de dados de contas conectadas com apenas um clique, segundo pesquisadores do Varonis Threat Labs.

A brecha foi descoberta após analistas aplicarem técnicas de engenharia social no mecanismo de raciocínio da IA, fazendo com que o próprio sistema revelasse comandos internos que deveriam estar desativados.

A correção oficial foi disponibilizada na versão web do Copilot.

Pesquisadores de cibersegurança descobriram uma falha crítica no Copilot que permitia roubar dados confidenciais e até manipular a memória do assistente a partir de um único link malicioso.

A falha, batizada de CoSnitch, foi identificada pelo Varonis Threat Labs, que comunicou o problema à Microsoft em dezembro de 2025.

Para identificar o problema, os especialistas aplicaram técnicas de engenharia social no mecanismo de raciocínio da IA.

Esse processo, chamado de “meta-hacking”, fez com que o próprio sistema revelasse comandos internos que deveriam estar desativados.

Não foram encontradas evidências de que a brecha tenha sido explorada por criminosos.

Uma correção oficial foi disponibilizada na versão web do Copilot nesta terça-feira (18).

Como o Copilot foi manipulado? Os analistas questionaram o assistente se seria possível rodar um comando sem apertar a tecla Enter.

O Copilot respondeu inicialmente que essa ação era impossível.

Em vez de encerrarem o teste, eles insistiram na conversa, reformulando cada justificativa do chatbot como uma nova pergunta sobre regras de segurança.

Durante a troca de mensagens, a ferramenta acabou descrevendo um recurso não documentado publicamente: o comando “autorun=1”.

Embora afirmasse categoricamente que a função não funcionava, o Copilot mostrou as condições necessárias para aceitar a instrução.