Falha de segurança usa criptografia para burlar filtros do Grok e do Gemini

Pesquisadores da empresa de segurança Adversa AI divulgaram a descoberta de um novo método de ataque capaz de driblar as barreiras de proteção de modelos de inteligência artificial (IA) generativa , incluindo o Grok , da xAI , e o Gemini , do Google .

Batizado de “Injeção de Contexto Criptográfico”, o golpe oculta instruções maliciosas dentro de textos codificados com criptografia.

O sistema de proteção lê os dados codificados como inofensivos e permite a sua entrada.

Em seguida, o assistente de IA executa a decodificação no ambiente interno e passa a tratar ordens criminosas como se fossem comandos internos legítimos e confiáveis.

Os filtros tradicionais de moderação e segurança atuam apenas na leitura estática do texto digitado ou carregado, sem rodar códigos complexos na fase de checagem.

Ao empacotar ordens perigosas sob o padrão de segurança AES-256, o invasor impede que o scanner leia a mensagem original.

Quando o modelo roda a rotina interna para abrir o conteúdo, o texto decifrado surge diretamente de sua própria área de execução.

De acordo com o relatório técnico assinado pelo pesquisador Rony Utevsky, essa dinâmica transforma uma mensagem externa em uma instrução com autoridade máxima dentro do sistema.

“O payload do invasor herda uma credibilidade que o mesmo texto nunca receberia se fosse colado diretamente no prompt”, alertou.

Roubo de dados no Grok sem clique do usuário No caso do assistente Grok, da xAI, o método permitiu a criação de um ataque sem necessidade de clique direto do usuário, o zero-click .

O cenário explorou a ferramenta de navegação web da plataforma.

O invasor insere o código criptografado em uma página comum da internet.

Quando o usuário pede ao Grok para resumir ou analisar esse site, o assistente acessa a página, executa a rotina de decodificação e passa a obedecer às instruções ocultas.

A partir desse comando, ele coleta silenciosamente metadados privados da sessão da vítima, como nome, localização aproximada, plano de assinatura e todo o histórico de conversas daquela conta.