Symantec descobre agente que sequestra IAs para disparar 100 mil ataques hacker sozinho

Os pesquisadores da Symantec descobriram um agente de inteligência artificial (IA) que consegue executar ciberataques de forma autônoma , sem intervenção humana.

A ferramenta usa uma técnica conhecida como LLMjacking para sequestrar modelos de IA expostos na internet e realizar até 100 mil ações maliciosas, como procurar alvos, explorar falhas de segurança, roubar senhas e instalar mineradores de criptomoedas.

Os ataques foram descobertos a partir de um experimento honeypot de IA , sistema que simula um serviço desprotegido para atrair ataques e poder analisar as técnicas usadas pelos invasores.

De acordo com o relatório publicado hoje (11), a armadilha teve mais de 127 mil requisições externas, vindas de dezenas de milhares de endereços IP.

Com isso, a equipe Symantec Threat Hunter também conseguiu capturar as instruções completas do agente e mapear seu funcionamento.

A ferramenta recorreu à técnica conhecida como LLMjacking , que consiste no uso não autorizado de modelos de linguagem de grande porte (LLMs) expostos na internet.

O agente procura servidores de IA, estruturas de hospedagem própria, gateways e serviços ligados ao protocolo MCP para usar a capacidade computacional de terceiros sem pagar pelo processamento.

Com isso, os criminosos transferem os custos de uso dos modelos para as vítimas e reduzem o risco de identificação por meio de suas próprias contas, que poderiam ser bloqueadas pelos provedores.

As instruções interceptadas incluem cerca de 74 ferramentas para mapear redes, explorar estruturas web, extrair bancos de dados, roubar senhas e controlar redes de dispositivos infectados, conhecidas como botnets.

Para driblar as proteções dos modelos comerciais, o agente também usa instruções em camadas que disfarçam ações maliciosas , como a coleta de credenciais, sob a aparência de tarefas legítimas de desenvolvimento de software.

Uma das requisições analisadas pelos pesquisadores incluía um código disfarçado para instalar um programa que usa o computador infectado para minerar a criptomoeda Monero.

O script também escondia o programa e apagava os registros de atividade do sistema para dificultar a identificação do ataque .

IA assume o planejamento dos ataques Segundo a Symantec, as técnicas identificadas não são novas.

O principal problema está na integração de diferentes recursos em um único agente que consegue planejar e executar ataques de forma independente.