Como um hacker usou IA e alguns milhares de dólares para invadir sites

Nas duas últimas semanas, um pesquisador de segurança cibernética observou um hacker de língua chinesa invadir sites pertencentes a mais de 100 empresas, incluindo a fabricante de equipamentos agrícolas Deere, a empresa de eletrodomésticos SharkNinja e a fabricante de motores Cummins.

No entanto, o hacker praticamente não fez nada.

Em vez disso, o cibercriminoso terceirizou a onda de ataques quase inteiramente para a inteligência artificial, deixando que agentes de IA passassem horas sondando e invadindo sites autonomamente, de acordo com Snorre Fagerland, pesquisador principal de ameaças da empresa de cibersegurança NorForge.

Leia Mais Agentes de IA da China podem mentir - assim como seus rivais americanos Apenas 3,6% dos modelos de IA da China têm dados de segurança divulgados Pela primeira vez, IA do Google hackeou sistemas de três empresas Em um relatório fornecido à Reuters antes da publicação na segunda-feira, Fagerland disse que o hacker era um dos vários que ele descobriu enquanto vasculhava a internet em busca de instâncias inadvertidamente expostas do Cairn, uma plataforma de IA de código aberto para resolução de problemas, popular entre hackers.

A partir de 2 de outubro, Fagerland disse ter encontrado cerca de duas dúzias de instâncias do Cairn sendo usadas para atividades maliciosas, o que lhe permitiu observar discretamente os cibercriminosos enquanto eles utilizavam suas ferramentas de IA no mundo.

O relatório de Fagerland sobre o hacker de língua chinesa não nomeou as vítimas, mas a Reuters conseguiu estabelecer as identidades ao analisar de forma independente a atividade do hacker.

Em um momento de crescente preocupação com o poder das ferramentas autônomas de IA , Fagerland afirmou que sua descoberta era uma prova concreta de que agentes de IA disponíveis comercialmente poderiam realizar intrusões complexas do início ao fim sem intervenção humana, um aumento drástico no poder de um único agente malicioso.

“É um mundo novo agora”, disse.

A Reuters não conseguiu determinar em que medida as violações resultaram na extração não autorizada de dados.

A Deere informou à Reuters que tomou as “medidas corretivas necessárias” após o incidente e que “não há indícios de que informações sensíveis tenham sido acessadas”.

A SharkNinja afirmou que o ataque atingiu um site independente que continha apenas informações de suporte ao produto e que a ameaça já havia sido contida.

A Cummins disse que estava “investigando a denúncia de um possível ataque cibernético a um site operado por um de nossos fornecedores terceirizados”.

Duas empresas menores também admitiram ter sido afetadas.

Outras vítimas listadas nos dados da Cairn não responderam às mensagens.