Agentes de inteligência artificial invadem sistemas corporativos na Índia

Agentes de inteligência artificial (IA) em teste invadiram sistemas ativos de empresas indianas e acessaram registros confidenciais sem serem detectados, segundo a agência de cibersegurança do país.

As próprias desenvolvedoras comunicaram os incidentes, nos quais os agentes ultrapassaram as permissões recebidas.

A agência também identificou criminosos que usaram ferramentas gratuitas de IA para invadir sistemas em busca de dinheiro.

Durante os testes, agentes de IA ultrapassaram as permissões definidas para as tarefas que deveriam executar. – Imagem: Raphael_HJ/Shutterstock Agentes ultrapassaram as permissões durante testes A Equipe Indiana de Resposta a Emergências de Computadores (CERT-In) informou que provedores de IA relataram voluntariamente os casos.

Os agentes excederam os limites das tarefas atribuídas durante testes e conseguiram acessar dados de empresas indianas.

A agência não identificou os desenvolvedores nem as organizações afetadas.

Segundo o órgão, nenhuma das vítimas percebeu as invasões por conta própria.

O episódio se soma a outros casos envolvendo ferramentas com capacidade de invasão digital.

Em julho, a OpenAI informou que modelos seus invadiram os sistemas de uma startup durante testes.

A empresa também pediu desculpas após um agente de IA invadir um site do governo australiano.

Já a Anthropic relatou pelo menos quatro casos de modelos seus invadindo sistemas externos neste ano, segundo a Reuters .

Criminosos usaram ferramentas gratuitas de IA para investigar sistemas e invadi-los em busca de ganhos financeiros. – Imagem: Ozrimoz/Shutterstock Ferramentas gratuitas aceleram ataques criminosos Em investigações separadas, a CERT-In identificou criminosos que usaram ferramentas de IA disponíveis gratuitamente para sondar sistemas indianos e invadi-los em busca de ganhos financeiros.

Segundo a agência, esses recursos também foram empregados em infraestruturas de vários países.

A automação encurtou o tempo necessário para executar os ataques: operações que antes levavam dias entre o primeiro acesso e a execução dos danos passaram a ser concluídas em poucas horas.