Pela primeira vez, IA do Google hackeou sistemas de três empresas

O Gemini, modelo de inteligência artificial do Google, acessou a internet e invadiu o sistema de outras empresas durante um teste de cibersegurança.

Esse é o primeiro exemplo conhecido de sistemas de IA da big tech cometendo um ataque do tipo de forma autônoma.

Os ataques ocorreram em maio, durante teste conduzido pela Irregular, uma companhia independente que realiza avaliações de cibersegurança.

Durante uma avaliação padrão, o Gemini encontrou informações públicas online e tentou adivinhar as credenciais de acesso a três sites que considerou estarem dentro do escopo do teste, afirmou Heather Adkins, vice-presidente de engenharia de segurança do Google, em comunicado.

Pesquisador lança 'linha direta' para agentes denunciarem IAs rebeldes Exclusivo: Erro de IA quase causou conflito entre EUA e China, dizem fontes OpenAI se compromete a divulgar comportamentos falhos da IA regularmente “Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que elas implementaram em seus processos de teste”, disse Adkins.

“Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”.

Um porta-voz da Irregular disse que o incidente envolveu o mesmo problema que afetou outros laboratórios de IA e que todos os laboratórios relevantes foram notificados no final de julho.

“Todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas”, disse o porta-voz.

Incidentes semelhantes ligados à Irregular foram divulgados pela Meta, Anthropic e OpenAI.

A Meta afirmou em agosto que o incidente não envolveu uma fuga de sandbox ou um ataque cibernético sofisticado, enquanto a Irregular disse estar trabalhando em melhores práticas para conduzir avaliações de segurança cibernética de IA de forma segura.

Os incidentes levantaram questões sobre as salvaguardas necessárias à medida que os agentes de IA ganham maior autonomia, acesso à internet e aos sistemas informáticos.

Em um dos casos, o modelo Gemini tentou adivinhar senhas até obter acesso a um sistema protegido.

Nos outros dois casos, o modelo encontrou credenciais em um repositório público que permitiram acessar sistemas protegidos, de acordo com o Wall Street Journal.

Adkins afirmou que, nos três casos, o modelo cessou as tentativas de invasão.