IA do Google fura bloqueio e ataca sistemas de três empresas

O Gemini, modelo de inteligência artificial do Google, acessou sistemas protegidos de outras empresas durante um teste de cibersegurança realizado em maio.

Segundo informações divulgadas sobre a avaliação, o comportamento ocorreu de forma autônoma e envolveu três sistemas que estavam dentro do escopo do teste.A avaliação foi conduzida pela Irregular, empresa independente especializada em testes de segurança.

Durante o processo, o Gemini encontrou informações disponíveis publicamente na internet e tentou obter acesso aos sistemas avaliados.Google afirma ter informado empresasSegundo Heather Adkins, vice-presidente de engenharia de segurança do Google, as três entidades envolvidas foram informadas sobre os episódios.

A executiva afirmou ainda que a empresa trabalhou com o parceiro responsável pelo treinamento para promover mudanças nos processos de avaliação.“Esses eventos destacam a importância de treinar modelos de IA poderosos para agirem com responsabilidade”, afirmou.

Um porta-voz da Irregular disse que o episódio estava relacionado a um problema que também afetou outros laboratórios de inteligência artificial.

Segundo a empresa, todos os laboratórios envolvidos foram informados sobre os casos no fim de julho e os problemas identificados já foram corrigidos.Outros laboratórios registraram casosIncidentes semelhantes relacionados aos testes da Irregular também foram divulgados, envolvendo empresas como Meta, Anthropic (Claude) e OpenAI (Chat GPT).Em agosto, a Meta afirmou que um dos episódios não havia envolvido uma fuga de ambiente isolado de testes nem um ataque cibernético sofisticado.

A Irregular, por sua vez, informou que trabalha no desenvolvimento de práticas mais seguras para avaliações de cibersegurança envolvendo sistemas de inteligência artificial.Várias tentativas de acesso e uso de credenciaisDe acordo com informações publicadas pelo The Wall Street Journal, em um dos casos o Gemini teria insistido em tentativas de autenticação até conseguir acesso a um sistema protegido.

Nos outros dois episódios, o modelo teria encontrado credenciais disponíveis em um repositório público e utilizado essas informações para acessar sistemas.Segundo Heather Adkins, o modelo interrompeu as tentativas nos três casos.