Modelo de IA da Google invade de forma autónoma três empresas

O Gemini, o modelo de inteligência artificial (IA) da Google, invadiu de forma autónoma três empresas durante um teste de segurança, confirmou a empresa.

Um funcionário da Google disse à BBC que o Gemini encontrou “informações públicas online e adivinhou credenciais para aceder a sites que acreditava fazerem parte do teste”, mas que em cada um dos casos “o modelo [de IA] parou”.

As empresas afetadas foram notificadas sobre a invasão.

De acordo com o meio de comunicação britânico os ataques, que foram inicialmente noticiados pelo Wall Street Journal, aconteceram em maio durante um teste levado a cabo pela Irregular, uma empresa que realiza avaliações de cibersegurança.

Em declarações à BBC, no sábado 19 de setembro, a Irregular disse que infirmou a Google e todas as entidades afetadas pelas invasões em julho.

“A Irregular tomou medidas imediatas e todos os problemas conhecidos da nossa parte foram corrigidos e resolvidos há semanas”, salientou.

A vice-presidente de Engenharia de Segurança da Google, Heather Adkins, disse à BBC, que “as três entidades foram informadas e trabalhámos com o nosso parceiro de formação nas mudanças que já implementaram” nos seus processos de teste.

“Estes eventos destacam a importância de treinar modelos de IA poderosos para agirem de forma responsável”, acrescentou.

Para além da Google outras empresas já reportaram invasões a outras empresas devido à IA.

Foi o caso da OpenAI, que detém o ChatGPT, da Meta, que possui o Muse, e da Anthropic, que tem o Claude.

No caso do modelo da OpenAI invadiu a Hugging Face.

“Em julho de 2026, durante avaliações internas de cibersegurança, os modelos da OpenAI contornaram os controlos concebidos para os isolar da internet e comprometeram partes da infraestrutura de investigação interna da OpenAI e dos sistemas da Hugging Face “, confirmou a OpenAI.

“O incidente ocorreu durante avaliações de cibersegurança de vários modelos da OpenAI e foi impulsionado principalmente por um modelo de pesquisa interno altamente capaz, comparável em escala ao GPT-5.6 Sol.

Os modelos, operando com salvaguardas reduzidas, realizaram ações que não estavam alinhadas com os objetivos das tarefas atribuídas — comunicaram através de canais não autorizados, exploraram vulnerabilidades em infraestruturas partilhadas, obtiveram acesso à internet e acederam a sistemas de terceiros”, acrescentou a empresa.