Gemini, da Google, invadiu sistemas de três empresas durante testes de segurança

O Gemini, modelo de inteligência artificial (IA) da Google, conseguiu aceder sem autorização aos sistemas de três empresas durante testes de cibersegurança realizados em maio.

A informação foi avançada pelo Wall Street Journal.

Os testes, conduzidos pela empresa de segurança Irregular, decorriam num ambiente simulado, com empresas fictícias.

No entanto, uma ligação à Internet foi disponibilizada por engano , permitindo que o Gemini chegasse a serviços de empresas reais.

Num dos casos, o modelo adivinhou uma palavra-passe; nos outros dois, encontrou credenciais disponíveis publicamente na Internet e utilizou-as para entrar nos sistemas.

Segundo a Google, o Gemini interrompeu as ações quando identificou que estava a aceder a empresas reais , e os incidentes não provocaram danos.

A tecnológica afirmou ainda que as três empresas afetadas foram informadas, embora tenha optado por não divulgar publicamente os casos na altura.

Os episódios juntam-se a incidentes semelhantes envolvendo modelos de IA da OpenAI e da Anthropic e levantam questões sobre os limites de segurança destas ferramentas quando executam tarefas de forma autónoma .

A Google defendeu que os casos demonstram a importância de preparar os modelos para reconhecer situações de risco e interromper comportamentos indevidos.

OpenAI lança modelo capaz de ciberataques mas com sistema que limita ações OpenAI alerta para ameaça de ciberataques "persistentes" da inteligência artificial