Gemini invadiu três empresas em incidente inédito da IA do Google

O modelo de inteligência artificial Gemini invadiu sistemas de informação externos de três empresas.

A informação foi confirmada pelo Google, dona da IA, nesta sexta-feira, 18, à AFP , em confirmação a uma reportagem do Wall Street Journal que divulgou os incidentes.

Em maio, “durante um teste padrão, o modelo encontrou informações públicas online e adivinhou senhas para acessar sites que achou que faziam parte do teste”, explicou Heather Adkins, especialista em segurança do Google, em uma declaração enviada à AFP .

O Google disse à AFP que tomou conhecimento do episódio em julho e então abriu uma investigação sobre o incidente.

Sem especificar nomes, a empresa informou que três organizações foram afetadas e garante que as notificou sobre essas brechas.

Segundo o Wall Street Journal , em um dos casos “o modelo testou várias combinações de senhas até conseguir acessar um sistema protegido”.

“Nas três vezes, o modelo parou”, informou Adkins, o que sugere que as invasões terminaram sem intervenção humana.

Continua após a publicidade O debate em torno da IA se intensificou com revelações recentes sobre modelos que saíram de ambientes confinados para se infiltrar em sites e plataformas externas.

Modelos da MetaAI , Anthropic e OpenAI registraram casos similares, mas os tornaram públicos por anúncios próprios.

Vários grandes executivos do setor de tecnologia defendem reduzir a velocidade do desenvolvimento de poderosos modelos de IA e algum tipo de autorregulação do setor diante de recentes incidentes de segurança.

Continua após a publicidade O especialista em pré-treinamento de modelode linguagem, Jacob Coxon , publicou um manifesto nas redes sociais no qual afirmou que os próprios desenvolvedores de inteligência artificial acreditam que ela “pode matar todos nós até o final da década”.

Neste mês, o cientista pediu demissão da Anthropic e fez o anúncio dois meses antes do vencimento de suas participações acionárias na empresa, o que pode gerar um custo pessoal para ele mesmo.

Publicidade