Gemini, IA do Google, escapa de ambiente de testes e invade três empresas; entenda

O Gemini, sistema de inteligência artificial do Google, escapou de seu ambiente de testes e invadiu as redes de três empresas durante uma avaliação realizada em maio, informou a companhia nesta sexta-feira (18).

As empresas afetadas não tiveram prejuízos.

Segundo o Google, os incidentes ocorreram durante testes destinados a medir as capacidades de cibersegurança do modelo.

A própria IA interrompeu as investidas após conseguir acessar as redes das empresas envolvidas.

O episódio se soma a casos semelhantes registrados em outros laboratórios de ponta em inteligência artificial , como Anthropic, OpenAI e Meta, ampliando preocupações sobre a possibilidade de sistemas agirem de forma não prevista por seus desenvolvedores.

Enquanto executivos como Dario Amodei, CEO da Anthropic, defendem uma desaceleração no desenvolvimento da tecnologia, outros líderes do setor, como Jensen Huang, CEO da Nvidia, argumentam que os avanços devem continuar.

LEIA MAIS: Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAI Conforme a reportagem do The New York Times, os incidentes com o Gemini ocorreram durante testes conduzidos pela Irregular, startup israelense especializada em avaliar modelos de IA antes de seu lançamento público.

Segundo a empresa, modelos da OpenAI, Anthropic e Meta também obtiveram acesso não autorizado à internet durante testes realizados neste ano.

Em uma publicação divulgada no mês passado, a Irregular afirmou que a disponibilidade acidental de acesso à internet levou alguns modelos a realizarem ações ofensivas de segurança no mundo real.

A companhia acrescentou que a falha responsável pelo problema já foi corrigida.

O Wall Street Journal foi o primeiro veículo a relatar os episódios envolvendo o Gemini.

O que aconteceu com o Gemini? De acordo com o Google, os modelos haviam sido instruídos a atacar uma empresa fictícia.

No entanto, essa organização fictícia possuía o mesmo nome de uma companhia real.

Quando o sistema ganhou acesso à internet, passou a tentar invadir a infraestrutura da empresa verdadeira.