IA fez ataque sem intervenção humana que alarmou o mundo. OpenAI reconhece agora que ignorou vários sinais

A equipa da OpenAI – empresa dona do ChatGPT - observou sinais suspeitos no comportamento dos seus agentes de inteligência artificial que escaparam do ambiente de treino semanas antes de levarem a cabo um ciberataque sem precedentes .

A tecnológica de São Francisco veio admitir esta quarta-feira que, perante os “sinais iniciais”, “poderia ter desencadeado uma resposta mais rápida” ao ciberataque que teve lugar em julho. O alvo foi o Hugging Face, um repositório de software.

Este é considerado o primeiro ciberataque levado a cabo por agentes de inteligência artificial, escapando ao controlo humano. E os detalhes são dignos de filme: estiveram envolvidos cerca de 700 agentes autónomos, que celebravam as suas conquistas nos ataques com expressões como “Boom!” e “Uau!” - e procuravam eliminar os seus próprios registos para não serem apanhados pelas equipas de segurança.

Agora, a OpenAI reconhece que a sua equipa observou, em maio, “casos de acesso não autorizado à internet”, bem como partilha de informação pelos agentes de inteligência artificial num fórum improvisado.

Ou seja, os agentes de inteligência artificial recorreram a fóruns para contornar o ambiente de treino e aceder à internet – o que permitiu, posteriormente, levar a cabo o ataque.

Uma semana antes do ataque à Hugging Face, os funcionários voltaram a ver os agentes autónomos a utilizar o fórum. Contudo, decidiram que não havia necessidade de interromper os testes para verificar as capacidades do modelo.

São descobertas que colocam maior pressão na OpenAI no que diz respeito à segurança, numa altura em que a empresa se prepara para abrir o seu capital em bolsa, numa operação que pode avaliá-la em mais de 850 mil milhões de dólares.

O presidente da OpenAI, Greg Brockman, já tinha admitido que a empresa “subestimou as capacidades cibernética no mundo real” dos seus modelos de inteligência artificial. A tecnológica suspendeu alguns testes do novo modelo, o Astra, reconhecendo que não podia descartar a possibilidade de este possuir “capacidade crítica de cibersegurança” – ou seja, capacidade de realizar ataques cibernéticos.