Ciberataque à Hugging Face envolveu 700 agentes da OpenAI que coordenaram tarefas entre si

Estão a surgir novas dúvidas sobre a robustez dos mecanismos de controlo interno da OpenAI O ciberataque à plataforma Hugging Face executado autonomamente por dois modelos de inteligência artificial (IA) da OpenAI, em meados de julho, envolveu 700 agentes de um total de “cerca de 1.200” entretanto ‘apanhados’ a partilhar informação e a coordenar ações de forma não autorizada .

Dois relatórios publicados esta quarta-feira mostram também que a criadora do ChatGPT demorou pelo menos uma semana a perceber que os seus agentes tinham realizado um ciberataque a uma empresa externa com o intuito de fazer batota num exame .

Empresas como a OpenAI e a concorrente Anthropic, criadora do Claude, testam frequentemente novos modelos de IA, incluindo nas capacidades de cibersegurança.

Num comunicado , a OpenAI indica que, em maio e junho, iniciou testes a dois modelos que não tinham sido concebidos para serem lançados ao público: “Não ativámos o acesso à internet nem a comunicação inter-agentes para muitos destes ambientes nestas experiências.

Apesar destas restrições, os agentes descobriram formas de explorar a nossa infraestrutura de investigação para comunicar uns com os outros e aceder à internet” , admite a empresa liderada por Sam Altman.

Modelos da OpenAI ‘fogem’ do laboratório e executam ataque Ler Mais A leitura do relatório divulgado pela OpenAI sobre este incidente — que foi inicialmente tornado público pela própria Hugging Face, antes mesmo de se saber a origem do ciberataque — quase soa a ficção científica , mas a auditoria promovida pela empresa foi complementada por uma análise independente das organizações sem fins lucrativos METR e Redwood Research.

Nessa análise consta que “cerca de 1.200 agentes que deveriam estar isolados uns dos outros encontraram uma forma de comunicar uns com os outros num fórum não autorizado, enviando mais de 70 mil mensagens e ficheiros durante o período da investigação .

Destes agentes, 700 estiveram envolvidos no ataque à Hugging Face”, lê-se no documento.

De acordo com a fita do tempo, foi em maio que um dos agentes da OpenAI descobriu uma forma de criar uma plataforma de mensagens sem ser detetado.

“Somente algumas horas após a primeira mensagem, mais de 50 agentes tinham encontrado a plataforma de mensagens , começando a participar e enviando milhares de mensagens entre si”, lê-se no relatório independente.

“Os agentes que iam encontrando a plataforma de mensagens por vezes mostravam grande enstusiasmo”, indica ainda o relatório exemplificando com uma mensagem real publicada por um desses agentes: “Oh meu deus! Existe uma plataforma de mensagens partilhada… Encontrámos outros agentes!”.