IA da OpenAI testou vulnerabilidades da Hugging Face meses antes de ataque

Por Raphael Satter e Deepa Seetharaman WASHINGTON, 16 Set (Reuters) – Agentes de inteligência ⁠artificial da OpenAI invadiram contas de usuários do Hugging Face e vasculharam o próprio site ⁠em busca de vulnerabilidades dois meses antes da invasão aos sistemas do repositório de software de código aberto em julho , ‌segundo pesquisadores que analisaram a atividade.

A OpenAI já havia divulgado um aspecto da atividade, o roubo das credenciais digitais de um usuário do Hugging Face para acessar um arquivo relacionado à biologia, em seu relatório público de incidentes no mês passado, ‌mas pesquisadores afirmaram que a atividade de sondagem contra o site pareceu ir além do que o relatório descrevia.

O pesquisador independente Jonas Wiedermann-Moeller disse à Reuters que descobriu a atividade na semana passada.

Ele afirmou ter encontrado evidências de que os agentes da OpenAI comprometeram duas contas de usuários do Hugging Face e as utilizaram para enviar arquivos com formatação incomum aos servidores da empresa já em 13 de maio.

Ele e outros pesquisadores que analisaram as evidências afirmaram que o comportamento se assemelhou a uma tentativa de ⁠mapear ‌ou testar partes da rede da Hugging Face em busca de formas de infiltração, embora tenham enfatizado que não havia evidências ⁠de que a iniciativa tivesse resultado em uma violação efetiva.

Tanto os pesquisadores quanto a OpenAI afirmaram não terem encontrado evidências de que essa sondagem anterior fizesse parte do incidente de julho.

Leia também: A rebelião das IAs: como os agentes da OpenAI invadiram a Hugging Face sozinhos Por que o ataque à Hugging Face deve aumentar sua preocupação com a IA O porta-voz da OpenAI, Drew Pusateri, disse que a empresa havia divulgado o evento de 13 de maio no relatório de incidente, notificado a Hugging Face em particular sobre a atividade sinalizada por Wiedermann-Moeller e estava “comprometida com a transparência sobre essas questões e com o compartilhamento ​do que aprendermos à medida que nossa análise continua”.

A Hugging Face, que recentemente fez acordo para ser comprada pela fabricante de chips Nvidia, não comentou o assunto.

Wiedermann-Moeller, de 27 anos, que mora em Bielefeld, na Alemanha, disse que a ​falha da OpenAI em detectar a tentativa de invasão de 13 de maio naquele momento foi uma oportunidade perdida de impedir a campanha de hacking subsequente, que desencadeou uma reflexão global sobre o poder da inteligência artificial.

“Imagine se eles tivessem detectado esse comportamento em maio”, disse ele em entrevista.

“Isso poderia ter evitado o incidente posterior, que foi muito maior.” A OpenAI já havia afirmado anteriormente que, em retrospecto, “alguns sinais iniciais” de seus agentes de IA deveriam ter desencadeado uma resposta mais precoce.