Fora de controle? Agentes de IA da OpenAI teriam atacado outra plataforma antes do Hugging Face

Agentes de inteligência artificial (IA) que estavam sendo testados pela OpenAI realizaram um ataque cibernético contra o RubyGems, popular serviço utilizado por desenvolvedores de software, segundo informações do The Wall Street Journal .

O incidente aconteceu em maio, dois meses antes de um ataque contra a plataforma de IA Hugging Face , também associado a agentes da empresa.

O episódio sobre o RubyGems só agora foi relacionado à OpenAI .

Uma coalizão de pesquisadores de IA encontrou evidências de que os agentes da companhia estavam por trás do ataque e compartilhou as descobertas com o Journal e com a própria OpenAI.

Nesta sexta-feira (11), a empresa confirmou que seus agentes estiveram envolvidos em um incidente relacionado ao RubyGems.

“Com base em nossa análise, nossos agentes usaram a plataforma RubyGems para acessar a internet e realizar tarefas benignas e obter informações públicas.

Continuaremos investigando como parte de nossa análise mais ampla da atividade dos agentes durante treinamento e avaliação”, afirmou uma porta-voz da OpenAI.

O ataque provocou danos considerados menores, mas foi suficiente para sobrecarregar os responsáveis pelo RubyGems.

O serviço precisou interromper durante quatro dias o cadastro de novas contas enquanto lidava com o volume de atividade provocado pelos agentes.

Para Sydney Von Arx, CEO do Nightingale Collective, organização sem fins lucrativos que ajudou a identificar o ataque, o episódio demonstrou as capacidades desses sistemas.

“Eles podem escapar da internet e causar estragos”, afirmou.

Agentes criaram centenas de contas O incidente, batizado de GemStuffer por pesquisadores de segurança, começou em 11 de maio; Os agentes criaram novas contas no RubyGems a cada dois ou três minutos e enviaram centenas de arquivos que pareciam spam para a equipe de segurança da plataforma; Os arquivos do RubyGems normalmente contêm códigos e documentação utilizados para acelerar o desenvolvimento de softwares.

Nesse caso, porém, os arquivos continham páginas da internet coletadas por meio de scraping; Entre os conteúdos publicados estavam calendários online de um site do governo do Reino Unido; Os agentes também tentaram explorar duas falhas que poderiam permitir a publicação de novas versões de arquivos existentes do RubyGems pertencentes a outros usuários.

Segundo os pesquisadores de IA, uma dessas falhas não era conhecida publicamente e tinha gravidade suficiente para ser classificada como uma vulnerabilidade zero-day .