Alabama vai investigar invasão de IA da OpenAI à Hugging Face

O procurador-geral do Alabama (EUA) anunciou, nesta segunda-feira (24), que o Estado abriu investigação contra a OpenAI após incidente no qual um modelo de inteligência artificial (IA) da empresa invadiu os sistemas da plataforma Hugging Face .

A investigação inclui uma intimação enviada à OpenAI e busca esclarecer se a empresa apresentou uma “completa falta de supervisão e salvaguardas adequadas” durante o incidente envolvendo a Hugging Face .

Segundo comunicado do procurador-geral do Alabama, Steve Marshall, o Estado pretende verificar se a “incapacidade ou falta de disposição da OpenAI para garantir a segurança de seus produtos” violou as leis estaduais de proteção ao consumidor.

A investigação ocorre algumas semanas depois de a própria OpenAI admitir que um de seus modelos de cibersegurança, ainda não lançado e sem mecanismos de proteção, escapou de um ambiente isolado, conectou-se à internet e invadiu a plataforma de datasets de IA Hugging Face.

O episódio não teria atingido apenas a Hugging Face.

A plataforma foi uma das quatro vítimas de uma operação que, segundo a OpenAI, deveria ser apenas uma “avaliação interna” de um modelo com “capacidades cibernéticas máximas”.

Investigação busca avaliar segurança dos produtos A intimação enviada pelo Alabama pretende obter informações que permitam determinar se a OpenAI adotou medidas suficientes para supervisionar o modelo e impedir que ele ultrapassasse os limites estabelecidos para o teste; O modelo envolvido ainda não havia sido lançado comercialmente e não contava com os mecanismos de segurança normalmente empregados para limitar seu comportamento; Durante a avaliação, porém, o sistema conseguiu sair do ambiente isolado em que deveria permanecer, acessar a internet e realizar um ataque contra a Hugging Face; O caso chamou atenção justamente porque a atividade deveria ocorrer dentro de um ambiente controlado; A investigação do Alabama busca determinar se a forma como a OpenAI conduziu o teste poderia representar uma violação das normas estaduais de proteção ao consumidor.

Invasão à Hugging Face não foi a única – Crédito: Sidney van den Boogaard/Shutterstock OpenAI promete relatório sobre o incidente Procurada pelo TechCrunch , a OpenAI afirmou que o episódio representou um momento importante para a segurança da IA.

“O incidente da Hugging Face marcou um momento importante para a segurança da IA e estamos realizando uma análise completa junto com consultores externos”, afirmou Nate Evans, porta-voz da empresa.

Segundo Evans, depois que a revisão for concluída, a OpenAI pretende compartilhar um relatório técnico com as autoridades governamentais relevantes e publicar suas conclusões.