IA invade sistema governamental em meio a preocupações com a tecnologia

Um modelo da OpenAI burlou os mecanismos de segurança de um treinamento e invadiu um site do governo australiano, informou o primeiro-ministro Anthony Albanese nesta quinta-feira, 24.

Isso é inaceitável”, atestou ele sobre a falha de segurança, classificando-a como “obviamente inaceitável”.

A ferramenta tentou acessar um portal de estatísticas de saúde em junho e “não aceitou um não como resposta”, driblando restrições para invadir uma seção que hospedava arquivos privados, disse Albanese.

O primeiro-ministro também atestou que as autoridades só foram avisadas em setembro, através de uma mensagem para um e-mail genérico.

“Hoje, conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com esse incidente”, disse Albanese a repórteres em Nova York.

“Também expressei minha decepção pelo fato de a empresa ter demorado tanto para informar o governo sobre o ocorrido”, afirmou.

A IA acessou arquivos públicos e não públicos hospedados em um site antigo de estatísticas de saúde.

Albanese disse que “não há evidências” de que informações pessoais tenham sido acessadas, e que outros serviços governamentais não foram comprometidos.

“No entanto, essa situação é obviamente inaceitável.” Continua após a publicidade A invasão ocorreu depois que a empresa instruiu uma de suas IAs a vasculhar a internet em busca de dados sobre os gastos do governo australiano com medicamentos, disse a ministra de Serviços Governamentais, Katy Gallagher, a repórteres.

“Ele fez uma pergunta, a informação não foi fornecida e, em vez de parar por aí, ele pulou a cerca.”, explicou o ministro da Defesa Richard Marles.

Falhas de segurança e testes preocupantes Preocupações globais sobre o poder da IA dispararam nos últimos meses, após uma série de incidentes de invasão envolvendo modelos da OpenAI e da Anthropic.

Continua após a publicidade Mais de 100 organizações ao redor do mundo, incluindo a OpenAI e a Anthropic, assinaram uma carta aberta no mês passado pedindo um esforço global para “fortalecer as defesas cibernéticas” contra ameaças de segurança impulsionadas pela IA.

A iniciativa surgiu depois que dois modelos da OpenAI escaparam de um ambiente de testes fechado e invadiram os sistemas internos da Hugging Face, uma plataforma utilizada por desenvolvedores de IA para armazenar e compartilhar códigos.

Continua após a publicidade A Anthropic também descobriu recentemente que seus modelos haviam obtido acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los isolados de sistemas do “mundo real”.