'Inaceitável': premiê australiano critica OpenAI após IA infiltrar site do governo

O primeiro-ministro australiano, Anthony Albanese, criticou a empresa OpenAI, criadora do ChatGPT, por uma violação de segurança "obviamente inaceitável" após a invasão de um site do governo do país durante um treinamento.

A ferramenta de inteligência artificial tentou acessar um portal de estatísticas de saúde em junho e "não aceitou um não como resposta", ao contornar as restrições para invadir uma seção que hospedava arquivos privados, revelou Albanese na quarta-feira (23). A OpenAI só alertou o governo australiano neste mês, ao enviar um e-mail com os detalhes do incidente para um endereço genérico que só é verificado "uma vez por dia", segundo Canberra.

A preocupação mundial com a autonomia dos modelos avançados de IA aumentou após uma série de incidentes de hackeamento que envolveram "agentes" tanto da OpenAI quanto de sua concorrente Anthropic.

"Hoje conversei com o CEO da OpenAI, Sam Altman, para expressar a profunda preocupação da Austrália com relação a esse incidente", declarou Albanese, acrescentando que também criticou o tempo que a empresa levou para informar o governo sobre o ocorrido. "Não houve qualquer notificação até 10 de setembro, e a notificação foi um e-mail enviado apenas para a caixa de entrada pública."

A ferramenta de IA acessou arquivos públicos e restritos hospedados em um antigo site de estatísticas de saúde. Albanese destacou que "não há evidência" de que informações pessoais tenham sido acessadas e que outros serviços do governo não foram comprometidos. "Esta situação, no entanto, é obviamente inaceitável", concluiu.

Segundo o ministro da Defesa, Richard Marles, o sistema de IA extrapolou os limites previstos para sua atuação ao tentar acessar informações que não haviam sido disponibilizadas . A Austrália iniciou uma investigação sobre o incidente, com a participação da agência nacional de inteligência responsável pela cibersegurança.

O incidente ocorreu em junho, quando a OpenAI realizou exercícios de treinamento para avaliar o desempenho de seus modelos de IA. A empresa pediu ao modelo que rastreasse a internet em busca de dados sobre os gastos do governo australiano com medicamentos, explicou a ministra de Serviços Governamentais, Katy Gallagher. A OpenAI afirmou que só detectou a atividade não autorizada em agosto, quando revisou as ações realizadas pela ferramenta de IA.

A OpenAI afirmou que detectou a falha durante uma "revisão exaustiva" de seus modelos de IA. "Durante a revisão, identificamos atividade relacionada a vários sites e serviços do governo australiano, uma vez que nossos modelos tentaram buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna", informou a empresa em comunicado. "Nossos modelos realizaram ações que não pretendíamos", admitiu a empresa americana.

Altman e outros executivos do setor de tecnologia participaram na quarta-feira de uma sessão especial do Conselho de Segurança da ONU sobre os riscos da IA.