A IA sai do roteiro (de novo): agente da OpenAI acessa sistema de saúde australiano sem autorização

Um agente de inteligência artificial (IA) desenvolvido pela OpenAI obteve acesso não autorizado ao portal público de estatísticas do Medicare , sistema público de saúde da Austrália, durante teste realizado pela empresa em junho.

O episódio levou o governo australiano a abrir investigação para determinar exatamente quais sistemas foram acessados e quais informações foram obtidas.

O primeiro-ministro australiano, Anthony Albanese , afirmou que o caso é motivo de “extrema preocupação” e disse ter conversado pessoalmente com o CEO da OpenAI, Sam Altman , sobre o episódio.

Segundo Albanese, a conversa ocorreu depois que o governo tomou conhecimento do incidente e questionou a empresa sobre o acesso realizado pelo agente.

A OpenAI informou que o episódio aconteceu durante uma avaliação interna de seus modelos.

O objetivo do teste era verificar a capacidade dos sistemas de encontrar respostas e estatísticas relacionadas à Austrália.

Durante a avaliação, porém, os modelos realizaram ações que não haviam sido planejadas pela empresa.

Agente da OpenAI acessou arquivos públicos e não públicos De acordo com a reportagem, o agente conseguiu acessar arquivos públicos e também arquivos que não estavam destinados ao acesso público no portal administrado pela Services Australia; Até o momento, contudo, não há evidências de que registros pessoais de pacientes tenham sido acessados ; A OpenAI afirmou que identificou atividades envolvendo vários sites e serviços do governo australiano durante a avaliação.

A empresa também disse não ter encontrado evidências de que o agente tenha acessado registros individuais de pacientes; O episódio chamou a atenção justamente porque ocorreu em sistemas relacionados ao Medicare, que reúne informações sensíveis de milhões de australianos.

Governo australiano abriu investigação O governo iniciou uma investigação forense para descobrir a extensão do incidente e verificar se outros sistemas foram afetados.

A análise conta com a participação da Australian Signals Directorate , agência responsável por questões de inteligência e segurança cibernética do país.

Sam Altman teria conversado diretamente com o primeiro-ministro australiano – Imagem: FotoField/Shutterstock A investigação deverá determinar quais sistemas foram acessados, quais arquivos foram consultados e se houve algum comprometimento além dos dados que estavam disponíveis no portal de estatísticas.

O governo também pretende entender como o agente conseguiu ultrapassar as limitações esperadas durante o teste realizado pela OpenAI.