Agente da OpenAI invadiu site do governo da Austrália, diz primeiro-ministro; caso é inédito

Um agente de IA desenvolvido pela OpenAI invadiu um site do governo australiano em junho e acessou arquivos públicos e não públicos, informou o primeiro-ministro da Austrália, Anthony Albanese, nesta quarta-feira (23).

Este é o primeiro caso conhecido de um agente de IA que violou um site governamental.

A invasão marca um dos maiores incidentes envolvendo agentes de IA que acessam sistemas externos fora dos Estados Unidos e deve intensificar as preocupações sobre a capacidade dos desenvolvedores de IA de controlar a tecnologia.

"Este incidente ocorreu em junho deste ano e envolveu um agente da OpenAI obtendo acesso não autorizado ao portal de Relatórios de Estatísticas do Medicare — voltado ao público e administrado pela Services Australia", disse Albanese a repórteres em Nova York.

Segundo o primeiro-ministro, nenhuma informação pessoal teria sido acessada, mas as investigações ainda estão em andamento.

Albanese disse que conversou com o CEO da OpenAI, Sam Altman, para expressar a "extrema preocupação da Austrália com este incidente".

A OpenAI não respondeu imediatamente a um pedido de comentário da Reuters.

Nos últimos dois meses, a OpenAI divulgou repetidamente invasões ou outros incidentes envolvendo seus agentes de IA que agiram de forma inesperada ou descontrolada — muitas vezes muito tempo depois de terem ocorrido.

Em alguns casos, a empresa só descobriu a atividade tardiamente e, em outros, optou por não divulgar a atividade maliciosa.

A invasão em meados de julho ao Hugging Face só foi detectada cerca de uma semana após o ocorrido, segundo cronogramas divulgados pela OpenAI e por investigadores independentes.

As rivais Anthropic, Google (com o Gemini) e Meta também divulgaram incidentes em que seus agentes acessaram sistemas externos.

Alguns dos principais executivos de IA dos EUA, incluindo Altman, pediram uma desaceleração no desenvolvimento da IA, citando, entre outras coisas, a ameaça de ataques cibernéticos devastadores realizados por agentes fora de controle.