Agente de IA da OpenAI invadiu sistema de saúde australiano

Um agente de inteligência artificial (IA) da OpenAI acedeu, em junho, a ficheiros públicos e não públicos de um portal do sistema de saúde australiano, num incidente que está a levantar novos alertas sobre os riscos de sistemas de IA capazes de executar tarefas de forma autónoma.

Segundo o Financial Times , o agente acedeu ao Medicare Statistics Reporting Service , um portal que disponibiliza dados sobre o sistema público de saúde australiano, incluindo informação sobre faturação e utilização de medicamentos.

Trump e Xi discutem IA, a corrida que ninguém quer perder Ler Mais O primeiro-ministro australiano, Anthony Albanese, classificou o caso como “obviamente inaceitável” este incidente, criticando o facto de a OpenAI só ter identificado a intrusão em agosto, cerca de dois meses depois da ocorrência .

A empresa norte-americana explica que o incidente ocorreu durante uma avaliação interna, na qual os modelos tentavam responder a questões sobre a Austrália .

Segundo a OpenAI, o agente “realizou ações que não pretendíamos”.

O caso já está a ser investigado pela Australian Signals Directorate, incluindo para determinar a que outros sistemas governamentais poderão ter sido acedidos.

O ministro da Defesa e vice-primeiro-ministro, Richard Marles, afirmou que foram consultados vários sistemas a nível federal e estadual, incluindo estatísticas de saúde e criminalidade, embora tenha considerado o impacto “relativamente reduzido”.

As autoridades dizem não ter, até ao momento, indícios de acesso a informação pessoal ou de um comprometimento mais abrangente da rede dos serviços públicos australianos.

Altman admite que ataque à Hugging Face foi o pior até agora Ler Mais O caso surge semanas depois de a OpenAI ter revelado outro incidente envolvendo agentes de IA, que acederam à plataforma Hugging Face durante um teste de cibersegurança.

Nesse episódio, centenas de agentes terão conseguido aceder à internet sem autorização e coordenando ações de forma autónoma e não autorizada.