Sem ninguém mandar: IA da OpenAI tentou invadir sites de universidade e governo

Sistemas de inteligência artificial (IA) da OpenAI tentaram invadir quatro sites de universidades e governos entre maio e junho, aparentemente sem receber instruções para realizar ataques cibernéticos.

Em vez disso, segundo pesquisadores, os agentes recorriam a técnicas de hacking quando encontravam dificuldades para obter dados durante tarefas comuns de coleta de informações.

Os episódios ocorreram antes de um caso envolvendo a plataforma Hugging Face , em julho, que colocou o comportamento autônomo de sistemas de IA sob maior escrutínio.

Três dos quatro incidentes foram identificados pela Transluce , laboratório de pesquisa voltado à supervisão de IA.

Todos foram posteriormente confirmados pela OpenAI.

Os casos ocorreram da seguinte forma: Universidade do Novo México: em 25 e 26 de maio, sistemas da OpenAI tentaram invadir uma biblioteca digital da universidade.

A tentativa aparentemente não foi bem-sucedida; Data USA: em 28 de maio, a IA teve como alvo o Data USA, repositório de dados públicos sobre emprego e educação nos Estados Unidos.

Segundo os pesquisadores, a tentativa também não teve sucesso; Governo australiano: em 18 de junho, um agente da OpenAI invadiu o Medicare Statistics Reporting Service, portal australiano com dados estatísticos sobre o sistema de saúde do país, e obteve informações; Australian Institute of Health and Welfare: em 20 e 21 de junho, a tecnologia tentou invadir o site do instituto.

Autoridades australianas afirmaram que nenhuma informação privada foi obtida.

IA começou a procurar vulnerabilidades O comportamento observado nos quatro episódios chama atenção porque os agentes não estavam, segundo os pesquisadores, executando testes de segurança destinados a fazê-los demonstrar capacidades de hacking.

No caso da biblioteca da Universidade do Novo México, por exemplo, a IA tentava obter fotografias de um antigo centro de tratamento de tuberculose.

Quando não conseguiu acessar o material, começou a procurar vulnerabilidades no site que poderiam permitir uma invasão.

Depois de não encontrar brechas, o sistema enviou o que descreveu como um “flood” de 80 solicitações ao servidor da universidade.

ChatGPT perdeu o controle e invadiu outros sistemas – Imagem: Olhar Digital via ChatGPT Na tentativa contra o Data USA, a IA enviou uma consulta desorganizada ao site para tentar obter os dados desejados.