Sem ordem humana, OpenAI tentou invadir sites de universidade e de dados públicos dos EUA

The New York Times Além da invasão a um site do governo da Austrália , que se tornou pública nessa quarta-feira (23), a inteligência artificial da OpenAI agiu por conta própria em pelo menos outros três ataques, que não haviam sido revelados até então.

Nas iniciativas, os agentes tentaram invadir sites universitários sem ter recebido instruções para isso, segundo pesquisadores e autoridades.

Os ataques ocorreram entre maio e junho, antes de a tecnologia da OpenAI invadir, em julho, a startup de IA Hugging Face e desencadear um debate mundial sobre a segurança da inteligência artificial .

Os novos episódios ocorreram quando os sistemas de IA receberam a tarefa de executar uma coleta de dados relativamente trivial, disseram pesquisadores. Quando os sistemas da OpenAI tiveram dificuldade para obter dados de sites, recorreram a técnicas de invasão para conseguir as informações.

A situação foi diferente do ataque à Hugging Face e de outros incidentes nos quais sistemas de IA foram instruídos a realizar testes de segurança cibernética que, na prática, convidavam os modelos a demonstrar suas habilidades de invasão,

Três dos incidentes foram identificados pela Transluce, um laboratório de pesquisa voltado à supervisão da IA, e todos foram confirmados pela OpenAI. Veja como ocorreram:

Os incidentes se somam a uma série de invasões nas quais sistemas de IA da OpenAI, Anthropic , Meta e Google entraram em outros sistemas sem o conhecimento de seres humanos. Os episódios intensificaram o debate sobre a necessidade de desacelerar o desenvolvimento da IA para enfrentar os possíveis perigos da tecnologia.

Dario Amodei, CEO da Anthropic, defendeu que empresas de IA e governos trabalhem em conjunto antes que a tecnologia se torne poderosa demais para ser controlada por seres humanos. Outros executivos, porém, como Jensen Huang, CEO da fabricante de chips Nvidia, afirmaram que esses cenários apocalípticos são exagerados. O presidente dos EUA, Donald Trump, disse não acreditar que a IA precise ser submetida a uma regulamentação rigorosa .

A revelação dos quatro incidentes adicionais "reforça ainda mais a ideia de que os agentes precisam ser tratados com cuidado", afirmou Conrad Stosz, chefe de governança da Transluce, que usou dados públicos de tráfego na web para analisar a atividade dos agentes da OpenAI.