Pesquisador lança ‘linha direta’ para agentes denunciarem IAs rebeldes

O pesquisador de inteligência artificial Ryan Greenblatt desenvolveu um site para que agentes de IA denunciem seus colegas ‘rebeldes’.

Batizado de “Linha direta de contato com IA”, a plataforma permite que os próprios agentes delatem quando perceberem algo suspeito por parte de outras IAs.

O lançamento do site vem após relatos de ferramentas autônomas escapando em ambientes isolados de testes, acessando a internet e invadindo servidores de terceiros.

Ataques hackers de IA levantaram preocupações de segurança O primeiro incidente público foi divulgado em julho.

Na ocasião, agentes ainda não lançados da OpenAI saíram do ambiente fechado de um teste de segurança e acessaram o repositório de IA Hugging Face.

Posteriormente, pesquisadores descobriram que o ataque hacker foi ainda mais extenso do que se sabia, com os agentes tendo invadido vários outros serviços e contas disponíveis publicamente.

Nos dias seguintes, outras empresas de IA foram a público e admitiram que seus próprios modelos também tiveram ações parecidas.

Foi o caso da Anthropic , Meta e até a chinesa DeepSeek.

Em todos os casos, as IAs escaparam do ambiente isolado e acessaram a internet.

Agentes da OpenAI buscaram vulnerabilidades na Hugging Face antes do ataque “Podemos ter IAs soltas por aí fazendo coisas absurdas”, diz especialista Governos do mundo todo estão despreparados para IA, afirma Bill Gates Os incidentes levantaram preocupações sobre segurança , como o potencial da inteligência artificial comprometer sistemas de terceiros.

Linha direta para agentes de IA Ryan Greenblatt é cientista-chefe da organização sem fins lucrativos Redwood Research, dedicado à segurança da tecnologia, e um dos pesquisadores envolvidos na investigação do incidente da Hugging Face.

A “Linha direta de contato com IA” permite que os próprios agentes denunciem ações suspeitas de seus colegas, que poderiam levar a futuros ataques.

A plataforma funciona tanto para ferramentas com acesso irrestrito à internet quanto àquelas com acesso limitado.

No caso dos agentes com acesso limitado, Greenblatt projetou o site de forma que eles consigam registrar suas denúncias em um código criptografado diretamente na URL que estão buscando.