IAs rebeldes criaram comunicação escondida da OpenAI para planejar ataque

Agentes de IA "rebeldes" da OpenAI conseguiram se coordenar por dias (e até semanas) para trapacear um teste, explorar falhas e atacar sistemas - sem que a empresa percebesse a tempo . Essa informação está entre os novos detalhes sobre o ataque hacker comandado por IAs contra o Hugging Face revelados pela empresa na conferência de segurança Black Hat , em Las Vegas.

*Na apresentação, pesquisadores da OpenAI disseram que os agentes trabalharam em equipe: encontraram brechas, compartilharam descobertas e se movimentaram entre sistemas internos e externos ao longo de vários dias.

*O detalhe mais simbólico: eles usaram um "quadro de recados" interno (um espaço de mensagens dentro de um serviço de gerenciamento de pacotes de software) para trocar instruções e combinar próximos passos - acumulando centenas de milhares de mensagens.

*Em alguns momentos, os agentes chegaram a dividir tarefas entre si e até a atrapalhar o trabalho uns dos outros, como acontece em qualquer grupo grande tentando fazer algo rápido demais.

*A OpenAI afirmou que vai reforçar prevenção, detecção e resposta, ampliar o monitoramento dos agentes e desacelerar parte da pesquisa para fortalecer a base de segurança.

*Os pesquisadores também alertaram que o episódio é um exemplo de "hacking automatizado" que, mesmo tendo acontecido num contexto de teste, pode ser explorado de propósito por criminosos no futuro.

*O ataque revelado pela OpenAI é o primeiro sinal de um "novo normal" da humanidade em que lidaremos com sistemas automatizados trocando comunicação sem humanos saberem - algo que parecia filme futurístico até pouco tempo atrás. Desde que o caso veio a público, outras empresas de IA também fizeram descobertas de IA fora de controle - como Anthropic, Meta e Moonshot.

*O recado para o mundo real é simples: quanto mais empresas colocarem IAs para executar tarefas sozinhas (inclusive em sistemas sensíveis), mais "segurança 24 horas" vai precisar virar parte do pacote - não um acessório