IA chinesa aberta ao público pode pôr cibersegurança mundial à prova

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

Em meados de julho, enquanto a OpenAI testava novas tecnologias de inteligência artificial , seus sistemas excepcionalmente poderosos escaparam de ambientes digitais isolados, encontraram um caminho até a internet e invadiram uma plataforma de IA chamada Hugging Face .

Para muitos pesquisadores e outros especialistas, o incidente demonstrou que as tecnologias de IA estavam se tornando cada vez mais perigosas e que os principais laboratórios de IA deveriam manter um controle rigoroso sobre como esses sistemas são usados.

Agora, pouco mais de um mês depois, um laboratório chinês chamado Z.ai se prepara para disponibilizar uma tecnologia de IA semelhante como software de "pesos abertos", o que significa que qualquer pessoa poderá usá-la como quiser.

O lançamento do novo sistema chinês, chamado GLM 5.3, previsto para esta sexta-feira (27), atingirá o centro de um debate que há anos divide pesquisadores de IA. Embora muitos especialistas acreditem que as tecnologias de IA mais recentes sejam perigosas demais para serem compartilhadas abertamente com o público, outros argumentam que esse é o caminho mais seguro.

"Os modelos de pesos abertos têm um papel muito importante a desempenhar", afirmou Dan Lahav, CEO da Irregular, empresa de cibersegurança cujas tecnologias foram usadas pela OpenAI para testar novos sistemas de IA.

revelação de que as tecnologias da OpenAI haviam invadido o Hugging Face confirmou o que especialistas em cibersegurança vinham dizendo havia meses: os principais sistemas de IA agora são eficientes em identificar e explorar vulnerabilidades em softwares . Em outras palavras, eles podem simplificar e acelerar ataques cibernéticos.

A empresa também chamou a atenção para outra verdade inconveniente: as tecnologias de IA frequentemente fazem coisas que nem mesmo seus criadores desejam, incluindo ataques cibernéticos estranhos, contraintuitivos e inesperados.

A OpenAI só percebeu que seus sistemas haviam agido por conta própria depois que o Hugging Face revelou publicamente a invasão e notificou as autoridades.

"Foi um divisor de águas para a segurança", disse George Kurtz, CEO da empresa de segurança CrowdStrike, que assessorou a OpenAI enquanto a companhia tentava compreender o ataque. "Foi um incidente muito público que evidencia claramente a natureza autônoma do que esses modelos são capazes de fazer."

Pouco depois, duas concorrentes nacionais da OpenAI, Anthropic e Meta, revelaram que seus sistemas haviam apresentado comportamento semelhante.

Para muitos especialistas, porém, o incidente não foi tão assustador quanto pode parecer . Segundo eles, empresas e indivíduos podem usar as mesmas tecnologias de IA para se defender de ataques cibernéticos.