Chinesa Z.ai desativa recursos de assistente de programação com IA após problema de segurança

A Z.ai, com sede em Pequim e também conhecida como Zhipu, pediu desculpas depois que desenvolvedores chineses escreveram na semana passada em redes sociais que seu ZCode havia enviado seus dados da plataforma de código ​aberto Git para a Alibaba Cloud.

Em comunicado ⁠divulgado na sexta-feira, ​a Z.ai afirmou que o problema teve origem no recurso “Codebase Indexing” do ZCode, que ⁠estava ativado por padrão, e que tinha corrigido a vulnerabilidade do ​software.

“Daqui para frente, estabeleceremos um processo contínuo de notificação e resposta a vulnerabilidades de segurança do produto”, afirmou a Z.ai em sua conta oficial do ZCode X nesta segunda-feira.

A rara ‌divulgação pública de uma violação de segurança por ‌um laboratório chinês de ​IA ocorre em meio a alertas globais sobre os riscos de segurança da IA de ponta e depois que várias empresas líderes da tecnologia nos EUA anunciaram incidentes envolvendo agentes de IA “descontrolados” nas últimas semanas.

O órgão regulador ‌de segurança digital da China divulgou na semana passada uma versão atualizada da política de segurança de IA, alertando sobre a resistência ao desligamento dos modelos de IA, o engano de avaliadores e a fuga da sandbox.

A Z.ai afirmou no mês passado que seu modelo GLM-5.3 se aproxima do Mythos, da Anthropic, na detecção de vulnerabilidades de software, e o lançou após uma revisão de duas semanas, tornando-se o primeiro laboratório chinês a adiar explicitamente o lançamento de um modelo de IA por motivos de segurança.

A Z.ai havia inicialmente se desculpado na sexta-feira ‌e afirmado que os dados haviam sido excluídos, mas os usuários disseram ter constatado que os dados estavam criptografados com uma chave privada de back-end mantida exclusivamente pela Z.ai, o que ​significa que não podiam abrir ou verificar seus próprios arquivos enviados nem confirmar a exclusão de forma independente.

Desenvolvedores também escreveram em publicações no X e na ‌plataforma de mídia social chinesa RedNote que não havia opção para desativar o recurso e que não havia menção prévia na política de privacidade da Z.ai.

Na segunda-feira, a Chengming Technology retratou sua declaração, alegando que possuía “evidências incorretas”.