IA chinesa não é poderosa o bastante para identificar riscos de IA rebelde, diz Huawei

XANGAI/PEQUIM, 17 Set (Reuters) - Eric Xu, da Huawei, afirmou que os desenvolvedores chineses de inteligência artificial talvez ainda não estejam avançados o suficiente para enfrentarem os ​riscos de segurança relatados pelas principais empresas norte-americanas, argumentando ​que eles devem continuar desenvolvendo modelos mais poderosos, ao mesmo tempo em que equilibram inovação e risco.

“Se olharmos para os principais fornecedores de modelos de IA nos Estados Unidos, como eles possuem um enorme poder de computação, talvez apenas eles mesmos ​saibam em que nível seus ⁠modelos se encontram”, disse ​Xu, presidente rotativo do conselho de administração da Huawei, a jornalistas durante a ⁠conferência anual Connect da empresa, em Xangai.

“Talvez o tipo de ​risco relacionado à IA que eles conseguem sentir e perceber seja algo que as pessoas na China ou os fornecedores de modelos de IA na China não consigam.”

Tais apelos geraram críticas contundentes na China, onde pesquisadores e a mídia estatal argumentam que desacelerar o desenvolvimento dos modelos mais avançados poderá ajudar a preservar a liderança tecnológica das empresas norte-americanas.

Alguns comentaristas chineses têm retratado as propostas de “moderar” o desenvolvimento de IA de ponta como uma tentativa de restringir rivais que permanecem atrás dos principais laboratórios dos EUA, em vez de simplesmente ‌como uma resposta a preocupações com a segurança.

Pequim tem, de modo geral, tratado a IA avançada como uma tecnologia poderosa, mas controlável, e está avançando com uma rápida implantação enquanto desenvolve ​normas obrigatórias, avaliações de segurança e outras medidas de proteção contra riscos, incluindo agentes autônomos que contornam controles ou atacam sistemas externos. A China também está elaborando ‌uma norma nacional obrigatória para a segurança de agentes de IA.

Xu afirmou que os desenvolvedores chineses talvez precisem acelerar seu desenvolvimento antes de se depararem com riscos semelhantes aos enfrentados pelos modelos de IA ‌de ponta dos EUA.

“Acho que talvez os ‌fornecedores de modelos de IA na China precisem acelerar seu ritmo a um nível em que também possam perceber os riscos decorrentes do desenvolvimento da ⁠IA”, disse ele. “Acho que precisamos encontrar um equilíbrio entre impulsionar o desenvolvimento da IA e gerenciar os riscos da IA.”

A própria Huawei espera que os agentes autônomos de IA se proliferem rapidamente. A empresa previu, nesta semana, que os agentes, sistemas de IA capazes de planejar tarefas, tomar decisões e usar softwares ou outras ferramentas com ​supervisão humana limitada, representariam mais de ​90% do tráfego global de processamento de IA até 2035.

A Huawei projetou que haverá até 900 bilhões de agentes ativos até lá e identificou a segurança e a privacidade dos agentes como tecnologias cruciais.

A Huawei é a principal fornecedora doméstica da China de infraestrutura de computação necessária para treinar modelos avançados de IA.