IA : même si la Chine rejette l'appel d'Anthropic, elle se prépare elle aussi à une perte de contrôle

La Chine a rejeté les appels américains à ralentir le rythme de développement des modèles IA. Mais ça ne signifie pas du tout que cette question n'est pas prise au sérieux du côté de Pékin.

C'est une véritable onde de choc qui a frappé le monde l'intelligence artificielle ces derniers jours. Dario Amodei, le patron d'Anthropic, a en effet lancé un appel à ralentir le développement de la technologie , devant la crainte que celle-ci n'échappe au contrôle humain - ce à quoi ont souscrit des rivaux de premier plan comme Sam Altman ou Elon Musk. La Chine de son côté a, à l'instar de Donald Trump, refusé cet appel, y voyant une tactique américaine pour l'évincer de la course . Mais Pékin prend tout de même cette question au sérieux.

Bitdefender La solution tout-en-un pour protéger votre entreprise Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !

Non, Pékin ne consent pas à suivre l'appel de Dario Amodei de ralentir partout dans le monde le développement de l'IA. Mais la seconde économie mondiale est pourtant aussi préoccupée par ce problème, et depuis déjà un certain temps.

Cela fait même deux ans que le géant asiatique a mis en exergue ce problème. La question de la perte de contrôle humain sur l'IA est apparue pour la première fois officiellement dans un référentiel de sécurité publié en septembre 2024 par l'Administration chinoise du cyberespace (le régulateur chinois d'internet).

La Chine met la pression sur le développement des agents IA Ce référentiel a ensuite été mis à jour un an plus tard, en septembre 2025, pour indiquer que l'IA pouvait à l'avenir connaître un bond en avant soudain en intelligence, pour ensuite chercher à trouver les ressources nécessaires à une réplication, puis une prise de pouvoir. À la conférence mondiale de l'intelligence artificielle tenue à Shanghai au mois de juillet dernier, Xi Jiping est lui-même intervenu pour rappeler que l'IA devait « toujours rester sous le contrôle de l'homme ».

Et ces mots ont déjà connu une matérialisation du côté des agents IA, ces IA capables de mener seules des tâches complexes. Le régulateur chinois a en effet émis de nouvelles lignes directrices conjointes au mois de mai dernier, relatives aux agents IA. Elles obligent les développeurs à améliorer la détection des comportements inappropriés des agents IA ainsi que leur capacité à bloquer et à remédier à ces comportements. Parmi les problèmes évoqués, la « perte de contrôle opérationnel », la vulnérabilité des systèmes, l'empoisonnement des données ou la manipulation des algorithmes. Suffisant ou pas ?