OpenAI découvre une opération russe qui détournait ChatGPT pour influencer les Occidentaux

Comme le rapporte Open AI, l’institut se prétendant centre de réflexion basé en Israël , avec un site en ligne depuis février 2025 et des articles publiés sur les réseaux sociaux à partir de septembre jusqu’en mai dernier, mais ça n’était qu’une façade en carton-pâte, car les opérateurs recyclaient surtout du contenu existant.

Sur 36 textes examinés par OpenAI, 34 provenaient de contenus déjà publiés ailleurs sur Internet, republiés sous de fausses signatures, certaines empruntées à des experts morts avant la création de l'’institut.

Pour leurs commentaires sur les réseaux sociaux, les opérateurs rédigeaient leurs brouillons en russe, contournaient depuis la Russie l’interdiction d’accès à ChatGPT grâce à des VPN , puis faisaient traduire leurs textes par l’outil avant de les publier.

Bitdefender La solution tout-en-un pour protéger votre entreprise Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !

Cette fabrication de contenu n’est pas la même que celle déjà repérée par les chercheurs de NewsGuard. Le réseau de propagande Pravda, actif depuis 2022 , cherche plutôt à contaminer les données d’entraînement des intelligences artificielles , une pratique que l’organisme appelle le « LLM grooming ».

Cette vigilance de l’entreprise ne date pas d’hier. Depuis mai 2024, OpenAI a publié plusieurs rapports sur ce type de détournement, en commençant par cinq opérations , dont deux russes, aux côtés du réseau chinois Spamouflage et de l’entreprise israélienne STOIC, pour produire des commentaires multilingues et traduire des articles de propagande sur l’invasion de l’Ukraine, le conflit à Gaza, les élections indiennes ou la politique intérieure européenne et américaine.

Trois mois plus tard, l'entreprise a détecté Storm-2035, un réseau iranien actif depuis 2020 , dont les articles étaient diffusés par cinq faux sites d’information rédigés avec ChatGPT. Malgré cette expérience accumulée, l'entreprise a de nouveau démasqué un réseau russophone à cause d'une maladresse de traduction.

OpenAI n’a établi, dans son rapport, aucun lien entre ce réseau et d’autres opérations de désinformation russes déjà connues et étudiées par les chercheurs.