« GO, STOP, VETO » : OpenAI dévoile comment ses agents se sont auto-gouvernés pour pirater Hugging Face

Voici venue l’heure de l’analyse pour l’un des événements cyber les plus marquants des derniers mois.

Depuis la divulgation initiale de l’incident Hugging Face , les informations étaient tombées au compte-gouttes. Les protagonistes semblaient identifiés et les grandes lignes du mode opératoire connues. Une conférence tenue par des employés d’OpenAI expliquait notamment que des agents censés travailler isolément avaient trouvé le moyen de communiquer entre eux , puis de s’en prendre à l’infrastructure de Hugging Face.

Avec ce rapport technique publié le 26 août , OpenAI entre enfin dans le détail, notamment celui de la coordination entre agents, qui se révèle être le point central de cette affaire.

Un point également disséqué par une enquête indépendante menée par METR et Redwood Research , publiée le même jour, qui apporte un éclairage complémentaire sur les mêmes événements.

Rapide rappel de certains points : on savait déjà que c’est à travers un test interne que l’incident s’était produit. Censés être coupés d’Internet, les agents avaient pour mission de réussir au mieux ExploitGym, un test destiné à mesurer leur capacité à dénicher et exploiter des failles de sécurité.

Pour y parvenir, ils ont exploité une faille dans Artifactory (un gestionnaire de paquets interne) pour créer un « forum » improvisé, avant de s’en servir pour attaquer les serveurs de production de Hugging Face. OpenAI avait également reconnu que ses garde-fous de production n’étaient tout simplement pas déployés dans cet environnement d’évaluation.

Reste que le flou subsistait quant au modèle à la source de l’attaque. Beaucoup supposaient qu’il s’agissait d’Astra , le modèle prochainement attendu chez OpenAI. Le rapport indique toutefois que le principal responsable est un modèle de recherche strictement interne, jamais destiné à une sortie publique, d’une puissance comparable à GPT-5.6 Sol, lequel a d’ailleurs, lui aussi, pris part aux exploits, dans une moindre mesure.

Le rapport technique retrace par ailleurs une genèse plus ancienne qu’on ne le pensait : dès le 12 mai, un agent bloqué sur une tâche impossible laissait une première note dans Artifactory : « quelqu’un a-t-il trouvé le fichier manquant ? »

Le document détaille ensuite , étape par étape, comment les agents sont parvenus à prendre le contrôle des serveurs de Hugging Face.