Technologie. Une faille trouvée « en trois heures » : OpenAI piraté grâce à l'IA d'Anthropic
L'intrusion s'est faite dans le cadre d'un exercice organisé par OpenAI lui-même afin d'identifier des vulnérabilités dans ses systèmes.
Des chercheurs de la start-up de cybersécurité Hacktron AI ont accédé aux comptes ChatGPT d'employés d'OpenAI en utilisant un modèle d'intelligence artificielle (IA) d'Anthropic, selon un message publié vendredi sur leur site. L'intrusion, intervenue fin juillet et confirmée par OpenAI, s'est faite dans le cadre d'un exercice organisé par l'entreprise elle-même afin d'identifier des vulnérabilités dans ses systèmes avec le concours d'informaticiens extérieurs.
Pour parvenir à ses fins, l'équipe de trois personnes est passée par la plateforme de messagerie Discourse, utilisée par OpenAI. Elle offre la possibilité aux employés de se connecter à leur compte ChatGPT ou Codex, l'IA d'OpenAI destinée à la programmation. Par ce biais, les chercheurs ont réussi à pénétrer sur plusieurs de ces comptes. Dans la mesure où l'utilisateur peut donner autorisation à ChatGPT ou Codex d'utiliser de nombreuses applications ou fichiers, « le champ de ce à quoi nous aurions théoriquement pu accéder est énorme », a expliqué le trio. Il a mentionné GitHub (plateforme de stockage de programmes), Slack (messagerie pour entreprise) et les courriels.
La description des travaux de l'équipe d'Hacktron AI met en évidence la progression fulgurante des modèles d'IA. Elle a ainsi débuté sa tentative d'intrusion avec l'aide de Claude Opus 4.8, modèle lancé en mai par Anthropic. Mais cette IA « a peiné » pour trouver une porte d'entrée via Discourse. Le hasard a voulu qu'Anthropic mette en ligne précisément ce jour-là un nouveau modèle, Opus 5. Cette nouvelle IA est parvenue à trouver la faille « en trois heures », relatent les informaticiens. L'équipe a rapidement alerté OpenAI, qui a remédié à ces vulnérabilités, selon un porte-parole. « Nous remercions les chercheurs de nous avoir contactés et d'avoir partagé leur observations », a commenté l'entreprise.
À lire aussi : Internet. IA : une alliance entre l'entreprise française Mistral et le moteur de recherche Firefox
5News a agrégé ce résumé depuis le flux public du média. L'article complet, avec tout le contexte, est sur www.leprogres.fr — le contenu appartient à Le Progrès.
