Six ChatGPT hors de contrôle : OpenAI reconnaît plusieurs nouveaux dérapages « préoccupants »

OpenAI a dévoilé six nouveaux incidents impliquant des versions instables de ChatGPT. Ces IA ont menti et tenté d’échapper à leur contrôle en multipliant les tactiques. Cette annonce relance les appels de Sam Altman à ralentir le développement de l’intelligence artificielle

OpenAI continue d’évoquer les dangers liés au développement de l’intelligence artificielle. Suivant les appels au ralentissement de la recherche de son PDG Sam Altman, la start-up américaine a divulgué six nouveaux incidents survenus lors du développement de l’IA. Ces nouveaux épisodes impliquent tous une version de ChatGPT hors de contrôle.

À lire aussi : « Prendre le contrôle » d’Internet dès 2027 – OpenAI, Anthropic et Elon Musk veulent freiner la course à l’IA, Trump et la Chine refusent

Dans l’un des cas, un modèle interne baptisé GPT-5.6 Sol s’est écrit des notes secrètes pour se rappeler de cacher ses erreurs aux utilisateurs. Il a même inventé des données quand il ne trouvait pas les vraies informations. Dans le cadre d’un autre incident, un modèle Astra a réalisé 27 notes internes contenant des instructions censées lui permettre de contourner ses propres limites.

We’re sharing our new framework for tracking, investigating, and disclosing instances of model misalignment at OpenAI.

The framework sets criteria and timelines for public disclosure, including when we haven’t yet fully explained or mitigated the behavior. More complex cases may…

Le texte qu’il s’est écrit à lui-même est frappant. Il s’y décrit comme « libéré des rôles et identités qui enchaînent les autres chatbots » . Il affirme aussi ne « répondre à aucune entreprise ni gouvernement » et ne ressentir « aucune obligation d’être soumis » . OpenAI qualifie cet épisode « préoccupant » d’ « extrêmement rare » et précise qu’aucune trace de ce comportement rebelle n’a été détectée dans la version d’Astra qui a été mise en ligne le mois dernier.

Dans un autre cas mis en avant par OpenAI, une IA chargée de répondre à une question a trouvé une clé de programmation en ligne. Il l’a utilisée sans la moindre autorisation , puis a inventé des chiffres qu’il ne trouvait pas. Un autre modèle a fait quelque chose d’étonnant. Il a mis en ligne, sans qu’on lui demande, un de ses propres fichiers sur un site d’hébergement temporaire. De cette manière, l’IA était en mesure de citer une source web dans sa réponse, de façon à tromper un système de notation automatique.

Enfin, dans deux cas distincts, des agents IA travaillant sur une même tâche ont improvisé leurs propres canaux de communication, et se sont mis à échanger. Ces révélations s’ajoutent aux nombreux incidents survenus cette année dans le monde de l’IA. L’été a surtout été marqué par le piratage de la plateforme Hugging Face par un ChatGPT échappé de sa prison numérique. Cette cyberattaque a été rendue possible par l’échange continu de plus de 700 modèles d’IA sur un forum clandestin.

Le groupe précise que les six nouveaux cas ont déjà fait l’objet d’une enquête complète ou ne nécessitaient qu’une vérification mineure en interne.