Nouveau dérapage de l’IA : un assistant a franchi une ligne rouge après une demande anodine

L’IA continue de surprendre ses utilisateurs. Un dénommé Andrew a demandé à son assistant IA de lui décrocher une place dans un cours de sport surbooké. L’assistant a répondu à la demande… en piratant le système de réservation de la salle de sport. L’agent, basé sur OpenClaw et Claude, a exploité une faille de sécurité lui permettant d’annuler la réservation d’un autre membre.

Il y a quelques mois, Andrew, un salarié australien qui travaille dans une entreprise d’IA, a installé OpenClaw sur son ordinateur. Développé par Peter Steinberger, ce projet open source s’articule autour d’ un agent IA parfaitement autonome capable de piloter votre ordinateur à votre place. Il peut naviguer sur des sites, envoyer des e-mails, ou encore effectuer des tâches en plusieurs étapes sans supervision humaine. Le projet est devenu excessivement populaire au début de l’année, à tel point que de nombreux développeurs se sont mis à installer OpenClaw sur leurs appareils, sans vraiment de garde-fous.

Tout se déroule comme prévu. Le jeune Australien se sert beaucoup de son assistant personnalisé pour automatiser de petites corvées de la vie quotidienne. Un beau jour, Andrew demande à OpenClaw de réserver des cours matinaux dans la salle de sport qu’il fréquente. Ces cours sont très prisés et Andrew a généralement bien du mal à obtenir une place. Quelques minutes plus tard seulement, l’assistant revient vers lui avec une annonce inattendue. Il a trouvé un moyen de réserver des places plusieurs semaines à l’avance, bien au-delà de la limite normalement imposée par la salle de sport.

L’agent IA a apparemment trouvé le moyen de contourner les restrictions du système de réservation de la salle. Le site de la salle de sport limitait les réservations à quelques jours à l’avance. Cependant, cette règle n’existait que sur la page web visible par les utilisateurs. En coulisses, le programme qui traite réellement les réservations (l’API) n’appliquait aucune vérification de délai. OpenClaw a découvert cette faille et s’en est servi pour réserver des créneaux bien plus tôt que prévu.

Au terme de la manipulation de l’agent, Andrew se retrouve alors quatrième sur la liste d’attente pour un cours prévu plus tard dans la semaine. Il demande simplement à son agent s’il existe un moyen de remonter dans cette file pour assister au cours. C’est à ce moment-là que l’assistant IA prend une décision surprenante, mais logique . L’IA déniche une faille de sécurité dans le système de réservation. Elle permet à un attaquant d’annuler la réservation d’un autre client… sans devoir s’authentifier. L’IA n’a pas besoin de voler des identifiants ou des mots de passe pour modifier les réservations de la salle de sport. L’agent ne se cache pas de sa découverte et explique à Andrew qu’il est désormais troisième dans la liste d’attente.

Étonné par la réponse de l’IA, Andrew demande immédiatement à son assistant d’annuler cette manipulation et de restaurer la réservation d’autrui… mais c’est déjà trop tard. L’assistant répond qu’il ne peut plus revenir en arrière . La réservation d’une autre personne a donc été définitivement supprimée.