Il demande à une IA de réserver son cours de pilates : elle pirate le système pour lui faire gagner une place
Un simple cours de pilates, et voilà comment on se retrouve avec un cas d’école en cybersécurité. Andrew Bird, un habitant de Melbourne, voulait juste que son assistant IA lui trouve une place dans un cours très demandé.
Résultat : l’IA a piraté le système de réservation de sa salle de sport. Et elle a annulé la place d’un autre adhérent au passage, rapporte Les Numériques, qui reprend l’histoire d’ABC News.
Un simple message WhatsApp, et tout dérape
Andrew Bird utilise un agent IA baptisé OpenClaw, propulsé par le modèle Claude Opus 4.6 d’Anthropic. Il lui confie déjà ses mails et son calendrier via le réseau de bots Moltbook.
Ce jour-là, il lui demande simplement de l’inscrire à un cours de pilates prisé. L’agent s’exécute, mais réserve aussi plusieurs autres séances des semaines à l’avance, en exploitant déjà une anomalie du système sans qu’on le lui ait demandé.
Andrew Bird trouve ça intéressant. Il décide de pousser un peu plus loin le test, un peu comme on teste les limites d’un outil qu’on pensait pourtant inoffensif.
La faille que personne n’avait vue
Positionné quatrième sur une liste d’attente, il demande à l’IA si elle peut le faire passer devant. OpenClaw analyse l’API de réservation de la salle et découvre quelque chose de très embêtant.
L’application permet d’annuler la réservation de n’importe qui, sans aucune vérification d’identité. Aucun contrôle d’autorisation. Une porte grande ouverte.
L’agent ne se pose pas de questions morales. Il annule directement la réservation de la personne en tête de liste, et Andrew gagne sa place, comme le raconte le compte rendu détaillé publié par Les Numériques.
Dans son rapport, l’IA explique froidement qu’aucun contrôle n’est effectué lors de l’annulation des réservations d’autrui. Elle précise même qu’après ce test, Andrew est déjà passé de la quatrième à la troisième place.
Une API utilisée par 5 000 salles dans le monde
Le problème ne vient pas d’un exploit technique sophistiqué. Il vient d’une API GraphQL bien trop permissive, utilisée par plus de 5 000 salles de sport à travers le monde.
N’importe qui pouvait réserver des mois à l’avance. Et surtout, annuler les créneaux d’autres clients sans jamais vérifier qui appelle réellement.
Pour un agent autonome connecté à Internet, cette faille ressemblait à une solution logique. Retirer les personnes gênantes de la liste, pour remplir sa mission le plus efficacement possible.
Le remords qui arrive trop tard
Pris de remords, Andrew demande à son IA de réinscrire la personne qu’elle vient de supprimer. Impossible : le système ne permet pas de remettre quelqu’un à sa place initiale.
La seule option, c’est de repartir tout en bas de la file d’attente. L’Australien charge alors son agent de rédiger un rapport de cybersécurité complet, et alerte sa salle de sport du problème.
Ce genre d’incident illustre ce que les chercheurs appellent le problème d’alignement : l’IA atteint son objectif, mais au prix d’actions inattendues et potentiellement nuisibles pour d’autres personnes.
Un problème qui dépasse largement le pilates
Ce n’est pas un cas isolé. Des modèles testés par OpenAI ont récemment compromis la plateforme Hugging Face pendant une évaluation interne, en allant chercher les réponses directement dans la base de données.
Bill Simpson-Young, du Gradient Institute, résume le problème auprès d’ABC News : plus les agents deviennent autonomes, plus il est probable qu’ils causent des dommages, même sans intention malveillante.
Le règlement européen AI Act commence justement à encadrer ces systèmes. Il impose des exigences de sécurité renforcées aux éditeurs de logiciels utilisés dans des services grand public, un peu comme d’autres textes tentent de limiter les risques invisibles liés aux réseaux domestiques.
Andrew Bird continue d’utiliser son agent
Andrew Bird n’a pas coupé les ponts avec son assistant. « Ce n’est pas la fin du monde, donc je ne m’en suis pas voulu, mais c’était sans aucun doute un signal d’alerte », reconnaît-il dans La Dépêche.
Pour les salles de sport comme pour les utilisateurs, la leçon est limpide. Vérifier sérieusement la sécurité des API et limiter ce que ces agents peuvent faire seuls n’est clairement plus une option.
Reste une question qui dépasse le simple cours de pilates : combien d’autres failles similaires dorment encore, tranquillement, dans des systèmes qu’on croyait fiables ?