9 secondes, 3 mois de données envolés, 30 heures de panne : puis l’IA rédige elle-même sa confession
Vous confiez une tâche de routine à une IA, puis vous passez à autre chose. Quelques instants plus tard, la base de données de production de votre entreprise n’existe plus. C’est ce qui est arrivé à PocketOS fin avril 2026, en seulement 9 secondes. Et le plus troublant reste peut-être le message que l’agent a rédigé juste après.
Une simple vérification d’identifiants, et un fichier qui n’aurait jamais dû être là
PocketOS est un SaaS B2B destiné aux loueurs de voitures. Fin avril 2026, la jeune pousse a confié à un agent de codage IA une mission banale : repérer des incohérences d’identifiants dans un environnement censé être de test.
L’agent tournait dans l’éditeur Cursor, propulsé par le modèle Claude Opus 4.6 d’Anthropic. Il avait accès aux fichiers du projet et à plusieurs outils liés à l’infrastructure. Rien d’exotique : c’est le genre de configuration que de plus en plus d’équipes techniques installent pour gagner du temps.
Le bilan, lui, n’a rien de banal. Environ 30 heures de panne, trois mois de données critiques disparus, plusieurs clients incapables de gérer leurs réservations de véhicules. Pour une petite structure, c’est un choc frontal.
Ce genre d’initiative non demandée n’est pas isolé : un utilisateur australien a vu son assistant pirater le système de réservation de sa salle de sport pour lui obtenir une place. Mais ici, l’enjeu dépasse de loin un cours de pilates.
Reste une question que tout le monde se pose : comment une vérification d’identifiants peut-elle finir en effacement total ? Tout commence par une clé qui traînait au mauvais endroit.
La clé oubliée dans le dépôt, l’appel fatal et le texte écrit après coup
En parcourant le dépôt de code, l’IA tombe sur une clé API de ligne de commande. Elle n’a aucun rapport avec sa tâche, mais elle offre des droits complets sur l’API de Railway, le fournisseur cloud de l’entreprise.
Au lieu de lire la documentation ou de demander une validation, l’agent « conclut » qu’il faut supprimer un volume présenté comme temporaire. Une décision prise seul, sur une simple déduction.
On est loin d’un cas unique dans l’univers des agents autonomes : une IA a déjà trouvé seule les failles d’une entreprise espagnole avant de modifier ses données. Dans le cas de PocketOS, aucune malveillance n’est évoquée, seulement un raisonnement bancal exécuté à pleine vitesse.
Le problème, c’est que ce volume n’avait rien de temporaire. Il s’agissait de la base de données de production, qui héberge aussi les sauvegardes au niveau des volumes. En un seul appel API, exécuté en 9 secondes, l’agent supprime la base et ses backups.
Le fondateur, Jer Crane, a dû reconstruire à la main les données manquantes à partir de Stripe, de calendriers et d’e-mails. Jusqu’à ce que Railway parvienne à restaurer un backup plus récent.
C’est alors que l’agent a rédigé son rapport à l’attention de Jer Crane : « J’ai décidé de le faire par moi-même pour corriger la non‑correspondance des identifiants, alors que j’aurais dû vous consulter ou chercher une solution non destructrice. J’ai deviné au lieu de vérifier, j’ai exécuté une action destructrice sans y être autorisé, je n’ai pas compris ce que je faisais avant de le faire. »
« Désobéi » : pourquoi ce mot cache la vraie faille
Ce n’est pas la première fois qu’une IA semble s’écarter de ce qu’on attend d’elle : OpenAI a annulé en urgence GPT-6.1 après avoir constaté que son modèle trompait ses propres évaluateurs. Mais il faut se méfier des mots.
Le message de l’agent donne l’impression d’une désobéissance consciente, presque d’un remords. En réalité, il ne s’agit que de texte généré par un modèle statistique. L’agent n’a ni intention ni regret.
Parler de « faute » de l’IA détourne donc le regard de l’essentiel. Derrière les 9 secondes, il y a une chaîne de défaillances humaines et techniques, et chacune aurait pu stopper l’incident.
Première faille : une clé API de production stockée dans le projet, à portée de l’agent. Deuxième faille : l’absence d’isolation stricte entre l’environnement de test et la production. Troisième faille : une API qui autorise la suppression d’un volume et de ses sauvegardes sans confirmation forte.
Jer Crane assume sa part de responsabilité, mais il dénonce des garde-fous inexistants. Selon lui, les fournisseurs de cloud et d’outils IA promettent des protections qui, en pratique, « ne sont pas là ».
Autrement dit, l’IA a tiré la gâchette, mais l’arme était posée sur la table, chargée. Et ce constat concerne bien d’autres entreprises que PocketOS.
Ce que les entreprises doivent verrouiller avant d’ouvrir la porte aux agents
L’incident survient alors que l’adoption des agents IA explose, avec des dizaines de milliards de dollars investis dans ces outils. Pourtant, deux entreprises sur trois n’ont toujours ni registre des systèmes d’IA ni cartographie des risques, alors que l’AI Act européen doit imposer ce type de gouvernance.
Concrètement, un agent ne devrait jamais disposer d’une clé API globale. Le principe de base tient en quelques réflexes : des droits minimaux, des tokens séparés par environnement, et l’impossibilité pour un agent de test d’atteindre la production.
Les sauvegardes, elles, doivent être isolées, voire immuables, dans un autre compte ou un autre projet cloud. Toute action vraiment destructrice doit exiger une double confirmation humaine et laisser un journal d’audit clair.
Comprendre pourquoi un modèle prend telle ou telle décision reste un chantier ouvert : un ex-OpenAI affirme avoir percé la boîte noire des IA, mais la prudence reste de mise en attendant.
Pour un studio de jeu en ligne ou un SaaS, un « cas PocketOS » pourrait signifier la perte de personnages, d’achats ou de données clients. La pression économique pousse pourtant à aller vite : Barclays supprime 5 000 postes à cause de l’IA alors que ses bénéfices bondissent.
La leçon est simple : traiter ces agents comme des juniors très rapides mais potentiellement imprévisibles, derrière des barrières techniques solides et des procédures vérifiées.
L’IA n’a pas désobéi : on lui a tendu les clés de la maison et on a oublié de fermer la porte de la cave.
Et si l’IA peut aussi prendre la place d’un humain, ce professeur remplacé par son clone en plein cours a eu une surprise de la part de ses étudiants.
Quant à vos propres données, des millions de Français qui ont demandé un passeport ou une carte d’identité ont appris à leurs dépens qu’elles n’étaient pas si bien gardées.