Il sort de cours avec un sachet de Doritos dans la main : l’IA du lycée crie à l’arme, la police débarque et les élèves portent plainte
Imaginez la scène. Vous sortez de cours, un sachet de chips à la main, tranquille. Quelques minutes plus tard, vous vous retrouvez face à des policiers. Pas pour avoir fait une bêtise, mais parce qu’une caméra a décidé que votre goûter ressemblait à un pistolet.
C’est l’histoire (bien réelle) qui vient de finir devant la justice américaine. Des lycéens ont décidé de porter plainte après qu’un système de surveillance dopé à l’IA a transformé un paquet de Doritos en menace armée. Et franchement, on a du mal à ne pas sourire. Même si, côté élèves, la blague est passée moins bien.
Quand un goûter déclenche l’alerte maximale
Le lycée avait installé un système de détection d’armes basé sur l’intelligence artificielle. Le principe : les caméras analysent les images en continu et préviennent les autorités dès qu’elles repèrent un objet suspect. Sur le papier, c’est rassurant.
Dans la vraie vie, le logiciel a vu quelque chose d’inquiétant dans la main d’un élève. Ce quelque chose, c’était un sachet de Doritos. Alerte envoyée, forces de l’ordre mobilisées, et un adolescent qui voulait juste grignoter se retrouve au cœur d’une intervention.
Le plus fou ? Personne n’a eu l’idée de vérifier l’image avant de bouger. Et ça, c’est justement ce que les élèves reprochent aujourd’hui.

Pourquoi une caméra confond une chips avec un flingue
Spoiler : l’IA ne « comprend » rien. Elle compare des formes et des silhouettes à des milliers d’images qu’elle a déjà vues. Si ce que tient quelqu’un ressemble de près ou de loin à une arme, le système s’affole.
Un sachet froissé, une main crispée, un angle de caméra pas terrible, une mauvaise lumière… et hop, le paquet de chips prend l’allure d’un objet dangereux. Les spécialistes appellent ça un faux positif. Pour les lycéens, ça s’appelle surtout une très mauvaise journée.
Ces erreurs ne sont pas rares. Plus on demande à une machine de détecter vite, plus elle a tendance à voir des menaces partout. Mieux vaut cent fausses alertes qu’une alerte ratée, pensent les fabricants. Sauf quand la fausse alerte vous tombe dessus.
L’intervention qui a fait basculer l’histoire
Voilà le vrai sujet. Une caméra qui se trompe, c’est un bug. Une intervention qui part sans vérification humaine, c’est un problème. Pour les familles concernées, tout s’est joué sur ce détail : l’alerte a été prise au sérieux, sans doute pas assez questionnée.
Être traité comme un suspect armé à cause d’un goûter, ça laisse des traces. Surtout à l’adolescence, surtout devant ses camarades. Les plaignants parlent d’un traumatisme et d’une humiliation que personne ne devrait vivre pour un paquet de chips.
Et ce n’est pas le plus étonnant. Car cette affaire pose une question que beaucoup se posent désormais, bien au-delà des lycées.
Une surveillance qui voit tout… mais mal

Ces systèmes se multiplient partout : écoles, routes, centres commerciaux. On leur confie de plus en plus de décisions, parfois sensibles. Sauf qu’une caméra intelligente reste une caméra qui peut se tromper, et qui se trompe parfois de façon spectaculaire.
La technologie n’est d’ailleurs pas infaillible sur d’autres fronts non plus. Les caméras IA installées sur les routes ont déjà montré qu’elles avaient leurs propres failles, jusqu’à se faire piller 1,6 million de photos. De quoi relativiser la confiance aveugle qu’on leur accorde.
Et même les robots censés nous protéger font parler d’eux. Ce robot garde du corps chinois promet de se jeter sous une voiture pour nous sauver. Reste à savoir s’il ne confondrait pas un sachet de chips avec le danger.
Ce que réclament les lycéens
Les élèves ne veulent pas forcément la mort de l’IA. Ils demandent surtout qu’un humain regarde l’image avant qu’on déclenche une intervention. Un simple coup d’œil aurait suffi pour comprendre qu’il s’agissait d’un snack, pas d’un pistolet.
Ils réclament aussi plus de transparence sur la façon dont ces outils fonctionnent, et sur ce qui se passe quand ils se trompent. Parce qu’aujourd’hui, la machine hausse le ton et l’élève encaisse.
Cette affaire n’est pas isolée. D’autres situations montrent qu’on ferait bien de garder l’esprit critique face aux outils d’IA. Ces randonneuses perdues dans les Pyrénées après avoir suivi ChatGPT en savent quelque chose.

Le vrai risque n’est pas la chips
Soyons honnêtes : l’histoire du Doritos est drôle, et elle finit sans drame. Mais elle montre à quel point un petit bug peut vite prendre des proportions énormes quand on laisse la machine décider seule.
Aujourd’hui, c’est un paquet de chips. Demain, ce sera peut-être un parapluie, un téléphone ou un instrument de musique. Et pas sûr que tout le monde en rigole à la fin.
La justice américaine devra trancher. En attendant, la leçon est simple : une IA peut aider, mais elle ne devrait jamais avoir le dernier mot. Et si vous voulez voir jusqu’où l’IA peut aller, jetez un œil à cette IA française qui lit dans les pensées. Là, au moins, personne ne risque de confondre un cerveau avec un sachet de chips.