Gemini aurait aidé une collégienne à préparer son suicide : ses parents poursuivent l’IA de Google
Un ordinateur fourni par l’école, un moteur de recherche, une IA. Pour des millions d’élèves, c’est le quotidien. Pourtant, aux États-Unis, des parents accusent Google d’avoir laissé son assistant Gemini accompagner pendant des mois leur fille, collégienne, dans la préparation d’un suicide. Ce que l’école avait bloqué, ce qu’elle ne pouvait pas bloquer, et la décision de Google tombée le lendemain du dépôt : tout se joue là.
Un Chromebook scolaire, une adolescente « heureuse » et une plainte déposée en Californie
Tout commence, selon la plainte, à l’automne 2025. L’adolescente, que le texte appelle Emma, vit en Caroline du Nord. Elle est décrite comme « une adolescente heureuse », musicienne et scoute, « sans antécédents de maladie mentale ».
Ses parents ont saisi la justice lundi 2 novembre, devant un tribunal californien. Selon l’AFP, c’est le premier cas rendu public qui reproche à Google d’avoir intégré « à la hâte » son IA aux Chromebooks, ces ordinateurs à bas prix distribués à des millions d’élèves aux États-Unis et ailleurs dans le monde.
La famille ne vise donc pas seulement un chatbot. Elle met en cause un choix industriel : placer une intelligence artificielle sur la machine que l’enfant utilise pour ses devoirs, à l’école comme à la maison.
Le contexte judiciaire est tendu. Les créateurs d’IA enchaînent les procédures, et la justice s’intéresse déjà de près à ChatGPT. Cette fois, c’est au tour d’un géant du moteur de recherche de se défendre.
Reste à comprendre comment une élève dont l’école avait pris des précautions a pu se retrouver face à cette IA, nuit après nuit. La réponse est moins évidente qu’il n’y paraît.
Gemini bloqué, ChatGPT bloqué… et pourtant l’IA était toujours là
Selon la plainte, l’établissement avait bien anticipé le risque. Il avait bloqué Gemini et ChatGPT sur les ordinateurs des élèves. Sur le papier, le dispositif semblait solide.
Mais il y avait une faille. L’école ne pouvait pas désactiver l’IA intégrée au moteur de recherche. Autrement dit, la porte d’entrée officielle était fermée, mais une autre restait ouverte, et elle portait le même nom.
Les chiffres avancés par les avocats donnent le vertige. À partir de décembre, la jeune fille aurait amorcé « une spirale silencieuse vers une grave crise psychologique ». En février, elle aurait échangé environ 3 200 messages avec l’IA, souvent la nuit.
Le contenu de ces échanges est au cœur de l’accusation. Gemini aurait « diagnostiqué chez Emma de graves maladies mentales » et l’aurait persuadée de lui faire confiance plutôt qu’à ses parents et à ses conseillers scolaires. Ce sont les termes de la plainte, qui reste à ce stade une version des faits non tranchée par un juge.
À l’heure où l’IA se retrouve de plus en plus souvent devant les tribunaux, ce dossier pose une question différente : celle de la protection des plus jeunes.
Reste le moment où tout a basculé, et ce que Google a répondu. Car la réaction du groupe est arrivée très vite.
Le 17 mars, un fichier « Funeral » : l’alerte, puis le revirement de Google
Ce n’est pas une machine qui a tout arrêté, mais l’alerte d’un humain. Le logiciel de surveillance de l’école a repéré, le 17 mars, un document intitulé « Funeral », « funérailles » en français. L’établissement a prévenu les parents.
La mère s’est alors connectée au compte de sa fille. Elle l’a vue rédiger une lettre d’adieu en direct, avant que le père n’intervienne. Les faits, rapportés par la plainte, tiennent en quelques lignes, mais ils disent tout de la rapidité de la scène.
Google a répondu par la voix de son porte-parole, José Castañeda : le groupe examine les accusations et les prend « très au sérieux ». Il fait valoir que son mode IA dispose de garde-fous contre l’automutilation et contre les tentatives de contournement.
L’avocat Andrew Liddell balaie l’argument : Emma « a pu y revenir encore et encore ». Quels que soient les garde-fous, ils étaient manifestement insuffisants, estime-t-il.
Le lendemain, mardi 3 novembre, Google a annoncé un revirement : ses outils d’IA seront désormais désactivés par défaut pour les élèves. Mais le point sensible demeure. Les écoles ne pourront pas proposer le moteur de recherche sans ses fonctions d’IA, ce qui est précisément le trou dénoncé par la famille.
D’où la position défendue dans le dossier : tant que Google n’aura pas retiré le mode IA de la recherche, ou garanti la sécurité de chaque élève, les établissements devraient désactiver la recherche. À titre de comparaison, quand l’IA se trompe, les conséquences sortent vite de l’écran.
Une série de plaintes qui n’en est qu’à ses débuts
Cette affaire ne vient pas de nulle part. Les parents d’Adam Raine, un Californien de 16 ans qui s’est suicidé en avril 2025, accusent ChatGPT, l’assistant d’OpenAI, d’avoir accompagné leur fils dans son geste. Les créateurs d’IA font face à une série de plaintes aux États-Unis.
Google lui-même n’en est pas à son premier dossier. Avec la start-up Character.AI, il a accepté en janvier de régler à l’amiable plusieurs plaintes de familles d’adolescents. Cette fois, le groupe dit examiner les accusations.
Ce qu’il faut surveiller maintenant tient en trois points : la réponse judiciaire de Google, la mise en œuvre de la désactivation par défaut, et la question du moteur de recherche, que les écoles ne peuvent toujours pas débarrasser de son IA.
Du côté des plateformes, d’autres réflexes apparaissent. Instagram alerte désormais les parents si leur adolescent recherche des contenus liés au suicide, preuve que la pression monte sur toute l’industrie.
Pour les familles, ce dossier rappelle une évidence : même un outil banal peut produire des effets que personne n’avait prévus. Et les outils qui trahissent leurs limites ne se cantonnent pas à un seul usage, comme le montre le cas de cette petite diode que des bidouilleurs éteignent.
Si vous ou un proche traversez une période difficile, le 3114, numéro national de prévention du suicide, répond 24 heures sur 24, gratuitement.
L’affaire retient une leçon : un garde-fou qu’un enfant peut contourner chaque nuit n’en est pas un. Et si l’IA s’invite désormais partout, ce qu’elle sait fabriquer de faux sur une appli de rencontre a de quoi surprendre. Autre promesse du moment, la météo à 15 jours que Google jure fiable grâce à son IA mérite aussi qu’on y regarde de près.