Elle a demandé « fait-elle du surpoids ? » à l’IA de Meta au sujet de sa fille : la réponse a glacé cette mère
Une vidéo anodine, une chanson en voiture avec sa fille : voilà comment tout a commencé pour Kalie Robins, une mère de famille installée dans l’Utah. Elle voulait juste partager un moment de tendresse sur Facebook. Elle n’imaginait pas que l’intelligence artificielle du réseau allait se pencher sur ses enfants d’une façon qu’elle n’a jamais autorisée.
Une vidéo « innocente » qui déclenche tout
Tout démarre par un post banal. Robins publie un clip où elle chante avec l’une de ses filles, à bord de sa voiture. Rien d’exceptionnel, rien de sensible. Ce genre de contenu circule par millions chaque jour sur les réseaux sociaux, entre souvenirs de famille et instants du quotidien capturés à la volée.
Mais la suite, elle, sort totalement du cadre. Meta AI, l’intelligence artificielle intégrée à Facebook et Instagram, commence à générer des suggestions de questions autour de cette vidéo. Et ces questions ne portent pas sur la chanson, ni sur la voiture. Elles portent sur l’identité des enfants filmés : leurs prénoms, leur date de naissance, leur lieu de résidence.
Robins raconte avoir ressenti un malaise immédiat face à ce genre de sollicitation inattendue de la part d’un outil censé aider les utilisateurs à mieux comprendre leurs propres publications. Un doute s’installe alors : jusqu’où cette IA peut-elle vraiment aller pour répondre à ses propres suggestions ? La réponse, elle, va la glacer.
Une photo supprimée depuis des années ressurgit
C’est en cliquant sur l’une de ces suggestions que la mère de famille tombe sur l’élément le plus troublant de toute cette histoire. Meta AI ressort une photographie de l’une de ses filles, prise juste après sa naissance. Une image que Robins affirme avoir effacée de sa page il y a plusieurs années déjà, bien avant l’apparition de ces outils d’intelligence artificielle.
« Je ne prétends pas savoir comment cela fonctionne, mais je sais que cette photo n’a pas été visible sur ma page depuis des années », confie-t-elle, encore stupéfaite. L’IA aurait ainsi puisé dans un historique de données bien plus profond que ce que l’utilisatrice pensait accessible, un peu à la manière dont d’autres géants de la tech se retrouvent rattrapés par leurs propres technologies.
Le système ne s’arrête pas là. En poursuivant sa recherche, l’outil croise plusieurs publications passées pour tenter de déterminer où vivait la famille. Une déduction géographique construite à partir de fragments dispersés, sans qu’aucune autorisation explicite n’ait jamais été donnée pour ce type de croisement de données personnelles.
Meta reconnaît une erreur, mais botte en touche
Face à ces révélations relayées par Futurism, un porte-parole du groupe dirigé par Mark Zuckerberg a réagi. Il confirme que Meta AI peut bel et bien puiser à la fois dans le contenu personnel des utilisateurs et dans les informations disponibles publiquement sur le web, un fonctionnement qui rappelle les débats récurrents autour des dérives possibles des intelligences artificielles grand public.
L’entreprise reconnaît néanmoins que la fonctionnalité « s’est trompée » en suggérant ce type de questions sur la page de Robins. Une reconnaissance qui reste toutefois mesurée : « Quand quelqu’un clique sur une suggestion et utilise cette fonction, la réponse générée se base sur des informations auxquelles l’utilisateur a déjà accès », précise le groupe, comme pour relativiser la portée de l’incident.
Meta assure avoir corrigé le problème depuis, affirmant que ce genre de suggestion concernant des mineurs n’aurait jamais dû être proposé. Un correctif tardif, alors que des cas similaires impliquant l’usage d’IA autour de la vie des plus jeunes continuent d’inquiéter, comme cette autre mère de famille bouleversée par un chatbot.
L’histoire de Kalie Robins résume à elle seule le malaise grandissant autour de nos vies numériques : une photo qu’on croyait effacée peut toujours resurgir, quelque part, dans les serveurs d’une intelligence artificielle. Et vous, avez-vous déjà vérifié ce que les IA de vos réseaux savent vraiment sur vos proches ?