Cette app d’IA déshabillait des femmes à leur insu : Apple l’a supprimée en urgence
Une application banale de retouche photo, téléchargeable en quelques secondes sur l’App Store. Sauf que derrière cette façade inoffensive se cachait un outil capable de déshabiller virtuellement n’importe quelle femme, sans son accord. Le genre de découverte qui glace le sang et qui a forcé Apple à agir vite. Voici comment ce scandale a éclaté, et ce que les enquêteurs ont vraiment trouvé.
Une app en apparence banale, un usage caché bien plus sombre
Sur le papier, rien ne distinguait Kromix des centaines d’applications de retouche photo qui peuplent les stores. Une interface soignée, une promesse de filtres et de montages amusants. C’est exactement ce qui a permis à l’app de passer sous les radars pendant un temps.
Mais sa version payante cachait une toute autre fonction : incruster de vrais visages humains dans des vidéos et scènes pornographiques, sans le moindre filtre ni restriction. Une pratique connue sous le nom de deepfake, ici poussée à son extrême le plus intrusif.
Le procédé n’a épargné personne, pas même les figures publiques. L’image d’une femme politique américaine a ainsi été détournée et utilisée dans ce type de montage truqué.
Ce n’est pas un cas isolé : d’autres dérives liées à l’intelligence artificielle ont déjà été repérées ces derniers mois, révélant à quel point ces outils échappent parfois à tout contrôle.
L’ONG Tech Transparency Project et le média américain WIRED ont mené l’enquête qui a permis de mettre au jour l’ampleur du problème, documentée en détail dans leur rapport officiel.
Des publicités ciblées diffusées en toute discrétion sur Facebook et Instagram
Ce qui rend l’affaire encore plus troublante, c’est la méthode de promotion employée. Une trentaine de publicités ont circulé sur Facebook et Instagram, ciblant particulièrement les hommes, orchestrées depuis un compte éphémère créé pour l’occasion.
Les visuels de couverture, eux, restaient parfaitement anodins. Rien n’indiquait la véritable fonction du service caché derrière ces annonces, un procédé pensé pour contourner la modération automatique des plateformes.
Ce cas n’est malheureusement pas une première. Une autre application, MaskAI, permettait des dérives similaires avant d’être finalement bannie. Le phénomène des contenus artificiels générés par IA qui envahissent le web sans réel garde-fou semble ainsi loin d’être maîtrisé, malgré les alertes répétées d’experts et de journalistes spécialisés dans la tech.
Apple retire l’app dans l’urgence, mais les failles persistent
Alertée directement par des journalistes, Apple a fini par réagir : suppression immédiate de Kromix de l’App Store et effacement des comptes développeurs associés. De son côté, Meta a supprimé les publicités concernées et bloqué tous les liens menant vers l’application.
La firme à la pomme s’est justifiée en expliquant que ces fonctionnalités interdites avaient été ajoutées secrètement, après la validation initiale du logiciel. Un aveu qui interroge sur la solidité réelle des contrôles effectués avant mise en ligne.
Cette affaire s’inscrit dans un climat de pression grandissante. La justice de San Francisco avait déjà exigé le retrait de plusieurs applications du même genre, comme le rapporte 9to5Mac. Pourtant, ces services continuent de générer des millions de téléchargements et des revenus conséquents, révélant selon le média spécialisé de graves lacunes dans la modération automatique de Meta et Apple, qui n’agissent souvent qu’une fois le scandale rendu public.
Le message est clair : la technologie va plus vite que les garde-fous censés l’encadrer. Tant que la modération réagira après coup plutôt qu’en amont, d’autres Kromix referont surface ailleurs. La question n’est plus de savoir si ça se reproduira, mais quand.