Une enquête de WIRED a mis au jour un vaste réseau de plus de 400 applications et sites web qui se font passer pour des outils d'IA inoffensifs, mais proposent en secret des fonctions permettant de générer des deepfakes sexuels violents non consentis et du matériel d'exploitation sexuelle d'enfants (CSAM). Ce réseau, lié à des développeurs sinophones et à une entité enregistrée à Hong Kong nommée KeLing Technology Limited, opère depuis environ un an, publiant des dizaines d'applications par semaine et contournant les contrôles de l'App Store d'Apple et de Google Play.
Ces applications, comme Viefur, une application de portraits d'animaux, semblent ordinaires à première vue — elles proposent du coaching sportif par IA ou des leçons de langue — mais dans certaines conditions, elles chargent une interface web cachée qui permet aux utilisateurs de créer des images et vidéos explicites à partir de photos importées. Les chercheurs ont découvert le réseau après avoir tracé des milliers de publicités de deepfakes explicites sur Facebook et Instagram menant à ces applications, avec des paiements possibles via Apple Pay et Google Pay.
Comment les applications de deepfake contournent les contrôles des stores
Selon WIRED, les applications utilisent une technique appelée cloaking : une fois téléchargées, elles contactent un serveur avec des informations comme la localisation de l'utilisateur, sa langue et un identifiant unique. Le serveur décide alors d'afficher le contenu inoffensif ou l'interface de deepfake explicite. Un déclencheur connu est le téléchargement de l'application après avoir cliqué sur une publicité associée sur les plateformes de Meta. Les sites web liés aux applications affichent souvent un écran noir, mais l'URL se met à jour avec le mot « risk » et héberge une couche cachée contenant des dizaines de modèles de deepfakes pornographiques.
Des chercheurs d'AI Forensics et d'Infoblox, qui ont rétro-ingénieré les applications et les sites web, ont trouvé un ensemble JavaScript qui répertorie tous les domaines, les clés de chiffrement et les traceurs publicitaires de Facebook, révélant l'ampleur du réseau. Les domaines ont commencé à apparaître fin 2025, avec un pic au printemps 2026, et à un moment donné, environ 30 nouvelles applications étaient enregistrées par semaine. Les applications incluent des scènes troublantes comme « viol dans la chambre » et « couteau menaçant », et le réseau a été promu via des dizaines de milliers de publicités Meta sous de faux noms de payeurs.
