Apple et Google continuent d'héberger des applis nudify malgré leurs propres règles

Apple et Google continuent d'héberger dans leurs boutiques mobiles des applis qui permettent de créer des images sexualisées de personnes sans leur consentement. Le sujet est particulièrement sensible pour l'App Store et Google Play, car les deux entreprises disposent déjà de règles qui interdisent formellement ce type de contenu.

Ce qu'ont trouvé les chercheurs

La nouvelle vague de critiques vient d'un rapport du Tech Transparency Project. Selon ce document, des applis dites nudify restent disponibles dans les écosystèmes d'Apple et de Google : des services qui, grâce à l'IA générative, transforment des photos ordinaires de personnes en images sexualisées, sans obtenir le consentement de la personne concernée.

La contradiction centrale est qu'il ne s'agit pas d'une zone grise sans règles. Apple comme Google restreignent publiquement les applis à contenu sexuellement exploiteur, nuisible ou trompeur. Si ces outils restent bien dans les résultats et téléchargeables, cela révèle un fossé entre la politique affichée des plateformes et son application concrète. Pour des entreprises qui présentent leurs boutiques comme un environnement sûr, cela entame à la fois la confiance des utilisateurs et la réputation du système de contrôle lui-même.

Pourquoi c'est dangereux

Ces applis abaissent le seuil d'entrée de la violence numérique à quelques pressions sur l'écran. Falsifier une image exigeait autrefois des compétences en retouche et du temps. Il suffit désormais d'importer une photo issue d'un réseau social ou d'une messagerie, de choisir un style et d'obtenir le résultat en quelques minutes. Pour la victime, ce n'est ni une « blague » ni un format de divertissement discutable, mais une atteinte à ses limites personnelles et au contrôle de sa propre image.

Les conséquences de ces outils sont bien réelles :

• harcèlement et humiliation dans les discussions, les écoles et les équipes de travail
• chantage et pression dans les relations personnelles
• atteinte à la réputation difficile à réparer rapidement
• défiance croissante envers la photo comme preuve de la réalité
• charge supplémentaire pour la modération des plateformes et les signalements des victimes

L'ampleur de la diffusion pose aussi problème. Quand ces produits passent le contrôle des grandes boutiques d'applis, ils gagnent non seulement une audience, mais aussi une apparence de légalité. Pour une partie des utilisateurs, la simple présence sur l'App Store ou Google Play semble indiquer que le service est « dans les règles », même si ses usages sont manifestement toxiques.

Pourquoi les règles n'ont pas fonctionné

D'après le rapport, la question n'est plus l'absence de normes, mais leur application. La modération des boutiques d'applis s'appuie traditionnellement sur la description du produit, les mots-clés, les captures d'écran, les signalements d'utilisateurs et les vérifications ultérieures des mises à jour. Les développeurs de services douteux savent jouer avec ce système : ils adoucissent les formulations, déguisent les usages réels en « divertissement » ou en « effets photo », et ne rendent les fonctions les plus risquées visibles qu'après l'installation.

Il existe aussi un problème plus systémique. Les outils génératifs évoluent plus vite que les règles et les processus de vérification manuelle. Les plateformes doivent évaluer non seulement la technologie, mais aussi le préjudice probable de son usage. Pour les applis nudify, ce préjudice est assez évident : le scénario d'usage est conçu dès le départ pour créer une image sexualisée d'une personne sans son consentement. C'est pourquoi les questions posées à Apple et Google ne porteront pas seulement sur la politique sur le papier, mais aussi sur la rapidité avec laquelle elles retirent ces produits une fois détectés.

Ce que cela signifie

L'affaire des applis nudify montre que le principal risque de l'IA générative se situe aujourd'hui souvent non pas en laboratoire, mais au stade de la distribution. Si Apple et Google veulent que leurs règles soient prises au sérieux, elles devront définir plus précisément les scénarios interdits, réagir plus vite aux signalements et contrôler plus strictement les applis qui monétisent la sexualisation non consentie de personnes.