En Arizona, une plainte vise AI ModelForge pour des avatars pornographiques créés à partir de photos de vraies femmes

En Arizona, trois femmes ont porté plainte contre un groupe d'hommes. Selon les plaignantes, ceux-ci transformaient des photos publiées sur les réseaux sociaux en avatars pornographiques générés par IA, puis vendaient non seulement le résultat, mais aussi le mode d'emploi pour le produire. L'affaire compte moins par la taille des comptes concernés que par le profil des victimes : d'après la plainte, il ne s'agissait pas de célébrités, mais d'utilisatrices ordinaires dont le profil était public.

Comment fonctionnait le système

L'une des plaignantes, désignée comme MG dans les documents judiciaires, explique qu'elle tenait un compte Instagram banal : des stories, des photos entre amis, des moments du quotidien. Cet été, on lui a envoyé un lien vers des vidéos montrant une femme qui lui ressemblait fortement : le même visage, une silhouette similaire, des tatouages aux mêmes endroits. Selon elle, le résultat était assez crédible pour que des inconnus prennent ces images pour de vraies photos.

D'après la plainte, trois hommes de Phoenix, avec d'autres participants non identifiés, cherchaient en ligne des photos de jeunes femmes avant de s'en servir pour créer des modèles IA fictifs. Les plaignantes affirment que ce contenu était publié sur Instagram et TikTok, et monétisé sur Fanvue. En parallèle, la plateforme Whop servait à vendre un abonnement à $24,95 par mois donnant accès à des formations qui expliquaient à d'autres utilisateurs comment monter des comptes du même type.

La plainte décrit un processus quasi industriel :

• repérer des femmes disposant de comptes relativement modestes sur les réseaux sociaux
• collecter leurs photos et les charger dans CreatorCore pour entraîner un modèle
• utiliser une application distincte pour « déshabiller » les images et générer du contenu explicite
• publier les vidéos et photos générées par IA sur les réseaux sociaux pour gagner en audience
• vendre instructions et templates aux nouveaux venus via une communauté payante

« C'était répugnant à tous les niveaux », résume l'une des plaignantes

à propos de ce qu'elle a découvert.

Pourquoi cette plainte se distingue

Ce dossier se démarque de nombreuses affaires de deepfake pornographique : il ne porte pas seulement sur la diffusion d'images sans consentement, mais aussi sur la vente d'un véritable manuel clés en main. L'avocat des plaignantes affirme qu'on aurait expliqué aux abonnés comment choisir des femmes incapables de se défendre rapidement, et où récupérer leurs photos. La plainte précise que les comptes de moins de 50 000 abonnés étaient privilégiés, afin de limiter le risque de poursuites.

Selon les chiffres cités dans la plainte, le contenu produit autour de ce système cumulait des millions de vues et a généré plus de $50 000 de revenus sur un seul mois. Le document indique aussi qu'en 2025, CreatorCore comptait plus de 8 000 abonnés, qui avaient généré plus de 500 000 images et vidéos. Même si une partie de ces chiffres reste à vérifier devant le tribunal, ils montrent qu'il ne s'agit pas d'une affaire marginale, mais d'une véritable économie bâtie autour des influenceurs IA.

Autre détail : le changement de marque présumé du projet. Au moment de la publication, le Linktree d'AI ModelForge renvoyait vers TaviraLabs, une communauté Telegram de plus de 18 000 membres qui se présentait comme la plus grande communauté de formation aux modèles d'influenceurs IA. La manœuvre est classique pour ce type de système : changer de nom, de plateforme et d'habillage permet d'éloigner rapidement l'audience de l'attention négative, sans casser l'entonnoir de vente ni renoncer à l'ancien modèle économique. Pour les victimes comme pour les plateformes, il devient d'autant plus difficile d'établir le lien entre anciens et nouveaux comptes.

Où la protection échoue

Sur le papier, les victimes disposent déjà d'outils juridiques, mais dans les faits, ils agissent lentement. La loi fédérale Take It Down Act a été signée en mai 2025, mais n'entre en vigueur qu'en mai 2026. Elle doit rendre illégale la publication de contenu sexualisé généré par IA sans consentement, et obliger les plateformes à retirer ce type de contenu dans les 48 heures suivant un signalement. Plusieurs États, dont l'Arizona, ont déjà adopté des interdictions similaires, mais les élus locaux reconnaissent eux-mêmes que ces mesures réparent le préjudice après coup plus souvent qu'elles ne le préviennent.

La modération des plateformes pose aussi problème. Selon les plaignantes, de nombreuses images sont restées en ligne sur Instagram, car elles ne relevaient pas formellement des règles sur l'usurpation d'identité (impersonation) : il ne s'agissait pas de copies exactes de leurs photos, mais de nouvelles images générées par IA reprenant le même visage et des détails physiques reconnaissables. TikTok aurait supprimé une partie des comptes après avoir été contacté par des journalistes, tandis qu'Instagram a soumis les profils concernés à vérification. Mais l'écart entre « ce n'est pas sa photo » et « c'est manifestement fait à partir d'elle » reste pour l'instant une immense zone grise.

Ce que cela signifie

L'affaire de l'Arizona montre que le marché des influenceurs IA ne se limite plus depuis longtemps à d'inoffensifs modèles virtuels. Si les accusations sont confirmées, elle illustrera la façon dont outils génératifs, communautés payantes et modération défaillante se combinent en un système d'exploitation de l'apparence d'autrui sans consentement, capable de passer à l'échelle — et à quel point presque n'importe qui disposant d'un profil public sur les réseaux sociaux peut se retrouver vulnérable. Pour les plateformes comme pour les législateurs, le signal est clair : l'ancienne logique du signalement et de la suppression manuelle ne suffit plus.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.