Action en justice en Arizona contre AI ModelForge pour des avatars pornographiques créés à partir de photos de vraies femmes

Trois femmes en Arizona ont intenté un procès contre un groupe d'hommes qui, selon les plaignants, convertissaient des photos des réseaux sociaux en avatars pornographiques d'IA et vendaient non seulement le résultat mais aussi les instructions pour le produire. L'histoire est importante non pas à cause de l'ampleur des comptes, mais parce que les victimes, comme le prétendent les plaignants, n'étaient pas des célébrités mais des utilisatrices ordinaires avec des profils publics.

Comment fonctionnait le schéma

L'une des plaignantes, désignée dans les documents judiciaires sous le nom MG, a raconté comment elle gérait un compte Instagram ordinaire où elle publiait des histoires, des photos avec des amis et des moments quotidiens. En été, on lui a envoyé un lien vers des vidéos d'une femme qui lui ressemblait beaucoup : le même visage, un corps similaire, des tatouages aux mêmes endroits. Selon elle, cela semblait suffisamment convaincant pour que des étrangers confondent ces images avec du contenu réel.

Selon le procès, trois hommes de Phoenix, avec d'autres participants non identifiés, recherchaient des photos de jeunes femmes sur internet puis les utilisaient pour créer des modèles d'IA fictifs. Un tel contenu, prétendent les plaignants, était publié sur Instagram et TikTok et monétisé sur Fanvue. En parallèle, un abonnement à $24,95 par mois était vendu via la plateforme Whop proposant des cours expliquant à d'autres utilisateurs comment construire des comptes similaires.

Le procès décrit un processus presque en chaîne de montage :

• rechercher des femmes ayant des comptes de réseaux sociaux relativement petits
• collecter des photos et les télécharger sur CreatorCore pour entraîner le modèle
• utiliser une application distincte pour « déshabiller » les images et générer du contenu explicite
• publier des vidéos et photos d'IA sur les réseaux sociaux pour la portée
• vendre des instructions et des modèles à nouveaux participants via une communauté payante

« C'était répugnant à tous les niveaux, » ainsi qu'une des plaignantes

a décrit ce qu'elle a vu.

Pourquoi ce procès se démarque

Cette affaire diffère de nombreuses histoires de pornographie deepfake car elle implique non seulement la publication d'images sans consentement, mais aussi la vente d'instructions prêtes à l'emploi. L'avocat des plaignantes affirme que les abonnés auraient été apparemment enseignés sur comment sélectionner des femmes qui ne pourraient pas se défendre rapidement et où trouver leurs photos. Le procès mentionne spécifiquement qu'une préférence était donnée aux comptes avec des audiences inférieures à 50 mille abonnés pour réduire le risque de réclamations légales.

Selon les données présentées dans le procès, le contenu créé autour de ce schéma a accumulé des millions de vues et en un mois a généré plus de $50 mille de revenus. Le document indique également qu'en 2025, CreatorCore comptait plus de 8 mille abonnés qui ont généré plus de 500 mille images et vidéos. Même si certains de ces chiffres doivent encore être vérifiés en tribunal, ils montrent qu'il ne s'agit pas d'une histoire marginale mais d'une économie à part entière autour des influenceurs d'IA.

Un détail particulier est le supposé changement de marque du projet. Au moment de la publication, Linktree AI ModelForge dirigeait vers la communauté Telegram TaviraLabs avec une audience de plus de 18 mille personnes, qui se décrivait comme la plus grande communauté pour la formation de modèles d'influenceurs d'IA. Pour de tels schémas, c'est typique : changer le nom, la plateforme et l'emballage permet de détourner rapidement l'audience de l'attention négative sans casser l'entonnoir de vente lui-même ou abandonner l'ancien modèle commercial. Cela complique davantage la recherche de connexions entre les comptes nouveaux et anciens, tant pour les victimes que pour les plateformes.

Où la protection échoue

Formellement, les victimes disposent déjà d'outils juridiques, mais en pratique ils fonctionnent lentement. La loi fédérale Take It Down a été signée en mai 2025, mais n'entre en vigueur qu'en mai 2026. Elle devrait rendre illégale la publication de contenu d'IA sexualisé sans consentement et obliger les plateformes à supprimer de tels matériaux dans les 48 heures suivant une plainte. Au niveau des États, des interdictions similaires ont déjà été adoptées, y compris en Arizona, mais les politiciens locaux eux-mêmes reconnaissent que ces mesures réagissent plus souvent aux dommages après coup qu'elles ne les préviennent.

Le problème réside également dans la modération des plateformes. Selon les plaignantes, de nombreuses images ont continué à rester sur Instagram parce que formellement elles ne correspondaient pas aux règles d'usurpation d'identité : ce ne sont pas des copies exactes de leurs photos mais de nouveaux cadres d'IA avec le même visage et des détails reconnaissables. TikTok, selon les rapports, a supprimé certains comptes après que des journalistes aient pris contact, et Instagram a envoyé les profils connexes pour examen. Mais l'écart lui-même entre « ce n'est pas sa photo » et « c'est clairement fait à partir de la sienne » reste une énorme zone grise.

Ce que cela signifie

L'histoire d'Arizona montre que le marché des influenceurs d'IA ne s'est pas limité depuis longtemps aux simples modèles virtuels inoffensifs. Si les accusations se confirment, ce sera un exemple de la façon dont les outils génératifs, les communautés payantes et la modération faible se combinent pour former un schéma évolutif d'exploitation de l'apparence physique de quelqu'un sans consentement — et la vulnérabilité de presque n'importe qui ayant un profil public sur les réseaux sociaux. Pour les plateformes et les législateurs, c'est un signal que l'ancienne logique des plaintes et de la suppression manuelle ne fonctionne plus.