Deepfakes sexuels dans les écoles : l'enquête de WIRED révèle 90 établissements et 600 victimes

L'enquête de WIRED en collaboration avec la plateforme analytique Indicator a documenté près de 90 écoles dans différents pays du monde où des élèves ont été confrontés à la diffusion d'images intimes générées artificiellement. Le nombre cumulé de victimes a dépassé 600 personnes — et, selon la dynamique, le problème ne diminue pas mais s'aggrave. Les auteurs ont examiné des sources publiques, des documents judiciaires, et ont interrogé des administrateurs scolaires, des parents et les victimes elles-mêmes de dizaines de pays.

Leur conclusion est sans équivoque : les outils pour créer les soi-disant nudes à partir d'une photographie d'une vraie personne sont devenus si accessibles que n'importe quel adolescent avec un smartphone peut les utiliser. La plupart de ces services opèrent dans une zone grise, ne nécessitent pas de vérification d'âge et ne sont pas responsables du contenu généré. L'ampleur du phénomène s'est avérée inattendue même pour les chercheurs.

Parmi les cas documentés figurent des écoles aux États-Unis, au Royaume-Uni, en Espagne, en Australie et au Canada. Dans la plupart des situations, des camarades de classe des victimes ont initié les incidents, en utilisant des photographies de comptes publics sur les réseaux sociaux. Les images ont été diffusées via des applications de messagerie, des chats fermés et des plateformes anonymes.

Certains cas ont abouti à des procédures pénales, mais l'application de la loi reste incohérente : la législation dans de nombreuses juridictions n'a simplement pas suivi le rythme de la technologie. Les victimes décrivent de graves conséquences psychologiques : dépression, troubles anxieux, réticence à aller à l'école. Certaines ont été contraintes de changer d'établissement scolaire.

Les administrations scolaires, selon les parents, souvent ne savent pas comment réagir — il n'y a ni protocoles ni ressources. Les forces de l'ordre conseillent fréquemment d'« ignorer » ce qui s'est passé ou rappellent que les images ne sont techniquement pas de vraies photographies — ce qui pour les victimes semble être de la moquerie. L'aspect technologique aggrave la situation.

Les applications Nudify sont activement publicisées dans les moteurs de recherche et les réseaux sociaux, malgré les règles des plateformes qui formellement interdisent tel contenu. Les modèles de génération d'images deviennent plus précis chaque mois, la barrière à l'entrée est plus basse. Certains services offrent plusieurs « traitements » gratuits, monétisant l'accès ultérieur par abonnement.

Supprimer le contenu généré d'internet est un processus long, coûteux et souvent infructueux. Au niveau législatif, la situation commence à changer, mais lentement. Dans plusieurs États américains, la création et la distribution d'images intimes deepfake sans consentement ont été criminalisées.

Au Royaume-Uni, les amendements correspondants sont entrés en vigueur en 2024. L'Union européenne discute de mesures supplémentaires dans le cadre de la Loi sur l'IA. Cependant, il n'existe pas de consensus mondial, et la nature transnationale d'internet rend toute loi nationale seulement une solution partielle.

L'enquête est un autre signal : l'industrie de l'IA générative n'a toujours pas élaboré ni normes techniques ni normes industrielles capables d'empêcher l'utilisation de la technologie contre les personnes vulnérables. Pendant que les entreprises rivalisent pour la part de marché et que les régulateurs rattrappent leur retard sur le progrès, les véritables coûts sont supportés par les étudiants et leurs familles.