Pourquoi la modération par IA de Meta ne protège pas les utilisateurs : le scandale Muse Image

En juillet 2026, le média Rest of World a publié une enquête : Meta et d'autres grandes entreprises technologiques confient de plus en plus la modération de contenu aux réseaux de neurones, mais la réaction des utilisateurs au service Muse Image a révélé une faille majeure : l'IA ne tient pas compte du consentement des personnes et ne les protège donc pas.

Ce que le scandale Muse Image a révélé

Le scandale autour de Muse Image a mis au jour un angle mort de la modération automatique : l'algorithme vérifie la conformité d'un contenu à des règles formelles, mais ne demande pas si la personne a consenti à l'utilisation de son image. Selon Rest of World, dans son article de 2026, le consentement est précisément ce que les filtres d'IA sont structurellement incapables d'évaluer.

Le modèle voit des pixels et des catégories (« nudité », « violence », « spam »), mais ne perçoit ni les relations entre les personnes ni le contexte dans lequel l'image est apparue. Une même image peut être anodine ou dévastatrice selon que la personne représentée a autorisé sa création et sa publication. Le classificateur ne détecte pas cette différence.

Pourquoi l'IA ne comprend pas le consentement

La modération par IA ne reconnaît pas le consentement parce qu'elle est entraînée sur les caractéristiques du contenu, et non sur la volonté des personnes situées hors cadre. Un système distinguera avec une grande précision un corps vêtu d'un corps dénudé, mais la question « la personne représentée a-t-elle donné son autorisation ? » se situe en dehors des données qui ont servi à l'entraîner. Le consentement est un fait du monde réel, et non une propriété du fichier : on ne peut pas le déduire en examinant l'image de plus près.

D'où un cas de figure typique : le contenu n'enfreint formellement aucune règle de la plateforme, mais cause malgré tout un préjudice. La catégorie la plus évidente est celle des images générées ou falsifiées de personnes réelles : techniquement, ce n'est « qu'une image », mais en pratique, c'est l'utilisation du visage et du corps d'autrui sans autorisation. Le filtre laisse passer ce type de contenu, et la victime reste sans protection.

• Meta a remplacé en janvier 2025 les fact-checkers tiers aux États-Unis par les notes d'utilisateurs Community Notes et renforcé l'automatisation
• Muse Image est le service d'IA à l'origine de l'enquête de Rest of World en 2026
• Le consentement de l'utilisateur est une dimension que, selon Rest of World, les filtres d'IA n'évaluent structurellement pas

Où va la modération automatique des géants du numérique

Les grandes plateformes misent sur la modération par IA pour la taille et la vitesse : les modérateurs humains ne suffisent pas face à des milliards de contenus mis en ligne. Dès janvier 2025, Meta a annoncé remplacer son programme de fact-checkers tiers aux États-Unis par Community Notes et s'appuyer davantage sur des systèmes automatiques : il y a moins d'humains dans la boucle et plus d'algorithmes.

Le problème, c'est que l'automatisation croissante ne comble pas le vide autour du consentement, elle le rend plus visible. Moins il y a de modérateurs humains, plus il est rare que quelqu'un remarque un préjudice qui n'est pas décrit dans les règles, et c'est précisément là que se situent des affaires comme Muse Image.

La réaction des plateformes arrive généralement avec retard : la règle contre un préjudice précis n'apparaît qu'après un scandale public, une fois que les victimes se sont elles-mêmes manifestées. Muse Image est un nouvel exemple de ce schéma : d'abord une vague d'indignation, puis des promesses de « réajuster » les filtres. Mais réajuster un classificateur ne lui apprend pas à comprendre le consentement : cela ne fait qu'allonger la liste des motifs interdits.

La modération par IA ne peut pas protéger les utilisateurs, car elle ne tient pas compte du consentement. — thèse de l'article de

Rest of World

Ce que cela signifie

Il s'agit d'une limite technologique, et non d'une erreur de paramétrage. Tant que la modération reposera sur la classification de contenu, elle laissera passer les préjudices liés au consentement et au contexte. Rest of World pose une question que les géants du numérique préfèrent éluder : une partie des problèmes de modération ne se résout pas avec un modèle plus intelligent, mais seulement avec une autre conception des règles et l'intervention d'humains. Pour les utilisateurs, la leçon est simple : un filtre automatique n'est pas une protection, et dès qu'il s'agit de leur propre image, il faudra compter sur les signalements, les juristes et la pression publique, plutôt que sur l'algorithme.

*Meta est reconnue en Russie comme organisation extrémiste et y est interdite.