Почему ИИ-модерация Meta не защищает пользователей: скандал с Muse Image

Le média Rest of World a publié en juillet 2026 une analyse : Meta et d'autres grandes entreprises technologiques confient de plus en plus la modération des contenus à des réseaux de neurones, mais la réaction des utilisateurs au service Muse Image a révélé une faille majeure — l'IA ne tient pas compte du consentement de la personne et, de ce fait, ne protège pas les utilisateurs.

Ce qu'a révélé le scandale Muse Image

Le scandale autour de Muse Image a mis au jour un angle mort de la modération automatisée : l'algorithme vérifie que le contenu respecte des règles formelles, mais ne demande pas si la personne a consenti à l'utilisation de son image. Selon la version de Rest of World dans son article de 2026, c'est justement le consentement que les filtres d'IA sont structurellement incapables d'évaluer.

Le modèle voit des pixels et des catégories — « nudité », « violence », « spam » — mais ne voit pas les relations entre les personnes ni le contexte dans lequel l'image est apparue. La même photo peut être anodine ou dévastatrice selon que la personne représentée a autorisé sa création et sa publication. Le classificateur ne capte pas cette différence.

Pourquoi l'IA ne comprend pas le consentement

La modération par IA ne reconnaît pas le consentement parce qu'elle est entraînée sur les caractéristiques du contenu, et non sur la volonté des personnes hors champ. Un système distinguera avec une grande précision un corps habillé d'un corps nu, mais la question « la personne représentée a-t-elle donné son autorisation » se situe en dehors des données sur lesquelles il a été entraîné. Le consentement est un fait du monde réel, pas une propriété du fichier lui-même : il ne peut pas être calculé en regardant simplement l'image de plus près.

D'où une bifurcation typique : le contenu ne viole formellement aucune règle de la plateforme, mais cause tout de même un préjudice. La catégorie la plus évidente est celle des images générées ou trafiquées de personnes réelles : techniquement, ce n'est « qu'une image », mais dans les faits, c'est l'utilisation du visage et du corps d'autrui sans autorisation. Le filtre laisse passer ce type de contenu, et la victime reste sans protection.

• En janvier 2025, Meta a remplacé les vérificateurs de faits tiers aux États-Unis par les notes communautaires, Community Notes, et a renforcé l'automatisation
• Muse Image est le service d'IA à l'origine de l'analyse de Rest of World en 2026
• Le consentement de l'utilisateur est une dimension que, selon Rest of World, les filtres d'IA sont structurellement incapables d'évaluer

Où va l'automodération des big tech

Les grandes plateformes misent sur la modération par IA pour des raisons d'échelle et de rapidité : il n'y a pas assez de modérateurs humains pour des milliards de publications. Dès janvier 2025, Meta a annoncé qu'elle remplaçait son programme de vérificateurs de faits tiers aux États-Unis par Community Notes et qu'elle s'appuyait davantage sur des systèmes automatisés — moins d'humains dans la boucle, plus d'algorithme.

Le problème, c'est que la montée de l'automatisation ne comble pas le manque lié au consentement, elle le rend plus visible. Moins il y a de modérateurs humains, moins souvent quelqu'un remarque un préjudice qui n'est pas décrit dans les règles — et c'est précisément là que tombent des histoires comme celle de Muse Image.

La réaction des plateformes est généralement tardive : une règle contre un préjudice précis n'apparaît qu'après un scandale public, une fois que les victimes se sont manifestées elles-mêmes. Muse Image est un nouveau cas de ce schéma : d'abord une vague d'indignation, puis des promesses d'« ajuster » les filtres. Mais ajuster un classificateur ne lui donne pas une compréhension du consentement — cela ne fait qu'élargir la liste des schémas interdits.

La modération par IA est incapable de protéger les utilisateurs parce qu'elle ne tient pas compte du consentement. — thèse de l'article de

Rest of World

Ce que cela signifie

C'est une limite technologique, pas une erreur de paramétrage. Tant que la modération s'appuiera sur la classification des contenus, elle laissera passer des préjudices liés au consentement et au contexte. Rest of World pose une question que les big tech préfèrent éviter : une partie des problèmes de modération ne peut pas être résolue par un modèle plus intelligent — seulement par une autre organisation des règles et une implication humaine. Pour les utilisateurs, cela se traduit par une règle simple : un filtre automatique n'équivaut pas à une protection, et là où il s'agit de sa propre image, il faudra compter sur les plaintes, les avocats et la pression publique, et non sur un algorithme.

• Meta a été reconnue comme organisation extrémiste et est interdite en Russie.