Meta confie la modération de contenu à sa propre IA plutôt qu'à des prestataires tiers

Meta a annoncé le déploiement de nouveaux systèmes d'IA pour la modération et l'application des règles sur ses plateformes : Facebook, Instagram et Threads. Parallèlement, l'entreprise réduit sa dépendance aux sous-traitants, qui assuraient jusqu'ici une grande partie du travail de détection des infractions. Selon Meta, ses outils d'IA maison surpassent les approches précédentes sur plusieurs critères clés.

Les nouveaux systèmes détectent plus précisément les violations des règles de la plateforme, bloquent plus efficacement les arnaques, réagissent plus vite aux événements en temps réel et déclenchent moins de faux positifs, c'est-à-dire qu'ils risquent moins de bloquer par erreur un contenu légitime. Cette décision s'inscrit dans la transformation de grande ampleur que Meta mène depuis début 2025. En janvier, l'entreprise a annoncé la fin de son programme de vérification des faits indépendant aux États-Unis et le passage à un modèle de Community Notes, des notes explicatives rédigées par les utilisateurs, sur le modèle de X.

Meta a alors aussi assoupli plusieurs politiques sur le contenu politique et ajusté le fonctionnement des recommandations algorithmiques. Le passage de prestataires tiers à des systèmes internes prolonge logiquement cette orientation. Les sous-traitants externes de la modération ont toujours été un maillon faible : ils travaillaient plus lentement, coûtaient plus cher et n'avaient pas d'accès direct aux signaux internes de la plateforme.

Ce sont ces signaux qui permettent aux systèmes de Meta de repérer des schémas d'infractions bien plus tôt qu'une équipe de modérateurs externes. La rapidité de réaction aux événements réels est un paramètre critique pour des plateformes comptant des milliards d'utilisateurs. Lors de catastrophes naturelles, d'élections, de conflits armés et d'autres crises, le volume de contenus potentiellement nocifs bondit.

Les systèmes d'IA disposant d'un accès permanent aux flux de données en temps réel ont objectivement l'avantage sur les équipes de modérateurs externes dans ces situations de pic. L'objectif affiché de réduire l'overenforcement, c'est-à-dire les blocages excessifs, mérite une attention particulière. C'est un point sensible de longue date pour Meta : la suppression de contenus d'actualité, de publications journalistiques, de documents médicaux et de propos de minorités a régulièrement valu des critiques à l'entreprise.

Selon les représentants de Meta, les nouveaux systèmes devraient mieux distinguer les infractions réelles des cas limites. Cela dit, le passage complet à la modération automatisée comporte ses propres risques. Les systèmes d'IA sont entraînés sur des données historiques et peuvent reproduire les biais présents dans leurs jeux d'entraînement.

Sans mécanisme de recours transparent ni audit indépendant, utilisateurs et régulateurs ne pourront pas évaluer l'équité de ces systèmes en pratique. Les régulateurs européens exigent déjà des grandes plateformes qu'elles divulguent des informations sur leurs systèmes de modération et permettent de contester les décisions, dans le cadre du Digital Services Act (DSA). Il n'existe pas encore d'équivalent américain à ces exigences, mais la pression réglementaire continue de monter partout dans le monde.

Pour Meta, l'adoption de systèmes d'IA maison est à la fois un choix technologique et un choix d'image. Sur le plan technologique, l'entreprise obtient un outil plus souple et plus évolutif, qu'elle peut adapter et réentraîner pour des tâches précises. Sur le plan de la réputation, elle montre qu'elle prend le contrôle direct d'une infrastructure clé de ses plateformes au lieu de l'externaliser.

Meta n'a pas encore dévoilé publiquement comment les nouveaux systèmes sont conçus, quels modèles les sous-tendent ni comment la supervision humaine est organisée. Les réponses à ces questions diront si cette nouvelle approche constitue un vrai progrès pour la sécurité des contenus ou un nouvel épisode de gouvernance opaque des plus grandes plateformes sociales du monde.

*Meta est classée organisation extrémiste et interdite en Russie.