Meta réduit la modération externalisée et confie la vérification des contenus à une IA plus avancée

Meta compte réduire nettement le rôle des sous-traitants externes dans la modération de Facebook et d'Instagram. L'entreprise veut confier de plus en plus de vérifications de contenu à ses propres systèmes d'IA, en laissant aux humains les décisions les plus risquées et les plus litigieuses.

Comment la modération évolue

Meta a déclaré qu'elle déploiera progressivement, dans les prochaines années, des systèmes d'IA plus avancés dans toutes ses applications. Il ne s'agit pas seulement de filtrer le spam, mais d'appliquer pleinement les règles aux contenus : l'entreprise veut repérer plus précisément et supprimer plus vite les infractions graves, notamment les fraudes, les contenus illégaux, les contenus liés à la vente de drogues et d'autres catégories dangereuses. Si les nouveaux systèmes font durablement mieux que les méthodes actuelles, Meta réduira sa dépendance aux sous-traitants tiers et renforcera ses équipes et outils internes.

C'est un virage notable pour l'ensemble du modèle opérationnel de Meta. Pendant des années, l'entreprise a combiné la détection automatique des infractions et le travail de milliers de modérateurs externes, qui examinaient manuellement les publications litigieuses et les signalements. Elle parie désormais que les modèles actuels gèrent mieux un travail massif, répétitif et qui évolue vite, où il est difficile pour un humain de tenir la cadence. Pour Meta, c'est à la fois une question de vitesse, d'échelle et de coût de la modération sur des plateformes qui comptent des milliards de contenus.

Ce que l'IA sait déjà faire

L'entreprise affirme que les premiers tests des nouveaux systèmes paraissent assez solides pour élargir leur rôle. Comme argument, Meta ne met pas en avant de vagues promesses d'efficacité, mais des métriques précises sur les escroqueries, les faux comptes, les infractions à caractère sexuel et les publicités suspectes. C'est sur ces chiffres que l'entreprise bâtit sa thèse : une partie du travail autrefois réalisé par des prestataires externes peut désormais passer à sa propre IA.

• Ils repèrent et bloquent environ 5 000 tentatives d'escroquerie supplémentaires par jour, que les équipes de vérification existantes ne remarquaient pas.
• Ils ont réduit de plus de 80 % les signalements de comptes usurpant l'identité des célébrités les plus imitées.
• Ils détectent deux fois plus de contenus contrevenant aux règles avec des propositions sexuelles adressées à des adultes, tout en commettant plus de 60 % d'erreurs en moins.
• Ils repèrent des scénarios complexes de piratage de comptes, où des signaux isolés semblent anodins mais indiquent ensemble une attaque.
• Après des tests plus larges, ils ont réduit de 7 % les vues de publicités contenant des escroqueries et d'autres infractions graves.

Meta met aussi en avant la couverture linguistique. Selon l'entreprise, les nouveaux systèmes fonctionnent dans des langues parlées par 98 % des internautes, alors que la couverture se situait auparavant autour de 80 langues. Plus que le chiffre, ce qui compte, c'est que les modèles apprennent plus vite à s'adapter au contexte local : argot, émojis, mots de code et comportement des communautés de niche. Ce sont précisément ces détails qui font souvent de la modération automatique un point faible, surtout quand les acteurs malveillants changent rapidement de tactique.

Où les humains resteront

Meta n'a pas l'intention de retirer complètement les humains de la chaîne. L'entreprise dit clairement que l'IA prendra en charge les tâches qui conviennent le mieux à la technologie : vérifications répétitives de contenus choquants, recherche massive de schémas d'escroquerie et catégories où les contrevenants s'adaptent sans cesse aux règles et contournent les filtres. Mais les décisions les plus sensibles resteront entre des mains humaines, comme les recours après le blocage d'un compte ou les dossiers pouvant déboucher sur une interaction avec les forces de l'ordre.

Dans ce schéma, le rôle de l'humain change sans disparaître. Des experts concevront, entraîneront, testeront et évalueront les systèmes, surveilleront les biais et la qualité des décisions, et traiteront les cas complexes où le contexte compte plus que la vitesse. Meta promet aussi que les règles de la communauté elles-mêmes ne changent pas à cause de cette transition. En parallèle, l'entreprise lance un assistant d'assistance basé sur l'IA dans Facebook et Instagram, pour aider les utilisateurs à comprendre pourquoi un contenu a été supprimé, comment faire appel et ce qui se passe ensuite.

Ce que cela signifie

Meta fait passer l'IA du rôle de filtre d'appoint au cœur de la gouvernance de la plateforme. Si la transition fonctionne, l'entreprise réduira sa dépendance aux sous-traitants et accélérera la modération à l'échelle mondiale. Mais le coût de l'erreur augmente aussi : quand une décision litigieuse est prise par un modèle plutôt que par un humain, toute imprécision systémique peut se propager instantanément à des millions d'utilisateurs. Le prochain test pour Meta consiste à prouver que ce schéma produit réellement moins d'erreurs, et pas seulement des coûts réduits.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.