X contre les deepfakes : Elon Musk introduit l'étiquetage du contenu (mais il y a une nuance)

Elon Musk, un homme qui se qualifie d'« absolutiste de la liberté d'expression », nous fait une fois de plus nous demander ce qui se passe à l'intérieur de son entreprise. Cette fois, il a mencionné nonchalamment à sa manière habituelle que la plateforme X commencera à identifier les « médias manipulés ». Bref, percutant et absolutement incompréhensible d'un point de vue technique.

Nous sommes déjà habitués à ce que X présente les actualités comme des bandes annonces de blockbusters, mais ce qui est en jeu ici est bien plus important qu'une simple nouvelle fonctionnalité pour les abonnés Premium. C'est une tentative de maîtriser le chaos que Musk lui-même a partiellement provoqué en démantèlant les départements de modération et en confiant la vérification des faits à la communauté.

Revenons au contexte. Après l'achat de Twitter, Musk a radicalement changé l'approche du contenu. Les équipes qui avaient passé des années à construire des filtres de sécurité se sont retrouvées à la rue, et leur place a été prise par Community Notes—un système où les utilisateurs eux-mêmes signalent les publications douteuses.

Cela a fonctionné raisonnablement bien pour la désinformation textuelle, mais face à une vague de deepfakes, le crowdsourcing est impuissant. Quand des réseaux de neurones comme Sora ou Runway permettent à quiconque de « donner vie » à n'importe quel mensonge, la vérification manuelle ressemble à tenter de vider un océan avec une cuillère. La plateforme a besoin d'un juge automatisé, et il semble que Musk ait décidé d'en créer un.

Qu'est-ce qui a exactement changé ? Pour l'instant, nous n'avons qu'une promesse. Musk n'a pas précisé si le système utilisera des détecteurs de réseaux de neurones pour rechercher des traces de génération ou si X implémentera simplement la prise en charge des normes ouvertes comme C2PA, qui intègrent des signatures numériques dans les fichiers.

La plupart du temps, nous avons affaire à un hybride. Compte tenu de la présence de Grok et des ressources informatiques de xAI, il serait étrange de ne pas utiliser les développements propriétaires pour analyser le contenu visuel. Cependant, le problème est que tout détecteur d'IA fait aujourd'hui des erreurs.

Il fait des erreurs fréquemment et dans les deux sens. Nous risquons de voir des étiquettes de « manipulation » sur des vidéos tout à fait réelles mais gênantes, tandis que les faux habiles franchissent les filtres.

Pourquoi cela compte-t-il maintenant ? L'industrie est à un point de non-retour. Les régulateurs de l'Union européenne et des États-Unis respirent sur la nuque de Musk, exigeant des mesures strictes contre la désinformation, en particulier avant les grands événements politiques. Meta et Google ont déjà promis d'étiqueter le contenu généré par l'IA, et X ne peut pas rester en dehors s'il veut préserver les budgets publicitaires et éviter les amendes massives. Mais pour Musk, c'est aussi une question d'image : il tente de prouver que sa plateforme « libre » peut être plus sûre et plus honnête que les concurrents « censurés ».

En reliant cela aux événements précédents, on peut remarquer une trajectoire intéressante. D'abord le chaos et l'annulation de toutes les règles, puis une tentative de transfuser la responsabilité aux utilisateurs, et maintenant un retour au contrôle algorithmique, mais habillé du langage de la « technologie de pointe ». C'est le cycle classique de Musk : détruire l'ancien, réaliser qu'il fonctionnait pour une raison, et essayer de réinventer la même chose en l'appelant innovation. La question est seulement de savoir à quel point les critères de cette « manipulation » seront transparents. Si un algorithme biaisé est derrière cela, nous n'obtiendrons pas un fil limité, mais un nouvel outil de manipulation de l'opinion publique.

Finalement, le succès de cette entreprise dépend de la profondeur avec laquelle X intègre le contrôle dans la structure même de la plateforme. Si ce n'est qu'une autre icône à peine visible dans le coin de l'écran, cela ne fera pas grand-chose. Si l'algorithme commence à dé-amplifier ces messages, nous verrons un grand scandale sur un « GOULAG numérique », dont le propriétaire de X lui-même aime discuter. L'ironie de la situation est que dans sa quête de vérité, Musk est obligé de construire la même machine de censure qu'il avait promis de démanteler.

Point principal : X deviendra-t-il un standard de transparence ou se transformera-t-il en une plateforme où la « vérité » est définie par le code fermé d'Elon ? Nous attendons les premières vidéos mal étiquetées pour comprendre l'ampleur du désastre.