YouTube étend sa détection d'apparence par IA aux célébrités, qui peuvent désormais lutter contre les deepfakes

YouTube a annoncé l'extension de son outil de détection d'apparence par IA aux célébrités : les artistes et leurs représentants pourront désormais repérer automatiquement les deepfakes et obtenir leur retrait de la plateforme.

Les deepfakes, ces vidéos synthétiques dans lesquelles un réseau de neurones plaque le visage ou la voix d'une autre personne sur des enregistrements existants, sont devenus l'un des principaux problèmes des personnalités publiques ces deux dernières années. Les outils de génération deviennent rapidement moins chers et plus simples : aujourd'hui, n'importe qui peut créer gratuitement un deepfake convaincant d'une personnalité connue, en quelques minutes et sans compétences particulières. Avec plus de deux milliards d'utilisateurs actifs mensuels, YouTube est devenu l'une des principales plateformes de diffusion de ce type de contenu.

Jusqu'à présent, la technologie de reconnaissance d'apparence par IA n'était accessible qu'à un cercle restreint de partenaires, principalement des labels et des artistes de l'industrie musicale liés à YouTube par des accords directs. La plateforme ouvre désormais l'outil aux célébrités en général : acteurs, sportifs, présentateurs télé, grands créateurs de contenu et autres personnalités publiques. Leurs managers, agences et représentants juridiques pourront enregistrer les données d'apparence de leur client dans le système de YouTube. L'algorithme analysera ensuite automatiquement les vidéos mises en ligne et signalera celles susceptibles d'utiliser l'apparence de la personne enregistrée sans son consentement.

Le fonctionnement rappelle celui de Content ID, le système que YouTube utilise depuis longtemps pour protéger les droits d'auteur sur la musique et la vidéo. Mais au lieu d'une empreinte audio ou d'une signature vidéo, le nouveau système compare les caractéristiques biométriques du visage. Les contenus détectés ne sont pas supprimés automatiquement : le représentant de la célébrité reçoit une notification et peut lancer une demande de retrait. La décision finale revient à l'équipe de modération de YouTube.

Cette initiative s'inscrit logiquement dans la politique de la plateforme en matière de contenus synthétiques. En 2024, YouTube a obligé les créateurs à signaler les contenus IA réalistes par une étiquette dédiée. La même année, l'entreprise a mis en place un mécanisme de signalement permettant à toute personne d'exiger le retrait d'une vidéo la représentant sous forme synthétique sans son consentement. L'outil de détection par IA franchit une nouvelle étape : le système identifie lui-même les infractions, sans attendre la plainte de la victime.

Le problème des deepfakes a pris une acuité particulière après plusieurs affaires retentissantes. Début 2024, des images intimes synthétiques de Taylor Swift ont massivement circulé en ligne, provoquant une vague d'indignation et relançant le débat sur une régulation législative. La même année, plusieurs grands influenceurs ont découvert que leur visage servait dans des publicités deepfake vantant des escroqueries financières. Les utilisateurs de YouTube mettent en ligne plus de 500 heures de vidéo chaque minute : modérer manuellement un tel volume est matériellement impossible.

Pour YouTube, l'initiative revêt aussi une dimension commerciale : les célébrités et leurs labels sont d'importants partenaires publicitaires et les principaux fournisseurs de contenus monétisables. Les scandales liés aux deepfakes nuisent à la réputation non seulement des victimes, mais aussi de la plateforme elle-même. Développer des outils de protection permet de retenir les grands partenaires de l'industrie du divertissement et de se positionner comme une plateforme responsable, alors que la régulation se durcit.

Le règlement européen sur l'IA (AI Act), qui entre en vigueur par étapes de 2025 à 2027, impose explicitement le marquage des contenus synthétiques. La Californie a déjà adopté des lois qui criminalisent la création et la diffusion de deepfakes dans des contextes politiques et intimes. Les plateformes qui ne font pas preuve d'une action concrète dans ce domaine s'exposent à des sanctions réglementaires.

Reste la question de l'ampleur réelle du dispositif : combien de célébrités auront accès à l'outil, quelle est la précision de la détection et une protection contre les signalements abusifs est-elle prévue ? YouTube n'a pas encore dévoilé de détails techniques.