YouTube étend la détection de ressemblance par AI aux célébrités — elles peuvent désormais lutter contre les deepfakes

YouTube a annoncé l'expansion de son outil de reconnaissance faciale alimenté par l'IA pour les célébrités — les artistes et leurs représentants pourront désormais détecter automatiquement les deepfakes et demander leur suppression de la plateforme. Les deepfakes sont des vidéos synthétiques où les réseaux de neurones superposent le visage ou la voix de quelqu'un d'autre sur des enregistrements existants — ils sont devenus l'un des principaux problèmes pour les personnages publics au cours des deux dernières années. Les outils pour générer ce type de contenu deviennent de plus en plus abordables et accessibles : aujourd'hui, créer un deepfake convaincant d'une personne célèbre est possible gratuitement, en quelques minutes seulement, sans connaissances spécialisées.

YouTube, avec plus de deux milliards d'utilisateurs actifs mensuels, est devenue l'une des principales plateformes de distribution de ce type de contenu.

Jusqu'à présent, la technologie de reconnaissance faciale alimentée par l'IA était disponible uniquement pour un cercle limité de partenaires — principalement des labels et des artistes de l'industrie musicale avec lesquels YouTube a des accords directs. Maintenant, la plateforme élargit l'accès à l'outil aux célébrités en général : acteurs, athlètes, présentateurs de télévision, grands influenceurs et autres personnages publics. Leurs managers, agences et représentants juridiques pourront enregistrer les données d'apparence du client dans le système YouTube, après quoi l'algorithme commencera automatiquement à analyser les vidéos téléchargées et à signaler les matériaux qui utilisent potentiellement l'apparence de la personne enregistrée sans son consentement.

Le mécanisme est similaire au système Content ID déjà familier, que YouTube utilise depuis longtemps pour protéger les droits d'auteur sur la musique et la vidéo. Sauf qu'au lieu d'une empreinte digitale audio ou d'une signature vidéo, le nouveau système compare les caractéristiques biométriques faciales. Le matériel détecté n'est pas automatiquement supprimé — à la place, le représentant de la célébrité reçoit une notification et peut initier une demande de suppression.

La décision finale revient à l'équipe de modération de YouTube.

Cette étape semble être une continuation logique de la politique de la plateforme concernant le contenu synthétique. En 2024, YouTube a exigé que les créateurs étiquettent le contenu généré par IA réaliste avec une étiquette spéciale. Cette même année, l'entreprise a introduit un mécanisme de plainte par lequel toute personne peut demander la suppression d'une vidéo la représentant sous forme synthétique sans consentement. L'outil de détection d'IA pousse ce processus au niveau suivant : le système identifie lui-même les violations sans attendre une plainte de la victime.

Le problème des deepfakes est devenu particulièrement aigu suite à plusieurs cas très médiatisés. Au début de 2024, des images intimes synthétiques de Taylor Swift ont été massivement distribuées en ligne — cela a provoqué une vague d'indignation publique et a lancé une discussion sur la réglementation législative. Cette même année, plusieurs influenceurs majeurs ont découvert que leurs visages étaient utilisés dans des publicités deepfake promouvant des schémas financiers frauduleux. YouTube charge plus de 500 heures de vidéo chaque minute — la modération manuelle d'un tel volume est physiquement impossible.

Pour YouTube, l'initiative a également une dimension commerciale : les célébrités et leurs labels sont des partenaires publicitaires majeurs et les principaux fournisseurs de contenu monétisable. Les scandales impliquant des deepfakes endommagent la réputation non seulement des victimes, mais de la plateforme elle-même. Développer des outils de protection est un moyen de conserver les principaux partenaires de l'industrie du divertissement et de se positionner comme une plateforme responsable face à une réglementation de plus en plus stricte.

La Loi sur l'IA européenne, qui entre en vigueur par phases de 2025 à 2027, exige directement l'étiquetage du contenu synthétique. La Californie a déjà adopté des lois criminalisant la création et la distribution de deepfakes dans les contextes politiques et intimes. Les plates-formes qui ne démontrent pas un travail actif dans ce domaine risquent d'être confrontées à des sanctions réglementaires.

Ce qui reste une question ouverte est l'échelle réelle : combien de célébrités auront accès à l'outil, quelle est la précision de la détection et si une protection contre les fausses plaintes est prévue. YouTube n'a pas encore divulgué les détails techniques.