OpenAI dévoile des outils pour vérifier l'origine des contenus générés par IA

OpenAI a dévoilé un ensemble d'outils pour tracer et vérifier les contenus générés par IA. Content Credentials, SynthID et un outil de vérification doivent aider particuliers et organisations à s'orienter plus sûrement dans les médias numériques.

Quelles technologies composent l'ensemble

Content Credentials sont des métadonnées spécifiques attachées aux contenus générés par IA, qui permettent d'en retracer l'origine. Elles fonctionnent comme un « certificat d'authenticité » pour les contenus numériques, en indiquant la technologie, l'outil et l'entreprise qui ont créé le fichier.

SynthID est une technologie qui insère dans les images générées par IA des empreintes numériques invisibles à l'œil humain. Elle permet d'établir sans ambiguïté qu'une image ou une vidéo a été créée par une intelligence artificielle. L'empreinte survit à la compression, au recadrage et à d'autres modifications du fichier.

Le troisième composant est un outil de vérification qui permet aux particuliers et aux organisations de contrôler la présence de ces marques et de déterminer l'authenticité d'un contenu.

Pourquoi c'est crucial

À l'heure où l'IA peut produire des photos, des vidéos et des textes convaincants, l'incapacité à distinguer un contenu généré d'un contenu authentique devient une menace. Les fausses vidéos, les images falsifiées et la désinformation nuisent déjà aux individus comme à la société dans son ensemble. C'est particulièrement dangereux avant des élections, lorsqu'un deepfake peut influencer l'opinion publique, ou dans les médias, où les fausses photos sapent la confiance dans les sources.

• Lutte contre la désinformation et les fausses vidéos
• Protection du droit d'auteur des créateurs de contenu
• Rétablissement de la confiance dans les médias en ligne
• Aide aux journalistes pour la vérification des sources
• Soutien au cadre normatif et à la régulation

OpenAI souligne que la transparence doit être intégrée à la technologie dès le départ, et non ajoutée a posteriori.

Ce que cela signifie

C'est une étape importante, mais pas une panacée. Pour que le système fonctionne efficacement, il faut des standards intersectoriels, le soutien d'autres entreprises et plateformes, ainsi qu'une meilleure culture numérique du public. OpenAI assume la responsabilité de ses outils, mais une véritable lutte contre la désinformation exigera des actions coordonnées de tout l'écosystème de l'IA et des médias.