OpenAI a présenté des outils pour vérifier l'authenticité du contenu généré par l'IA

OpenAI a présenté une suite d'outils pour le suivi et la vérification du contenu généré par l'IA. Content Credentials, SynthID et l'outil de vérification sont destinés à aider les personnes et les organisations à naviguer plus sûrement dans le monde des médias numériques.

Quelles sont les technologies de cette suite ?

Content Credentials sont des métadonnées spéciales qui sont associées au contenu généré par l'IA et permettent de retracer son origine. Ils fonctionnent comme un « certificat d'authenticité » pour les matériels numériques, indiquant la technologie, l'outil et l'entreprise qui ont créé le fichier.

SynthID est une technologie d'insertion d'empreintes numériques dans les images générées par l'IA, invisibles à l'œil humain. Cela permet de déterminer de manière certaine que l'image ou la vidéo a été créée par l'intelligence artificielle. L'empreinte est conservée même après compression, recadrage ou autres modifications du fichier.

Le troisième composant est un outil de vérification qui permet aux personnes et aux organisations de vérifier la présence de ces marqueurs et de déterminer l'authenticité du contenu.

Pourquoi c'est critique

À l'époque où l'IA peut créer des photographies, vidéos et textes convaincants, l'incapacité à distinguer le contenu généré du contenu authentique devient une menace. Les fausses vidéos, les images truquées et la désinformation causent déjà du tort aux individus et à la société dans son ensemble. C'est particulièrement dangereux avant les élections, quand un deepfake peut influencer l'opinion publique, ou dans les médias, où les fausses photographies sapent la confiance envers les sources.

• Lutter contre la désinformation et les fausses vidéos
• Protéger les droits d'auteur des créateurs de contenu
• Restaurer la confiance envers les médias sur Internet
• Aider les journalistes à vérifier les sources
• Soutenir le cadre réglementaire et la réglementation

OpenAI souligne que la transparence doit être intégrée dans la technologie dès le départ, et non ajoutée après coup.

Qu'est-ce que cela signifie ?

C'est une étape importante, mais pas une panacée. Pour que le système fonctionne efficacement, il faut des normes inter-sectorielles, le soutien d'autres entreprises et plateformes, ainsi qu'une amélioration de la littératie numérique des personnes. OpenAI assume la responsabilité de ses outils, mais la véritable lutte contre la désinformation nécessitera une action coordonnée de l'ensemble de l'écosystème de l'IA et des médias.