OpenAI تعرض أدوات للتحقق من مصدر المحتوى المنتج بواسطة الذكاء الاصطناعي

أعلنت OpenAI عن مجموعة من الأدوات لتتبع والتحقق من المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. تهدف Content Credentials و SynthID وأداة التحقق إلى مساعدة الأفراد والمؤسسات على التنقل بشكل آمن في عالم الوسائط الرقمية.

ما هي التقنيات المضمنة في المجموعة؟

Content Credentials هي بيانات وصفية خاصة تُرفق بالمحتوى الذي ينتجه الذكاء الاصطناعي وتسمح بتتبع أصله. تعمل مثل «شهادة الأصالة» للمواد الرقمية، وتشير إلى التقنية والأداة والشركة التي أنشأت الملف.

SynthID هي تقنية إضافة بصمات رقمية في الصور التي أنتجها الذكاء الاصطناعي، وغير مرئية للعين البشرية. يسمح هذا بتحديد ما إذا كانت الصورة أو مقطع الفيديو قد تم إنشاؤه بواسطة الذكاء الاصطناعي بشكل حاسم. تبقى البصمة محفوظة حتى مع الضغط أو القص أو التعديلات الأخرى على الملف.

المكون الثالث هو أداة التحقق، التي تمنح الأفراد والمؤسسات القدرة على التحقق من وجود هذه العلامات وتحديد أصالة المحتوى.

لماذا هذا حاسم جداً؟

في عصر يمكن فيه للذكاء الاصطناعي إنشاء صور وفيديوهات ونصوص مقنعة، يصبح عدم القدرة على التمييز بين المحتوى المُنتج والمحتوى الحقيقي تهديداً حقيقياً. الفيديوهات المزيفة والصور المزيفة والمعلومات المضللة تلحق الضرر بالأفراد والمجتمع على حد سواء. هذا خطر بشكل خاص قبل الانتخابات، حيث يمكن لـ deepfake التأثير على الرأي العام، أو في وسائل الإعلام، حيث تقوض الصور المزيفة الثقة في المصادر.

• مكافحة المعلومات المضللة والفيديوهات المزيفة
• حماية حقوق الملكية الفكرية للمبدعين
• استعادة الثقة في وسائط الإنترنت
• مساعدة الصحفيين في التحقق من المصادر
• دعم الأطر التنظيمية والتشريعات

تؤكد OpenAI أن الشفافية يجب أن تكون مدمجة في التكنولوجيا من البداية، وليس إضافتها لاحقاً.

ماذا يعني هذا؟

هذه خطوة مهمة، لكنها ليست حلاً شاملاً. لكي تعمل النظام بفعالية، هناك حاجة إلى معايير موحدة على مستوى الصناعة، ودعم من شركات ومنصات أخرى، وكذلك تحسين الثقافة الرقمية لدى الناس. تتحمل OpenAI المسؤولية عن أدواتها، لكن محاربة المعلومات المضللة الحقيقية ستتطلب إجراءات منسقة من جميع أنحاء نظام الذكاء الاصطناعي والإعلام.