الصورة المزيفة بالذكاء الاصطناعي (Deepfake)
الصورة المزيفة بالذكاء الاصطناعي هي وسائط مُنتجة أو معدلة بالذكاء الاصطناعي - فيديو أو صوت أو صور - يتم فيها تزييف أو استبدال صورة الشخص أو صوته لإنشاء تصويرات واقعية لكن خاطئة عادة باستخدام نماذج التعلم العميق التوليدية.
يشير مصطلح الصورة المزيفة إلى الوسائط الاصطناعية التي تنتجها نماذج التعلم العميق والتي تحل محل أو تزيف بشكل مقنع وجه الشخص أو صوته أو كليهما في الفيديو أو الصوت أو الصور الثابتة. المصطلح هو مزيج من كلمتي التعلم العميق والمزيف صُكَّ على منتديات الإنترنت حوالي عام 2017 عندما أصبحت برامج مبادلة الوجوه متاحة لغير المتخصصين. تشمل الصور المزيفة الحديثة مقاطع فيديو مبادلة الوجوه واستنساخ الصوت المُحَقِّق من ثوانٍ من الصوت المرجعي ومعالجة مزامنة الشفاه التي تدرج كلمات مزيفة في لقطات موجودة وفيديوهات رؤوس تحدث مُنتجة بالكامل بدون أي تسجيل أصلي للفرد المُصوَّر.
اعتمدت الصور المزيفة المبكرة على الشبكات العدائية التوليدية (GANs) حيث يُنتج مُولِّد نتائج واقعية بينما يحاول المميز تحديد الأوجه المزيفة مع تحسن كلا الشبكتين من خلال التدريب العدائي. بحلول منتصف العشرينيات من القرن الحادي والعشرين أنتجت نماذج الانتشار وتقنيات العرض العصبي مثل حقول التشعيع العصبي (NeRF) والتجميع الغاوسي نتائج بجودة أعلى مع عيوب بصرية أقل. وفي الوقت نفسه حققت خدمات استنساخ الصوت طبيعية قريبة من الطبيعة البشرية من أقل من 30 ثانية من الصوت المرجعي مما أدى إلى خفض حاجز الدخول للصور المزيفة الصوتية المستخدمة في هجمات الهندسة الاجتماعية.
تمتد المخاطر الكبيرة على عدة مجالات. استخدمت حملات الدعاية المضللة السياسية مقاطع فيديو مزيفة من مسؤولين عموميين لنشر بيانات خاطئة قبل الانتخابات في عدة دول. احتيال استنساخ الصوت - يُطلق عليه أحياناً vishing - كلّف المؤسسات عشرات الملايين من الدولارات في حوادث حيث تم استنساخ صوت المديرين لتفويض التحويلات السلكية. الصور الحميمية غير الموافق عليها باستخدام المتشابهات المزيفة تسبب ضرراً نفسياً موثقاً وتشكل فئة متزايدة من الإساءة عبر الإنترنت. التكنولوجيا الكامنة نفسها لها أيضاً استخدامات مشروعة في المعالجة اللاحقة للأفلام وأدوات الوصول للأشخاص الذين فقدوا القدرة على الكلام والترفيه التفاعلي.
اعتباراً من 2026 تتخلف أدوات الكشف بشكل ثابت - المصنفات المدربة على عدم التطابق في الوجه وأنماط الرمش غير الطبيعية والعيوب الطيفية - عن قدرات التوليد مما يخلق ديناميكية عدائية مستمرة. تتضمن الاستجابات التنظيمية متطلبات الإفصاح الإلزامية بموجب قانون الذكاء الاصطناعي في الاتحاد الأوروبي للوسائط المُنتجة بالذكاء الاصطناعي والتشريعات على مستوى الولاية الأمريكية التي تستهدف الصور المزيفة السياسية والحميمية غير الموافق عليها وسياسات المنصات الرئيسية التي تتطلب وضع علامات على المحتوى الاصطناعي. يعزز ائتلاف أصل المحتوى والمصادقة (C2PA) معايير الأصل التشفيرية التي تضمن البيانات الوصفية الأصلية المقاومة للتلاعب في الوسائط عند نقطة الالتقاط.