Почему ИИ-модерация Meta не защищает пользователей: скандал с Muse Image

نشرت مجلة Rest of World في يوليو 2026 تحليلاً: تعمد Meta وشركات تقنية كبرى أخرى بشكل متزايد إلى نقل مهمة مراجعة المحتوى إلى الشبكات العصبية، لكن ردة فعل المستخدمين على خدمة Muse Image كشفت عيباً جوهرياً — الذكاء الاصطناعي لا يأخذ في الحسبان موافقة الشخص، وبالتالي لا يحمي المستخدمين.

ما الذي كشفته فضيحة Muse Image

فضيحة Muse Image كشفت عن نقطة عمياء في المراجعة الآلية: الخوارزمية تتحقق من مطابقة المحتوى لقواعد رسمية، لكنها لا تسأل عما إذا كان الشخص قد وافق على استخدام صورته. وبحسب رواية Rest of World في تقريرها الصادر عام 2026، فإن الموافقة بالذات هي ما تعجز مرشحات الذكاء الاصطناعي بنيوياً عن تقييمه.

النموذج يرى وحدات البكسل والفئات — "العري"، "العنف"، "الرسائل غير المرغوبة" — لكنه لا يرى العلاقات بين الأشخاص ولا السياق الذي ظهرت فيه الصورة. الصورة نفسها قد تكون بريئة أو مدمرة بحسب ما إذا كان الشخص الظاهر فيها قد سمح بإنشائها ونشرها. المصنّف لا يلتقط هذا الفارق.

لماذا لا يفهم الذكاء الاصطناعي مفهوم الموافقة

لا تتعرف مراجعة الذكاء الاصطناعي على الموافقة لأنها مدرَّبة على سمات المحتوى، لا على إرادة الأشخاص خارج الكادر. يستطيع النظام أن يميز بدقة عالية بين جسد مرتدٍ للملابس وآخر عارٍ، لكن سؤال "هل منح الشخص الظاهر إذنه" يقع خارج البيانات التي دُرِّب عليها. الموافقة حقيقة من العالم الواقعي، وليست خاصية للملف نفسه: لا يمكن حسابها بمجرد تدقيق النظر في الصورة.

من هنا ينشأ مفترق طرق نموذجي: المحتوى لا ينتهك رسمياً أياً من قواعد المنصة، لكنه يُلحق ضرراً رغم ذلك. أوضح فئة هي الصور المولَّدة والمزيَّفة لأشخاص حقيقيين: تقنياً هي "مجرد صورة"، لكنها في الجوهر استخدام لوجه شخص آخر وجسده دون إذن. المرشح يسمح بمرور هذه المواد، ويبقى المتضرر بلا حماية.

• في يناير 2025 استبدلت Meta مدققي الحقائق الخارجيين في الولايات المتحدة بملاحظات المجتمع Community Notes، وعزّزت الأتمتة
• Muse Image هي خدمة الذكاء الاصطناعي التي كانت سبب تحليل Rest of World عام 2026
• موافقة المستخدم بُعد لا تستطيع مرشحات الذكاء الاصطناعي، بحسب Rest of World، تقييمه بنيوياً

إلى أين تتجه المراجعة الآلية لدى شركات التقنية الكبرى

تراهن المنصات الكبرى على مراجعة الذكاء الاصطناعي من أجل النطاق والسرعة: فلا يوجد عدد كافٍ من المراجعين البشريين لمليارات الملفات المرفوعة. وقد أعلنت Meta منذ يناير 2025 أنها تستبدل برنامج مدققي الحقائق الخارجيين في الولايات المتحدة بـ Community Notes، وتعتمد أكثر على الأنظمة الآلية — بشر أقل ضمن الحلقة، وخوارزمية أكثر.

المشكلة أن تنامي الأتمتة لا يسد فجوة الموافقة، بل يجعلها أكثر وضوحاً. فكلما قلّ عدد المراجعين البشريين، قلّت وتيرة ملاحظة أحدهم لضرر غير مذكور في القواعد — وهناك بالضبط تقع قصص مثل Muse Image.

عادة ما تتأخر استجابة المنصات: تظهر القاعدة المضادة لضرر محدد بعد فضيحة عامة، حين يعلن المتضررون عن أنفسهم بأنفسهم. وMuse Image حالة أخرى من هذا النمط: أولاً موجة غضب، ثم وعود بـ"ضبط" المرشحات. لكن ضبط المصنّف لا يمنحه فهماً للموافقة — بل يوسّع فقط قائمة الأنماط المحظورة.

مراجعة الذكاء الاصطناعي غير قادرة على حماية المستخدمين لأنها لا تأخذ الموافقة في الحسبان. — أطروحة تقرير

Rest of World

ماذا يعني هذا

هذا حد تقني، لا خطأ في الإعدادات. وما دامت المراجعة تعتمد على تصنيف المحتوى، فستظل تسمح بمرور أضرار مرتبطة بالموافقة والسياق. تطرح Rest of World سؤالاً تفضل شركات التقنية الكبرى تجنبه: جزء من مشكلات المراجعة لا يمكن حله بنموذج أذكى — بل فقط بترتيب مختلف للقواعد ومشاركة بشرية. وبالنسبة للمستخدمين، يعني هذا قاعدة بسيطة: المرشح الآلي لا يساوي الحماية، وحين يتعلق الأمر بصورة الشخص نفسه، فسيتعين الاعتماد على الشكاوى والمحامين والضغط العام، لا على خوارزمية.

• صُنِّفت Meta منظمة متطرفة وهي محظورة في روسيا.