لماذا لا تحمي إدارة المحتوى بالذكاء الاصطناعي لدى Meta المستخدمين: فضيحة Muse Image

نشرت Rest of World في يوليو 2026 تحليلًا يقول إن Meta وشركات تقنية كبرى أخرى تسلّم إدارة المحتوى بشكل متزايد إلى الشبكات العصبية، لكن ردود فعل المستخدمين على خدمة Muse Image كشفت عيبًا جوهريًا: الذكاء الاصطناعي لا يأخذ موافقة الإنسان في الحسبان، ولذلك لا يحمي المستخدمين.

ماذا كشفت فضيحة Muse Image

كشفت فضيحة Muse Image عن نقطة عمياء في الإدارة الآلية للمحتوى: فالخوارزمية تتحقق من مطابقة المحتوى للقواعد الشكلية، لكنها لا تسأل عما إذا كان الشخص قد وافق على استخدام صورته. ووفقًا لما أوردته Rest of World في مادتها الصادرة عام 2026، فإن الموافقة تحديدًا هي ما لا تستطيع مرشحات الذكاء الاصطناعي تقييمه بحكم بنيتها.

يرى النموذج وحدات البكسل والفئات، مثل «العري» و«العنف» و«البريد المزعج»، لكنه لا يرى العلاقات بين الأشخاص ولا السياق الذي ظهرت فيه الصورة. فقد تكون الصورة نفسها بريئة أو مدمّرة بحسب ما إذا كان الشخص الظاهر فيها قد سمح بإنشائها ونشرها. أما المصنِّف فلا يلتقط هذا الفارق.

لماذا لا يفهم الذكاء الاصطناعي الموافقة

لا تتعرف إدارة المحتوى بالذكاء الاصطناعي على الموافقة لأنها تدرّبت على سمات المحتوى، لا على إرادة الأشخاص الذين يقفون خلف الصورة. يستطيع النظام بدقة عالية أن يميّز الجسد المكسو من العاري، لكن سؤال «هل أعطى الشخص الظاهر في الصورة إذنًا؟» يقع خارج البيانات التي دُرّب عليها. فالموافقة واقعة من العالم الحقيقي، وليست خاصية في الملف نفسه، ولا يمكن استنتاجها بمجرد التدقيق أكثر في الصورة.

ومن هنا ينشأ مفترق طرق مألوف: محتوى لا ينتهك رسميًا أي قاعدة من قواعد المنصة، لكنه يلحق الضرر مع ذلك. وأوضح فئات هذا الضرر الصور المولَّدة أو المزيَّفة لأشخاص حقيقيين: فهي من الناحية التقنية «مجرد صورة»، لكنها في جوهرها استخدام لوجه شخص آخر وجسده دون إذنه. يمرّر المرشح مثل هذه المواد، ويُترك المتضرر بلا حماية.

• في يناير 2025 استبدلت Meta في الولايات المتحدة جهات التحقق الخارجية من الأخبار بملاحظات المستخدمين Community Notes، وعزّزت الأتمتة
• Muse Image هي خدمة ذكاء اصطناعي كانت مناسبة لتحليل Rest of World في عام 2026
• موافقة المستخدم بُعد لا تقيّمه مرشحات الذكاء الاصطناعي بحكم بنيتها، بحسب Rest of World

إلى أين تتجه الإدارة الآلية للمحتوى لدى شركات التكنولوجيا الكبرى

تراهن المنصات الكبرى على إدارة المحتوى بالذكاء الاصطناعي من أجل الحجم والسرعة، إذ لا يكفي عدد المشرفين البشر لمعالجة مليارات عمليات الرفع. وكانت Meta قد أعلنت في يناير 2025 أنها تستبدل برنامج جهات التحقق الخارجية في الولايات المتحدة بـ Community Notes وتعتمد بشكل أكبر على الأنظمة الآلية، أي أن حضور الإنسان في الحلقة يقل وحضور الخوارزمية يزيد.

وتكمن المشكلة في أن زيادة الأتمتة لا تسدّ الفجوة المتعلقة بالموافقة، بل تجعلها أكثر وضوحًا. فكلما قلّ عدد المشرفين البشر، قلّ من يلاحظ الضرر غير المنصوص عليه في القواعد، وهنا تحديدًا تقع قصص مثل Muse Image.

وعادةً ما تتأخر ردود المنصات: فالقاعدة التي تمنع ضررًا بعينه لا تظهر إلا بعد فضيحة علنية، حين يعلن المتضررون أنفسهم عن قضيتهم. وتمثل Muse Image حالة أخرى من هذا النمط: موجة سخط أولًا، ثم وعود بـ«ضبط» المرشحات. لكن ضبط المصنِّف لا يمنحه فهمًا للموافقة، بل يوسّع فقط قائمة الأنماط المحظورة.

الإدارة بالذكاء الاصطناعي عاجزة عن حماية المستخدمين لأنها لا تأخذ الموافقة في الحسبان. — خلاصة مادة

Rest of World

ماذا يعني ذلك

هذا حدّ تقني، وليس خطأً في الإعدادات. وما دامت الإدارة تستند إلى تصنيف المحتوى، فستظل تمرّر الضرر المرتبط بالموافقة والسياق. وتطرح Rest of World سؤالًا تفضّل شركات التكنولوجيا الكبرى تجنبه: بعض مشكلات إدارة المحتوى لا يمكن حلها بنموذج أذكى، بل ببنية مختلفة للقواعد وبمشاركة البشر. وبالنسبة للمستخدمين، فالقاعدة بسيطة: المرشح الآلي لا يعني الحماية، وحين يتعلق الأمر بصورة المرء الشخصية، فعليه أن يعتمد على الشكاوى والمحامين والضغط العام، لا على الخوارزمية.

*تم تصنيف Meta منظمة متطرفة وهي محظورة في روسيا.