Discord تقرّ بخطأ في الإشراف عبر AI: حظر مئات الحسابات بسبب صور غير ضارة

اعترفت Discord علنًا في 7 يوليو 2026 بخطأ في نظام الإشراف على المحتوى بتقنية الذكاء الاصطناعي: منذ مايو 2026، كانت الخوارزمية تصنف بشكل خاطئ الصور غير الضارة على أنها انتهاكات للقواعد وتحظر تلقائيًا حسابات المستخدمين. في نهاية الأسبوع فقط من 5-6 يوليو، تم حظر 200 حساب إضافي — عندها اكتشفت فريق الشركة حجم المشكلة وأصلحت الخطأ.

ما الذي انقطع بالضبط في نظام الإشراف

أساء نظام الإشراف التلقائي بتقنية الذكاء الاصطناعي في Discord تصنيف الصور العادية على أنها تنتهك قواعد المنصة وحظر الحسابات دون مراجعة يدوية. بالنسبة للمستخدمين المتأثرين، بدا الحظر كعقوبة معيارية: رأوا إشعارًا بالتقييد لكنهم لم يتمكنوا من فهم أن وراءه خطأ تقني وليس انتهاكًا حقيقيًا.

الحقائق الرئيسية:

• كانت المشكلة موجودة على الأقل منذ مايو 2026
• تم حظر 200 حساب إضافي خلال نهاية الأسبوع من 5-6 يوليو 2026
• سبب الحظر كان الصور غير الضارة التي لم تنتهك قواعد المنصة
• أكدت Discord علنًا الحادثة وأبلغت عن إصلاح الخطأ

لم توضح الشركة كم عدد الحسابات الإجمالي التي تأثرت من مايو إلى يوليو.

لماذا يتسارع حجم الضرر بسرعة

مع الإشراف الآلي، حتى خطأ صغير في المصنف يصبح بسرعة مشكلة منهجية. تعالج Discord مئات الملايين من الرسائل والملفات يوميًا — المراجعة اليدوية لكل واحد مستحيلة فيزيائيًا، لذا يتم اتخاذ معظم قرارات الحظر بشكل خوارزمي. إذا بدأ المصنف يخطئ حتى في جزء لا متناهٍ من الحالات، على نطاق منصة كبيرة، فهذا يعني آلاف الإجراءات غير الصحيحة يوميًا.

هذا هو السبب في أن المنصات الكبيرة — Meta و YouTube و TikTok — تبني أنظمة متعددة المستويات: يزيل الفلترة الآلية الانتهاكات الواضحة، والحالات الحدية تذهب إلى المراجعة اليدوية، ويحصل المستخدمون على القدرة على الاعتراض على القرار. يؤدي الفشل في أي من هذه المستويات إلى حظر الحسابات البريئة دون شرح شفاف.

ما يعنيه الحظر الخاطئ للمستخدم المتأثر

بالنسبة لمستخدم عادي في Discord، ليست تعليق الحساب مجرد إزعاج. يقضي العديد من أعضاء المجتمع سنوات في بناء شبكات اتصالات، والالتحاق بخوادم العمل والمواضيع، وتخزين المراسلات المهمة هناك. يعني التعليق المفاجئ قطعًا فوريًا لهذه الروابط وفقدان الوصول إلى البيانات.

في عدد من الدول، توجد بالفعل متطلبات تنظيمية للشفافية في صنع القرار الخوارزمي: يلزم قانون الخدمات الرقمية الأوروبي (DSA) المنصات الكبيرة بشرح أسباب الحظر وتوفير آلية للاستئناف. تعطي حوادث من هذا النوع المنظمين حجج إضافية للسيطرة الأكثر صرامة على أنظمة الإشراف الآلية.

ما يعنيه هذا

تصبح أخطاء الإشراف بتقنية الذكاء الاصطناعي مخاطرة سمعة وتنظيمية للمنصات: يفقد المستخدمون المحظورون بالخطأ الثقة في الأنظمة الآلية، وتعزز مثل هذه الحوادث موقف أولئك الذين يدفعون من أجل إشراف أصرم على القرارات الخوارزمية.

*Meta معترف بها كمنظمة متطرفة وممنوعة في الاتحاد الروسي.