Meta تقلص الإشراف الخارجي وتنقل مراجعة المحتوى إلى AI أكثر تطورًا

تقلل ميتا بشكل كبير من دور المقاولين الخارجيين في الإشراف على فيسبوك وإنستغرام. تريد الشركة نقل المزيد من عمليات التحقق من المحتوى إلى أنظمة ذكائها الاصطناعي الخاصة بها، تاركة للبشر القرارات الأكثر خطورة وجدلاً.

كيف يتغير إشراف ميتا

أعلنت ميتا أنها ستنشر تدريجياً أنظمة ذكاء اصطناعي أكثر تقدماً في جميع تطبيقاتها على مدى السنوات القادمة. لا يتعلق الأمر ببساطة بتصفية الرسائل غير المرغوب فيها، بل بتطبيق كامل للقواعد على المحتوى: تريد الشركة العثور بدقة أكبر على الانتهاكات الخطيرة للقواعد وحذفها بسرعة أكبر — الاحتيال والمحتوى غير القانوني ومحتوى بيع المخدرات والفئات الخطرة الأخرى. إذا أظهرت الأنظمة الجديدة باستمرار نتائج أفضل من الطرق الحالية، فستقلل ميتا اعتمادها على المقاولين من الجهات الخارجية وتعزز فرقها وأدواتها الداخلية الخاصة بها.

هذا تحول ملحوظ في نموذج التشغيل بأكمله لميتا. في السابق، قضت الشركة سنوات في دمج الكشف التلقائي عن الانتهاكات مع عمل آلاف المشرفين الخارجيين الذين راجعوا يدوياً المنشورات والشكاوى المثيرة للجدل. الآن الرهان هو أن النماذج الحديثة ستتعامل بشكل أفضل مع العمل الجماعي والمتكرر والمتغير بسرعة، حيث يصعب على البشر مواكبة الإيقاع. بالنسبة لميتا، هذه في نفس الوقت مسألة سرعة وحجم وتكلفة الإشراف على المنصات التي تحتوي على مليارات من المحتويات.

ما يمكن للذكاء الاصطناعي أن يفعله بالفعل

تؤكد الشركة أن الاختبارات الأولية للأنظمة الجديدة تبدو قوية بما يكفي لتوسيع دورها. بدلاً من الوعود العامة حول تحسينات الكفاءة، تعرض ميتا مقاييس محددة بشأن الاحتيال والحسابات المزيفة والانتهاكات الجنسية والإعلانات المريبة. تبني الشركة حالتها لنقل جزء من العمل الذي كان يقوم به البائعون الخارجيون في السابق إلى ذكائها الاصطناعي على أساس هذه الأرقام.

• تعثر على حوالي 5000 محاولة احتيال إضافية يومياً وتحجبها، وهي محاولات لم تلاحظها فرق المراجعة الموجودة.
• قللت شكاوى الحسابات التي تنتحل شخصية أكثر المشاهير الذين يتم تقليدهم بأكثر من 80%.
• تحدد ضعف محتوى ينتهك القواعد يتضمن اقتراحات جنسية موجهة للبالغين وتقترف أقل من 60% من الأخطاء.
• تكتشف سيناريوهات معقدة لاختراق الحساب حيث تبدو الإشارات الفردية بريئة وحدها، لكنها معاً تشير إلى هجوم.
• بعد اختبار أوسع نطاقاً، قللت مشاهدات الإعلانات التي تحتوي على عمليات احتيال وانتهاكات خطيرة أخرى بنسبة 7%.

تؤكد ميتا بشكل منفصل على تغطية اللغات. وفقاً للشركة، تعمل الأنظمة الجديدة مع اللغات التي يتحدثها 98% من الأشخاص عبر الإنترنت، بينما كانت التغطية السابقة حوالي 80 لغة. ما هو أهم من الرقم نفسه هو أن النماذج تتعلم التكيف بسرعة أكبر مع السياق المحلي: الكلمات النابية والرموز التعبيرية والكلمات الرمزية وسلوك المجتمعات المتخصصة. تجعل هذه التفاصيل في كثير من الأحيان الإشراف التلقائي نقطة ضعيفة، خاصة عندما يغير الجهات الفاعلة الضارة تكتيكاتها بسرعة.

حيث يبقى البشر

لا تخطط ميتا لإزالة البشر من السلسلة بالكامل. تصرح الشركة بشكل صريح بأن الذكاء الاصطناعي سيتولى المهام الأكثر ملاءمة للتكنولوجيا: الفحوصات المتكررة للمحتوى الرسومي والبحث الجماعي عن أنماط الاحتيال والفئات التي يتكيف فيها المنتهكون باستمرار مع القواعد ويتجاوزون المرشحات. لكن القرارات الأكثر حساسية ستبقى في أيدي البشر — على سبيل المثال، الاستئنافات بعد تعليق الحساب أو الحالات التي قد تؤدي إلى التفاعل مع جهات إنفاذ القانون.

ضمن هذا النظام، يتغير دور الإنسان بدلاً من أن يختفي. سيقوم الخبراء بتصميم الأنظمة واختبارها وتقييمها، والإشراف على التحيز وجودة القرارات، والتعامل مع الحالات المعقدة حيث يكون السياق أهم من السرعة. كما تعد ميتا بأن قواعد المجتمع نفسها لن تتغير بسبب هذا الانتقال. بالتوازي، تطلق الشركة مساعد دعم يعمل بالذكاء الاصطناعي على فيسبوك وإنستغرام حتى يتمكن المستخدمون من فهم بسهولة أكبر سبب حذف المحتوى وكيفية الاستئناف وما يحدث بعد ذلك.

ما يعنيه هذا

تنقل ميتا الذكاء الاصطناعي من دور مرشح مساعد إلى جوهر حوكمة المنصة. إذا نجح الانتقال، ستقلل الشركة اعتمادها على المقاولين وتسرّع الإشراف على نطاق عالمي. لكن تكلفة الخطأ تزداد أيضاً: عندما يتخذ نموذج قراراً مثيراً للجدل بدلاً من الإنسان، فإن أي عدم دقة منهجية يمكن أن تتسع فوراً إلى ملايين المستخدمين. الاختبار التالي لميتا هو إثبات أن مثل هذا النظام ينتج فعلاً أخطاء أقل، وليس فقط تكاليف أقل.