Apple ML Research تبحث في أسباب اختلاف مُصنِّفي بيانات أمان الذكاء الاصطناعي

نشرت Apple ML Research دراسة عن طبيعة الخلافات بين المُصنِّفين من البشر الذين يدرّبون نماذج الذكاء الاصطناعي على التمييز بين المحتوى الآمن والمحتوى الخطر. وطوّر الباحثون طريقة لتحديد مصادر هذه الخلافات تستند إلى قابلية التفسير، وأظهروا أن الأعراض المتماثلة تتطلب حلولاً مختلفة جذرياً.

ما سياسة الأمان ولماذا تهم؟

سياسة الأمان مجموعة من القواعد الرسمية تحدد أي ردود نظام الذكاء الاصطناعي تُعدّ مقبولة وأيها لا. وهي ترسم المرجعية لمطوري النماذج ولمُصنِّفي بيانات التدريب: فوفق هذه القواعد يصنّف آلاف الأشخاص الأمثلة ويكوّنون مجموعات البيانات المستخدمة في التدريب والتقييم.

تكمن المشكلة في أن المُصنِّفين يختلفون في الرأي كثيراً، حتى حين يعملون على وثيقة السياسة نفسها. وهذا في حد ذاته ليس جديداً، لكن Apple ML Research تطرح السؤال بصيغة مختلفة: لماذا ينشأ الخلاف تحديداً، وماذا ينبغي فعله حياله.

لماذا يختلف المُصنِّفون فيما بينهم؟

يحدد مؤلفو الدراسة ثلاثة مصادر مختلفة جوهرياً للاختلاف في تصنيف بيانات الأمان:

• الأخطاء التشغيلية — أساء المُصنِّف فهم المهمة، أو أغفل تفاصيل في التعليمات، أو ارتكب خطأً تقنياً أثناء تنفيذ العمل
• غموض السياسة — يحتمل نص قواعد الأمان نفسه عدة تفسيرات مشروعة بالقدر ذاته؛ فيتبع المُصنِّفون تفسيرات مختلفة دون أن يخالفوا أي قاعدة
• التعددية القيمية — يتمسك المُصنِّفون بصدق بوجهات نظر مختلفة حول ما يُعدّ محتوى ضاراً أو آمناً، انطلاقاً من حدسهم الأخلاقي وتجاربهم الحياتية

ويؤكد الباحثون أن الأسباب الثلاثة تظهر من الخارج بالشكل نفسه: تباين في التقييمات. ومن الصعب جداً التمييز بينها دون أدوات خاصة.

لماذا يحدد نوع الاختلاف الحل؟

يتطلب كل سبب من الأسباب الثلاثة استجابة مختلفة جذرياً من فريق المطورين.

الأخطاء التشغيلية هي الحالة الأسهل في الإدارة. وتُعالَج بتشديد مراقبة الجودة: تدريب إضافي للمُصنِّفين، ومهام تحقق، وجلسات معايرة مع تغذية راجعة. وإذا كانت الأخطاء منهجية، فهذه إشارة إلى ضرورة إعادة النظر في الواجهة أو في صيغة التعليمات.

أما غموض السياسة فيستلزم العمل على الوثيقة نفسها: إعادة صياغة القواعد الفضفاضة، وإضافة أمثلة محددة وحالات حدّية، وتضييق المناطق الرمادية. وهذه مهمة لمتخصصي السياسات، لا لفريق التصنيف التشغيلي.

والتعددية القيمية هي الحالة الأصعب. فقد تختلف الحدوس الأخلاقية بين المُصنِّفين: يرى أحدهم المحتوى محايداً ويراه آخر ضاراً بصورة محتملة، ويتصرف كلاهما بحسن نية ضمن إطار السياسة. ولا يتطلب هذا الوضع تصحيح أخطاء، بل نقاشاً جوهرياً حول القيم: أي وجهات النظر ينبغي أن تُمثَّل في السياسة، وكيف تُوزَن المصالح المتنافسة.

كيف تساعد قابلية التفسير في التمييز بين هذه الحالات؟

هنا تستخدم Apple طرق قابلية التفسير، وهي أدوات تتيح تحليل أنماط اتخاذ القرار. وفي سياق التصنيف يعني ذلك تحليلاً آلياً للخلافات: فحين يختلف مُصنِّفان، يساعد النظام في تحديد سبب التباين: خطأ، أم قاعدة ملتبسة، أم اختلاف في المواقف القيمية.

«للتمييز بين هذه المصادر أهمية. فالأخطاء التشغيلية تتطلب مراقبة

الجودة، والغموض يتطلب توضيح السياسة، والتعددية تتطلب نقاشاً»، بحسب صياغة المؤلفين.

يتيح هذا النهج عدم الاكتفاء برصد وقوع الخلاف، بل تشخيص طبيعته وتوجيه الموارد إلى حيث تلزم فعلاً.

ما الذي يعنيه ذلك

تصوغ دراسة Apple تصنيفاً عملياً يفيد القطاع بأكمله. فجودة تصنيف بيانات الأمان تحدد مباشرة مدى أمان النماذج الجاهزة. والتمييز المنهجي بين مصادر الاختلاف خطوة نحو عمليات تقييم أكثر موثوقية وشفافية لأنظمة الذكاء الاصطناعي.