DeCert يعلّم قضاة الذكاء الاصطناعي تعليل أحكامهم: 76.2 على RM-Bench لنموذج بحجم 8B

نموذج المكافأة التوليدي (generative reward model) هو LLM يقارن بين إجابتين، ويشرح بالكلمات أيهما أفضل، ثم يصدر حكمه. وتشكّل هذه النماذج القضائية أساس مسارات RLHF وأنظمة التقييم الآلي. لكن لها نقطة ضعف: الحكم الصحيح لا يعني أن الاستدلال صحيح. فقد يكون النموذج خمّن الجواب، أو استند إلى تفصيل غير جوهري، أو كتب تعليلًا لا يقود أصلًا إلى استنتاجه. ويقترح فريق Guiquan Sun وBing Bai وMartin Renqiang Min وDongjin Song إطار DeCert، الذي يدرّب القضاة على كتابة تعليلات مقنعة، ويفعل ذلك دون شروحات مرجعية. ويحقق نموذج DeCert-Qwen3-8B (بحجم 8B) نتيجة 76.2 على RM-Bench و52.0 على JudgeBench.

لماذا يُعدّ الحكم الصحيح إشارة ضعيفة للتدريب؟

مخطط تدريب القاضي المعتاد بسيط: نأخذ عدة أحكام عيّنات، ونكافئ تلك التي طابق حكمها التصنيف المرجعي. غير أن حكمين يتفقان في الحكم الصحيح قد يتفاوتان كثيرًا في الجودة. أحدهما يحلل وقائع الإجابة ومنطقها، والآخر يكتفي بعبارات عامة. وفي المخطط الكلاسيكي يتساوى الاثنان، فلا يتلقى النموذج أي إشارة إلى ما يجعل أحدهما أفضل من الآخر.

تعالج بعض المقاربات الحالية ذلك بالاعتماد على شروحات مرجعية، إذ يُقارن تعليل القاضي بتعليل نموذجي. ويشير المؤلفون إلى مشكلتين. الأولى أن الحصول على هذه المراجع مكلف. والثانية أن التطابق مع المرجع لا يثبت أن التعليل المولَّد يدعم فعلًا الحكم الصادر.

كيف يقيّم DeCert «شهادة القرار»؟

يفحص DeCert التعليل نفسه: مدى صلاحيته ومدى اتساقه مع الحكم. وتتحول هذه التقييمات إلى إشارة تدريب قائمة على التفضيلات، تراعي صحة الحكم وجودة الحجة معًا. ويُقيَّم التعليل على ثلاثة محاور:

• soundness — سلامة الحجج المطروحة وصحة أسسها؛
• coverage — الشمول: هل روعيت الجوانب الجوهرية في الإجابتين المقارَنتين؛
• decision support — هل يقود التعليل فعلًا إلى الحكم الصادر.

تتعلق الخطوة الأساسية بالحالة التي تعطي فيها عدة عيّنات الحكم الصحيح نفسه. كان لا بد سابقًا من اعتبارها متساوية. أما الآن فيتيح الفارق في جودة «الشهادة» بناء أزواج تفضيل على مستوى التعليلات: تعليل قوي في مقابل ضعيف. وهكذا يتعلم النموذج التمييز بين الشرح الرصين والشرح الصحيح شكليًا لكنه فارغ.

الأرقام والثبات أمام ترتيب الإجابات

اختُبرت الطريقة على عائلتين من نماذج 8B وعلى عدة اختبارات معيارية، داخل التوزيع (in-distribution) وخارجه (out-of-distribution). ووفق بيانات المؤلفين، يتفوق DeCert باستمرار على قضاة توليديين أساسيين أقوياء، ويحسّن في الوقت نفسه جودة التعليلات. وأبرز النتائج:

• DeCert-Qwen3-8B: 76.2 على RM-Bench؛
• DeCert-Qwen3-8B: 52.0 على JudgeBench؛
• زيادة في position-consistent accuracy تصل إلى +14.8 نقطة؛
• تحسّن في ثلاثة مؤشرات: دقة الأحكام، وجودة التعليلات، والثبات الموضعي.

يستحق المقياس الأخير اهتمامًا خاصًا. فالتحيز الموضعي علّة معروفة لدى قضاة LLM: يتوقف الحكم على ترتيب عرض الإجابة، لا على جودتها. ولا تحتسب position-consistent accuracy النجاح إلا إذا اختار النموذج الإجابة الصحيحة في ترتيبَي العرض كليهما. وتشير زيادة تصل إلى 14.8 نقطة إلى أن اشتراط جودة التعليل يقلّص هذه الآثار الجانبية أيضًا. فالقاضي المضطر إلى شرح سبب تفوق إجابة على أخرى يقلّ اعتماده على إشارة عشوائية مثل الموضع.

ما الذي يمكن الاستفادة منه عمليًا

الكود منشور على GitHub في المستودع UConn-DSIS/DeCert، والورقة البحثية متاحة على arXiv تحت الرقم 2610.27528. وتنطبق الفكرة مباشرة على الفرق التي تبني أنظمة LLM-as-a-judge أو تدرّب نماذج المكافأة لـ RLHF وRLAIF. وإذا كانت الحاجة إلى قاضٍ لا يكتفي بإصدار الدرجات بل يقدّم شروحات مقروءة (لتدقيق مجموعات البيانات، أو تصحيح أخطاء الوكلاء، أو التوسيم)، فالأجدر أن يُضاف إلى التدريب هدف مستقل لجودة التعليل (rationale)، بدل الاكتفاء بمطابقة الحكم. وعند أخذ عدة أحكام عيّنات للمثال الواحد، من المفيد فحص الأحكام المتفقة أيضًا: ففيها تكمن الإشارة إلى جودة الاستدلال. ومن المفيد كذلك قياس position-consistent accuracy بالتوازي مع الدقة العادية، فهي تُظهر مدى إمكان الوثوق بالقاضي.

والقيود واضحة كذلك: النماذج لدى المؤلفين صغيرة، بحجم 8B، وتبقى مسألة تعميم النهج على نماذج أكبر بحاجة إلى اختبار. لكن إمكان تحسين القضاة دون شروحات مرجعية مكلفة تجعل الطريقة جديرة بالاهتمام لكل من يريد تقييمات موثوقة وقابلة للتفسير لإجابات LLM.