نموذج DRLM بحجم 6M معلمة يحل Sudoku-Extreme بنسبة 93,9% دون انتقال انتشار عكسي

يحل نموذج Draft Refinement Language Model، واختصارًا DRLM، وهو لا يتجاوز 6 ملايين معلمة، نسبة 93,9% من مسائل Sudoku-Extreme و44,4% من مسائل Countdown-5. ووفق المؤلفين، يتفوق النموذج في اختبارات Countdown وSudoku-Extreme وMaze-Hard على النماذج الأساسية الانحدارية الذاتية ونماذج الانتشار المنفصل معًا. والفارق الرئيسي أن DRLM لا يستخدم انتقال الانتشار العكسي إطلاقًا. فهو يعدّل المسودة كاملةً، ولا يقبل التعديل إلا إذا تحسنت النتيجة وفق مقياس داخلي.

المشكلة: الرموز الجيدة لا تضمن إجابة جيدة

تفيد المسودة النموذج في الاستدلال لأنها تتيح له مراجعة كل قرار في ضوء بقية القرارات. ففي السودوكو لا معنى للرقم في خانة واحدة إلا مع أرقام الخانات المجاورة. أما الانتشار المنفصل بإزالة الضوضاء المتكررة فلا يضمن هذا الاتساق. فكل تحديث لرمز بمفرده يبدو معقولًا، لكن مجموع التحديثات لا يلزم أن يعطي إجابة أفضل. ويبني المؤلفون منهجهم حول هذه الفجوة.

كيف يعمل DRLM

يعتمد النظام على مُزيل ضوضاء واحد يؤدي دورين. يُدرَّب هذا المُزيل على استعادة كل رمز من مسودات أُفسدت بصورة منتظمة. ويشمل التدريب الرموز التالفة والسليمة معًا، فيتعلم النموذج في آن واحد الحفاظ على الصحيح وإصلاح الخاطئ. وتحدد تنبؤات المُزيل التعديلات مباشرةً، دون حاجة إلى انتقال الانتشار العكسي.

الدور الثاني أصعب، وهو تقييم المرشح. تتألف ثقة النموذج في رمز موجود من جزأين. الأول هو الدعم القادم من السياق، أي من المُدخل (prompt) وبقية المسودة. والثاني هو الدليل الذي يوفره مجرد ظهور الرمز في المُدخل. ويرفع هذا الجزء الثاني الثقة في ما كُتب أصلًا. ولأن عملية الإفساد معروفة، يطرح المؤلفون هذا الأثر الذاتي، فيحصلون على تقدير لمدى دعم بقية السياق للرمز.

طاقة التجويف ودورة الجولة

تُجمَّع التقديرات الخاصة بكل رمز في «طاقة التجويف» (cavity energy). وتُحسب هذه الطاقة في تمريرة أمامية واحدة، ولا حاجة إلى نموذج تقييم إضافي. وتجري الجولة على النحو التالي:

• يقترح مُزيل الضوضاء تعديلًا متوازيًا على المسودة؛
• يُعاد قراءة المرشح الجاهز في سياقه الجديد؛
• يُحفظ التعديل فقط إذا كانت طاقة المرشح أقل من طاقة المسودة الحالية.

نتيجةً لذلك، تتوافر للعملية آلية للتراجع. فلا يتراكم التعديل السيئ كما قد يحدث في إزالة الضوضاء التكرارية العمياء.

ماذا أظهرت الاختبارات

• المعايير: Countdown وSudoku-Extreme وMaze-Hard.
• النماذج الأساسية: انحدارية ذاتية وانتشار منفصل، ويتفوق DRLM عليها.
• الحجم: 6M معلمة.
• Countdown-5: 44,4%.
• Sudoku-Extreme: 93,9%.

والقيود واضحة أيضًا. فالمجموعات الثلاث كلها مسائل اصطناعية ببنية صارمة قابلة للتحقق، والنموذج صغير جدًا. ولا يتضح من الملخص كيف سيتصرف المنهج مع النص المفتوح أو الشيفرة البرمجية أو سلاسل الاستدلال الطويلة. كما يبقى غير واضح إلى أي حد سيستمر التفوق عند التوسع إلى مليارات المعلمات. ولم يُورد الملخص أرقام النماذج الأساسية، لذا يلزم الرجوع إلى الورقة نفسها لمعرفة حجم الفارق.

ماذا يعني ذلك للممارسين

بالنسبة لمن يبنون أنظمة الاستدلال (reasoning)، تبرز قيمة المخطط نفسه: «اقترح، أعد القراءة، اقبل أو ارفض». فهو يوفر مُتحقِّقًا مدمجًا دون نموذج ثانٍ، ولذلك لا يضيف تكلفة نموذج مكافأة (reward-model) منفصل أو حَكَم خارجي. وإذا كان الاتساق الشامل مهمًا في مسائلكم (التخطيط، القيود، الألغاز، المخرجات المنظمة)، فالمنهج يستحق التحقق منه بإعادة إنتاج النتائج. ويجب أولًا مقارنته بخط الأساس الانحداري الذاتي لديكم عند ميزانية حوسبة متساوية. ويُستحسن متابعة ما إذا كانت ستظهر نتائج على مسائل اللغة الطبيعية والشيفرة. أما الآن، فهو طرح مقنع لفئة المسائل ذات الإجابة القابلة للتحقق، وليس بديلًا جاهزًا لنماذج LLM العامة.