سياسة صغيرة بـ 856K معاملاً تُسرّع نموذج LLaDA-8B الانتشاري

تَعِد نماذج اللغة الانتشارية بما لا تستطيعه النماذج الانحدارية الذاتية التقليدية: توليد عدد كبير من الرموز في تمريرة واحدة. لكن الأمر في الممارسة يتوقف على سؤال: أي الرموز المتنبأ بها يمكن تثبيتها الآن بأمان، وأيها الأفضل إبقاؤه تحت القناع حتى الخطوة التالية. وقد فكّكت دراسة محكمة جديدة هذا السؤال إلى عناصره، ودرّبت في النهاية سياسة بحجم 856 ألف معامل فقط. وعلى LLaDA-8B-Instruct حققت هذه السياسة أفضل حدّ للمفاضلة بين «الدقة وعدد عمليات حساب النموذج (NFE)»، وأعلى إنتاجية على GSM8K.

السياسة بوصفها تقطيراً لفك الترميز

ظهرت من قبل سياسات unmasking قابلة للتدريب، وهي تحسّن فعلاً المفاضلة بين السرعة والجودة. غير أن الأعمال السابقة اختلفت في عدة محاور في آن واحد: كيف تُوسَم بيانات التدريب، وما المدخلات التي تراها السياسة، وما حجمها. ولذلك كانت المقارنة بين هذه المقاربات شبه مستحيلة، ولم يتضح أي القرارات هو الحاسم أصلاً.

اقترح المؤلفون إطاراً موحداً. فالسياسة القابلة للتدريب بإشراف تقطّر هنا إجراءً معيناً لفك الترميز عبر «معلّم»، أي عبر الوسم. ثم درسوا أربعة أمور كلاً على حدة:

• ما الذي يعدّه المعلّم رمزاً يمكن تثبيته؛
• على أي حالات من التوليد تحاكي السياسة المعلّم؛
• ما الذي تراه السياسة في المدخلات؛
• إلى أي حدّ ينبغي خفض NFE لتعويض التكاليف الإضافية للسياسة نفسها.

أين ينهار الوسم الساذج

أوضح طرق الوسم هي التالية: يُعدّ الرمز جاهزاً للتثبيت إذا طابق ما سيظهر في الإجابة النهائية. وأظهرت الدراسة أن هذا المعيار متساهل أكثر من اللازم عند انخفاض NFE. فالسياسة تتعلم قبول رموز تطابقت مع النتيجة بالمصادفة، لكنها في الواقع تسحب التوليد بعيداً عن المسار المرجعي. وحين تكون الحسابات قليلة، ترتفع كلفة هذه الأخطاء.

أما المدخلات فصورتها ليست واضحة أيضاً. فالحالات المخفية للنموذج تعطي بمفردها إشارة ضعيفة لقرار التثبيت. لكنها تعمل جيداً بوصفها إضافة إلى الثقة (confidence) في التنبؤ: فمصدرا المعلومات معاً يقدّمان أكثر مما يقدّمه كل منهما منفرداً.

وحسب المؤلفون على حدة كلفة السياسة نفسها. فأي طبقة إضافية فوق النموذج تضيف حسابات، وقد تُستهلك فائدة تقليل الخطوات في تشغيلها. وبحسب تقديراتهم، يكفي خفض NFE بنحو 10% لتعويض التكاليف الإضافية للسياسات التي تصل إلى 7.5 مليون معامل في جميع الإعدادات التي جرى اختبارها.

المسار بدلاً من مطابقة النتيجة النهائية

من هذه الملاحظات نشأ المخطط النهائي. تُدرَّب السياسة على أهداف trajectory-contraction: لا يُقبل التثبيت إلا إذا بقي على مسار فك الترميز المرجعي. أما مدخلات السياسة فهي ثقة التنبؤات والحالات المخفية.

أبرز النتائج:

• حجم السياسة: 856K معاملاً، أي أقل من 0.02% من 8 مليارات معامل في LLaDA-8B-Instruct؛
• GSM8K: أفضل حدّ للمفاضلة بين الدقة وNFE وأعلى إنتاجية بين المقاربات المقارَنة؛
• MATH-500 وHumanEval: نتائج تنافسية عند مستويات تسريع مستهدفة معتدلة؛
• Dream-7B-Instruct: تنتقل السياسة في معظمها إلى نموذج آخر دون إعادة تصميم كاملة.

تحفّظ وارد في النتائج نفسها: على MATH-500 وHumanEval أُعلنت الأفضلية عند الأهداف المعتدلة فقط، أي أن الصدارة غير مضمونة عند التقليص الحاد للخطوات.

ما الذي يمكن أخذه إلى الممارسة

بالنسبة إلى الفرق التي تشغّل نماذج LLM الانتشارية في بيئة الإنتاج، الخلاصة الرئيسية هندسية. فتسريع فك الترميز لا يتطلب بالضرورة طبقة إضافية ثقيلة: السياسة التي تقل عن مليون معامل تعوّض كلفتها إذا خفّضت NFE بنحو عشرة في المئة على الأقل. وهذا مؤشر مفيد لتقدير الميزانية: إذا كان المكسب في الخطوات أقل من ذلك، فستلتهمه التكاليف الإضافية للسياسة بالكامل.

والتوصية الثانية تخص الوسم. فإذا كنت تقطّر استراتيجية لفك الترميز، فلا ينبغي عدّ «تطابق الرمز مع الإجابة النهائية» معياراً كافياً، خصوصاً في نمط الحسابات القليلة. فالارتباط بالمسار المرجعي يعطي إشارات تدريب أكثر صرامة. أما الحالات المخفية فيجدر إضافتها إلى الثقة، لا استخدامها مدخلاً وحيداً.

وأخيراً، يلمّح الانتقال إلى Dream-7B-Instruct إلى أن هذه السياسات يمكن جعلها عامة نسبياً داخل عائلة النماذج الانتشارية المقنَّعة. وفي صناعة تتنافس فيها نماذج اللغة الانتشارية على مكان إلى جانب النماذج الانحدارية الذاتية في المهام ذات المتطلبات الصارمة لزمن الاستجابة، يشكّل ذلك حجة لصالح طبقات إضافية رخيصة وقابلة للنقل بدلاً من إعادة تدريب النماذج نفسها.