RouteWeaver يعلّم موجّه LLM اختيار النمط ويحقق دقة بلغت 61,4%

اقترح فريق من الباحثين RouteWeaver، وهو إطار موحّد للتوجيه بين النماذج اللغوية. لا يكتفي الإطار باختيار النموذج الذي يجب استدعاؤه، بل يقرر أيضًا كيف تُبنى العملية نفسها: بطلب واحد، أو بسلسلة جولات، أو عبر حلقة وكيلية. على اختبارات قياسية في خمسة اتجاهات، يسجّل النظام متوسط دقة يبلغ 61,4%. وهذا أعلى بنسبة 11,03% نسبيًا من أقوى الطرق المقارَنة، ويتفوق RouteWeaver على جميع خطوط الأساس في كل مجال من المجالات الخمسة. وبحسب إعادة الحساب، يبقى أفضل منافس عند نحو 55,3%.

المشكلة: موجِّه محبوس في مخطط واحد

أصبح توجيه LLM منذ مدة أداة عمل معتادة: تُوزَّع الطلبات بين نماذج متباينة حتى لا يُستخدم نموذج مكلف في مهام بسيطة، ولا تُسند المهام المعقدة إلى نموذج ضعيف. لكن معظم المقاربات القائمة تُبنى حول نموذج تنفيذ ثابت. فأحد الموجِّهات يعمل بنمط single-round: يختار نموذجًا ويتلقى إجابة. وآخر يعمل بنمط multi-round، حيث تُستدعى النماذج بالتتابع ويحسّن بعضها نتائج بعض. وثالث وكيلي، يعتمد على التخطيط والأدوات.

تخلق هذه الصلابة خللًا واضحًا. فالسؤال الوقائعي لا يحتاج إلى حوار متعدد الخطوات بين النماذج، بينما قد لا تُحلّ مسألة رياضية معقدة في استدعاء واحد. وحين تكون طريقة تنظيم الاستدعاءات مدمجة في البنية، لا يستطيع الموجِّه التكيّف مع حاجة الطلب المحدد.

يزيل RouteWeaver هذا القيد. فالأنماط الثلاثة كلها تعمل داخل سياسة LLM واحدة، تتعلم معًا أمرين: أي نمط يجب تطبيقه، وكيف تُختار النماذج داخله.

COMET-GRPO: إشارات منفصلة لمستويين من القرارات

يصطدم التدريب المشترك للمستويين بمشكلة توزيع الفضل. فإذا حصل المسار كله على إشارة ميزة عامة واحدة، يصعب معرفة ما الذي نجح: اختيار النمط الموفَّق أم التنفيذ الجيد داخله. يعالج المؤلفون ذلك بخوارزمية COMET-GRPO (COordinated Mode-Execution Training). فهي تفكّك الميزة على مستوى المسار إلى إشارتين منفصلتين: إحداهما لاختيار النمط، والأخرى للتنفيذ داخل النمط. وبذلك يتلقى كل قرار تغذية راجعة خاصة به وأكثر دقة.

العنصر الثاني هو progressive exploration (الاستكشاف التدريجي). يبدأ التدريب بأنماط تُعيَّن من الخارج، ثم ينتقل تدريجيًا إلى الاختيار المستقل. والمنطق بسيط: يتعلم الموجِّه أولًا كيف ينفّذ كل نمط، ثم يقرر بعد ذلك متى يطبّق أيًّا منها.

وتُظهر تجارب الاستئصال (ablation) أن كل شيء ينهار من دون هذه الخطوة. فإذا أُزيل progressive exploration، تنهار السياسة كليًا إلى نمط single-round: يختار الموجِّه أبسط مسار ويتوقف عن استخدام بقية الأنماط. المكوّنان كلاهما مهم: COMET-GRPO والمخطط التدريجي.

ما المعروف عن التقييم

• الإطار: سياسة LLM واحدة تجمع بين single-round وmulti-round وagentic routing.
• خوارزمية التدريب: COMET-GRPO مع إشارات ميزة منفصلة لاختيار النمط وللتنفيذ.
• مخطط التدريب: progressive exploration، أي الانتقال من أنماط معيّنة مسبقًا إلى اختيار مستقل.
• مجالات التقييم: الرياضيات، والبرمجة، والمعرفة، والاستدلال المنطقي، واستدعاء المعلومات الوقائعية (recall).
• متوسط الدقة: 61,4%.
• الزيادة النسبية على أقوى خط أساس: 11,03%.
• النتيجة حسب المجال: أفضل من جميع الطرق المقارَنة في كل مجال من المجالات الخمسة.

الخلاصة العملية لمن يبني منظومات التوجيه

بالنسبة إلى الفرق التي تبني أنظمة متعددة النماذج، الرسالة الرئيسية هي أن اختيار نمط التنفيذ ينبغي عدّه جزءًا من مهمة التوجيه. فإذا كان لديكم اليوم موجِّه منفصل للنماذج ومنطق منفصل لتحديد متى تُفعَّل السلاسل أو الوكلاء، فإن RouteWeaver يقترح دمجهما تحت سياسة واحدة قابلة للتدريب.

أما التفصيل العملي الثاني فيتعلق بالتدريب نفسه. فالانهيار إلى single-round من دون progressive exploration فخّ معتاد في مقاربات RL: تجد السياسة أرخص مسار وأكثرها استقرارًا وتعلق فيه. وتعليم الموجِّه أن ينفّذ الأنماط أولًا ثم يختار بينها أسلوب يمكن نقله إلى قرارات هرمية أخرى في الأنظمة الوكيلية.

ويبقى أن نعرف كيف سيتصرف هذا الموجِّه في مهام خارج المجالات الخمسة المختبَرة، وكيف تُحتسب كلفة الأنماط متعددة الجولات والوكيلية وزمن استجابتها. لكن الاتجاه واضح: يتحول التوجيه من اختيار نموذج إلى اختيار استراتيجية العمل معه كاملة.