IQuest-Q1: نموذج MoE مفتوح بـ320 مليار معامل للبرمجة الوكيلية في سطر الأوامر

IQuest-Q1 نموذج مفتوح جديد موجّه إلى الأنظمة الوكيلية في سطر الأوامر. وهو نموذج Mixture-of-Experts متناثر (sparse) بـ320 مليار معامل، يُفعَّل منها 15 مليارًا لكل توكن، أي أقل من 5% من الأوزان. يصف المطوّرون مسارًا من ثلاث مراحل: تدريب مسبق، ثم تدريب وسيط (mid-training)، ثم تدريب لاحق على عدة scaffolds. ويجمعون النموذج النهائي بدمج الخبراء ونقاط الحفظ (checkpoints) من مراحل مختلفة. ويُقدَّم النموذج على أنه قوي في البرمجة وفي المهام العامة على السواء، وقد نُشرت أوزانه للعموم.

التدريب المسبق: كيف يحافظ النموذج على الاستقرار عند 320 مليار معامل

تتناول المرحلة الأولى أمرًا مملًّا لكنه حاسم: أن يتدرب نموذج MoE ضخم أصلًا دون انهيارات. يجمع الفريق بين ثلاث تقنيات. يتولى Stable SplitNorm استقرار التدريب، ويتولى المُحسِّن Muon كفاءة الخطوة، أما muP، أي المعايرة التي تتيح نقل المعاملات الفائقة (hyperparameters) بين الأحجام المختلفة، فتسمح باختيار الإعدادات على نماذج صغيرة بدل التخمين على النموذج الكبير.

يصوغ المطوّرون النتيجة الرئيسية لهذه المجموعة بوصفها هامش استقرار واسعًا بين معدل التعلّم (learning rate) الآمن ومعدله الأمثل. وعادةً يكون هذا الفارق ضيقًا: يكفي أن يتجاوز المعدل القيمة المثلى قليلًا حتى تنحرف الخسارة (loss) إلى مسار تباعدي. وكلما اتسع الهامش قلّت كلفة الخطأ في الضبط، وفي نموذج بهذا الحجم تكلّف كل إعادة تشغيل مبالغ كبيرة.

المنهج التدريبي من مرحلتين. في المرحلة الثانية من التدريب المسبق ترتفع حصة بيانات الشيفرة في الخليط. يحصل النموذج أولًا على قاعدة عامة، ثم يُوجَّه نحو البرمجة، وهي المهارة الأساسية للوكلاء العاملين في الطرفية.

التدريب الوسيط والتدريب اللاحق: التعلّم من أطر عمل مختلفة

بين التدريب المسبق والتدريب اللاحق تقع مرحلة لضبط تركيبة البيانات بدقة. يتوسع الخليط عبر المجالات والصيغ، ويكبر السياق تدريجيًا. وهذا حاسم للوكيل العامل في CLI، لأنه يقرأ السجلات (logs) وفروقات الشيفرة (diffs) ومخرجات الأوامر وتاريخ خطواته السابقة، وكل ذلك يتضخم بسرعة.

يقوم التدريب اللاحق على فكرة تعدد الـscaffolds وتعدد الإصدارات (multi-scaffold وmulti-version). الـscaffold هو الإطار المحيط بالنموذج: مجموعة الأدوات، وصيغة الاستدعاءات، ودورة الأفعال. وتختلف منتجات CLI الوكيلية بعضها عن بعض في هذه النقطة تحديدًا، والنموذج المدرَّب على إطار واحد كثيرًا ما ينتقل بصعوبة إلى إطار آخر. لذلك يُدرَّب IQuest-Q1 على عدة أطر في وقت واحد كي لا ترتبط المهارة بواجهة بعينها.

يجمع التدريب اللاحق بين ثلاث أدوات:

• SFT على أمثلة توضيحية؛
• RL متخصص بكل مجال، حيث يُصقل كل خبير على مهامه الخاصة؛
• MOPD، الذي يوحّد الإشارات القادمة من مصادر تعلّم مختلفة.

الدمج بدل الاعتماد على أفضل نقطة حفظ وحيدة

الخطوة الأخيرة هي دمج النماذج (model merging). يدمج المطوّرون خبراء مختلفين ونقاط حفظ من مراحل مختلفة، ويعملون بشكل منفصل على ألا تتعارض تحديثات المعاملات. وهذه مشكلة معروفة: فقد يُلغي تدريبان إضافيان، كلٌّ منهما مفيد بمفرده، أثر أحدهما الآخر عند المتوسط البسيط للأوزان. وإذا أمكن رفع هذه التعارضات، تنتج عن ذلك نموذج واحد يحتفظ بنقاط قوة المتخصصين، دون الحاجة إلى الاحتفاظ بمجموعة من النسخ الضيقة.

المواصفات الرئيسية

• البنية: sparse MoE، إجمالي المعاملات 320B، والنشطة منها 15B
• التدريب المسبق: Stable SplitNorm وMuon وmuP، ومنهج تدريبي من مرحلتين مع زيادة حصة الشيفرة
• التدريب الوسيط: توسيع المجالات والصيغ، وزيادة تدريجية للسياق
• التدريب اللاحق: SFT وRL خاص بكل مجال وMOPD على عدة scaffolds وإصدارات
• التجميع: دمج الخبراء ونقاط الحفظ مع التحكم في تعارض التحديثات
• الترخيص: نموذج مفتوح للبحث والتطوير

لمن ولماذا يستحق IQuest-Q1 الاهتمام

بالنسبة إلى الفرق التي تبني وكلاءها الخاصين للطرفية، القيمة هنا مزدوجة. أولًا، الحصول على أوزان مفتوحة لنموذج من هذه الفئة، يُفعَّل فيه 15 مليار معامل، يعني أن كلفة الاستدلال (inference) تقارب كلفة نموذج متوسط، لا كلفة نموذج كثيف (dense) بحجم 300 مليار. لكن تخزين الأوزان سيظل يتطلب ذاكرة كبيرة، لذا فالنشر مُعدّ لعناقيد GPU جادة، لا لمحطة عمل واحدة.

ثانيًا، الوصفة نفسها مثيرة للاهتمام. فالتدريب على عدة scaffolds، ودمج الخبراء المتخصصين، وهامش معدل التعلّم (learning rate) الواسع، كلها أمور يمكن دراستها وإعادة استخدامها بمعزل عن النموذج نفسه. والخطوة العملية واضحة: تشغيل IQuest-Q1 على مهامكم الخاصة داخل الإطار الذي تحتاجونه ومقارنته بنموذجكم الحالي. والتقييم على مستودعات حقيقية سيكشف أكثر مما يكشفه أي جدول من جداول benchmarks.