TraceSpec يرفع إنتاجية DSpark لوكلاء LLM بنسبة 12,5–22,6%

قدّم فريق من Renmin University of China وHuawei أسلوب TraceSpec، وهو حزمة تجمع بين مجموعة تقييم وطريقة لتدريب نموذج المسودة في فك الترميز التخميني للوكلاء. تقوم الفكرة على أن الوكيل يوجّه عشرات الطلبات إلى النموذج ضمن تاريخ يتضخم باستمرار من استدلالات وإجراءات وردود أدوات، بينما يخلط مقياس قبول الرموز المتوسط المعتاد بين قرارات مختلفة تمامًا. يحلّل TraceSpec هذه القرارات كلًّا على حدة، ثم يدرّب نموذج المسودة في المواضع التي يخالف فيها النموذجَ الهدف في أغلب الأحيان. وعلى نماذج Qwen3 بأحجام 4B و8B و14B، وعند درجتي حرارة، ارتفعت الإنتاجية في وضع إعادة التشغيل بنسبة 12,5–22,6% مقارنة بخط الأساس DSpark.

لماذا يضلّل المقياس المتوسط

بدأ المؤلفون بقياس سلوك فك الترميز التخميني في عمل الوكيل الفعلي. واستخدموا سيناريوهين: BrowseComp-Plus (البحث عن إجابات في مستندات الويب) وSWE-bench Verified (إصلاح أخطاء حقيقية في المستودعات البرمجية). في حالة DSpark مع Qwen3-8B، ارتفع متوسط الطول المقبول في التصفح من 3,633 رمز في الجولة عند سياق حتى 2k إلى 5,479 عند سياق 16k–32k. وفي الفترة نفسها انخفضت الإنتاجية من 82,73 إلى 22,54 رمز في الثانية. أما في هندسة البرمجيات فتراجعت من 73,83 إلى 28,19 رمز في الثانية.

يبدو هذا في ظاهره دليلًا على أن «السياق الطويل يساعد نموذج المسودة». لكن عندما قارن الباحثون إجراءات التصفح المتأخرة المتماثلة داخل المهام نفسها، تراجع القبول بدلًا من أن يزداد. ويعود ارتفاع المقياس المتوسط إلى تركيبة الاستدعاءات: فالتواريخ الطويلة تضم عددًا أكبر من طلبات الأدوات القصيرة التي يسهل التنبؤ بها. أما في سيناريو SWE فالمنحنى غير رتيب أصلًا: يبلغ الطول المقبول ذروته عند 8k–16k ثم ينخفض عند 16k–32k لدى الطرق الثلاث التي جرى اختبارها: DFlash وEAGLE-3 وDSpark.

كيف صُمّمت المجموعة والتدريب

لإجراء مقارنة عادلة أُنشئت TraceSpec-Traj: 10 000 حالة للتدريب و2 500 حالة للاختبار، موزعة بالتساوي بين البحث على الويب وهندسة البرمجيات. والحالة هنا هي التاريخ السابق لخطوة المساعد التالية، مقرونًا بالمرحلة (التخطيط، الإجراء، التأمل، الإجابة النهائية) وطول البادئة وموضع الخطوة في المسار. وتغطي المجموعة جميع التركيبات الأربعين الناتجة عن مجالين وخمسة نطاقات للسياق وأربع مراحل. جُمعت المسارات من DeepResearch-traj وبيانات Nebius SWE-agent ومجموعات R2E-Gym، ولا تتقاطع المهام في جزأي التدريب والاختبار. وفي إعادة التشغيل تحصل الطرق الأساسية الخمس جميعها على البادئات المحفوظة نفسها.

يحتفظ TraceSpec نفسه ببنية DSpark ودالة التقطير فيه. والذي يتغير هو البيانات ونسبتها في التدريب. فبدلًا من الإجابات النهائية، يُدرَّب نموذج المسودة على جميع الخطوات الوسيطة في المسارات التي ولّدها النموذج الهدف. ويُقدَّر لكل حالة فجوة القبول مع تصحيح يراعي البادئة: فالاختلاف المبكر يقطع سلسلة الرموز المقبولة المتتالية، ولذلك يكون وزنه أعلى. ثم يُنعَّم هذا التقدير حسب السياق والمرحلة ونوع المهمة وحالة الأداة. وميزانية التنبؤات ثابتة، وطلبات الأدوات القصيرة والاستدلالات الطويلة تولّد أعدادًا مختلفة من التنبؤات، ولذلك تُطبَّع العيّنة بعدد الأحداث.

ماذا أظهرت التجارب وأين حدودها

قارن المؤلفون TraceSpec بخمس طرق أساسية في 108 تهيئات. وفي إعادة التشغيل يتصدر في جميع المقارنات الأربع والعشرين حسب المراحل. أما في إنتاجية التوليد فيتفوق على DSpark في 15 من 18 إعدادًا، أي أن المكسب لا يتحقق في كل الحالات. ومن بين الطرق الأساسية سجّل DSpark أكبر طول مقبول في جميع المقارنات الثماني عشرة، بينما ينخفض الطول المقبول لدى كل منها عند الانتقال من درجة الحرارة 0 إلى 1.

وتبيّن تجارب الاستئصال (ablation) على Qwen3-4B إسهام كل مكوّن على حدة. فالتوزيع التكيّفي للميزانية يرفع الطول المقبول بنسبة 3,3–10,0% مقارنة بالتدريب الثابت على الخطوات الكاملة. وتؤكد مقارنات إضافية فائدة شروط الحالة واحتساب الرموز المقبولة المتتالية.

وتظهر القيود أيضًا. فالمكسب الرئيسي البالغ 12,5–22,6% قِيس في إعادة تشغيل البادئات المحفوظة، لا في زمن الاستجابة الشامل للحلقات. ولم تُختبر سوى نماذج Qwen3 وسيناريوهين هما التصفح والبرمجة. وينقطع المقتطف المتاح من الدراسة عند تحليل تكلفة الحلقات، ولذلك لا يمكن هنا تأكيد المكسب الشامل في زمن إنجاز المهمة. والخلاصة العملية لمن يشغّلون الوكلاء: قبل إعادة تدريب نموذج المسودة، ينبغي تفصيل القبول حسب المراحل وموضع الخطوة في المسار. وقد نشر المؤلفون الشيفرة والموارد على GitHub في مستودع Robot2050/TraceSpec.