SWE-rebench تتيح 13 337 مهمة RL مُصلَحة: Qwen3.5-9B تتعلم من 70% من المهام بدلًا من 55%

تخيّلوا أنكم تدرّبون نموذجًا على إصلاح الأخطاء البرمجية. تعطونه مهمة: تصحيح دالة في مستودع حقيقي، ثم تتحققون من النتيجة بالاختبارات. لكن الاختبارات قد تتحقق من أمر مختلف تمامًا عمّا ورد في وصف الخطأ، أو يكون الحل موجودًا أصلًا داخل صورة Docker.

عندها إما أن يفشل النموذج دائمًا، وإما أن «ينجح» دائمًا، وفي الحالتين لا يوجد ما يتعلم منه. هذه هي المشكلة التي واجهها مؤلفو SWE-rebench، ونشروا بسببها SWE-rebench V2.1 RL: 13 337 بيئة RL مجانية (أي مهام جاهزة مع بيئة تشغيل وآلية تحقق) لتدريب وكلاء البرمجة.

في اختبار على 100 مهمة، ارتفع عدد المهام التي يتعلم منها Qwen3.5-9B فعليًا من 55 إلى 70. وإذا كنتم تعملون على التدريب اللاحق (post-training) بالتعلم المعزز، فهذه طريقة لتجنّب إهدار GPU على بيانات رديئة.

ما الذي يتضمنه الإصدار

هي مهام مأخوذة من مستودعات GitHub حقيقية بـ20 لغة برمجة. وهي مُعدّة بصيغة Harbor، لذلك يمكن ربطها بخط أنابيب RL الخاص بكم دون تجهيز يدوي. والمجموعة متاحة للجميع على hub.harborframework.com.

يكمن الفرق الأبرز عن كثير من مجموعات البيانات المفتوحة في آلية التحقق. فقد مُرّرت كل مهمة على وكلاء برمجة بحثوا عن الأعطال وأصلحوها. ويبلغ متوسط تكلفة هذا العمل $0,24 للمهمة. وبضرب الرقم في حجم المجموعة نحصل على نحو 3,2 ألف دولار للمجموعة كلها. هذا تقدير منّا وليس مبلغًا أعلنه المؤلفون، لكن حجم الرقم واضح: تنظيف البيانات أرخص من إنفاق الحوسبة على تجارب تشغيل لا فائدة منها.

لماذا تضرّ المهام المعطوبة

في RL يحلّ النموذج المهمة نفسها مرات عديدة، ويقارن المحاولات الناجحة بالفاشلة. الأمر أشبه بمدرّب يقارن أفضل محاولات الرياضي بأسوئها. فإذا كان التمرين مستحيل الأداء، أو كانت أي حركة تُحتسب صحيحة، فلا يوجد ما تُجرى عليه المقارنة.

في المهام البرمجية تتكرر ثلاثة أعطال شائعة:

• الاختبارات لا تطابق وصف المهمة، والحل الصحيح لا يجتازها؛
• البيئة لا تعمل: لا تُثبَّت الاعتمادات (dependencies) أو يفشل البناء؛
• الإجابة مسرَّبة داخل صورة Docker، فيستطيع النموذج العثور عليها بدلًا من ابتكارها.

في الحالتين الأوليين تفشل كل المحاولات ولا يوجد فرق بينها. وفي الحالة الثالثة تنجح كل المحاولات، ولا يوجد أيضًا ما يُتعلَّم منه. وفي الحالتين تذهب الموارد الحسابية هدرًا. وبحسب المؤلفين، تكثر هذه المهام في مجموعات البيانات المفتوحة.

ما الذي أظهرته التجربة

أُجري الاختبار على 100 مهمة نفسها. قبل الإصلاح كانت Qwen3.5-9B تتعلم من 55 منها، أي من المهام التي يوجد بين محاولاتها فرق ذو معنى. وبعد الإصلاح أصبح العدد 70. الزيادة 15 مهمة، أي نحو ربع مادة مفيدة إضافية مع حجم العينة نفسه.

الخلاصة العملية بسيطة: قبل إطلاق تشغيل RL مكلف، ينبغي تقدير نسبة المهام التي يحصل النموذج منها على إشارة تعلّم. وإذا كانت النسبة منخفضة، فتنظيف المجموعة أولًا أرخص من زيادة عدد مرات التشغيل.

القيود وما يمكن فعله

حصلنا على الرقمين 55 و70 من عينة مؤلفة من 100 مهمة ومن نموذج واحد بحجم 9B. ولا يذكر المؤلفون في منشورهم مقدار الارتفاع في جودة الوكيل النهائية على المقاييس المرجعية بعد التدريب الكامل. فما نراه هو ارتفاع في حصة المهام المفيدة، وليس تحسنًا مباشرًا في نتائج الاختبارات الشبيهة بـ SWE. ويستحسن التحقق من ذلك على نماذجكم وبنيتكم التحتية.

لمن ستفيد هذه المجموعة:

• للفرق التي تنفّذ تدريبًا لاحقًا بـ RL لوكلاء البرمجة ولا تريد بناء البيئات من الصفر؛
• للباحثين الذين يحتاجون إلى مجموعة قابلة لإعادة الإنتاج بعدة لغات، لا بلغة Python وحدها؛
• لمن يبنون مجموعات بياناتهم الخاصة: يمكن اعتماد نهج «الوكيل يتحقق من المهمة ويصلحها» بتكلفة $0,24.

ويعد المؤلفون أيضًا بإصدارات جديدة للمصدر المفتوح. وإذا جاءت المجموعات التالية بالجودة نفسها، فستزداد البيانات المفتوحة المتاحة لتدريب الوكلاء زيادة ملحوظة، وسيضيق الفارق مع المختبرات المغلقة، ولو في جانب تجهيز البيئة على الأقل.