عدّلت GPT-6 Astra نسبة 0.016% من أوزان Qwen ورفعت نتيجة GSM8K من 13.8% إلى 67.1%

إنها مشكلة مألوفة: تشغّل نموذجًا صغيرًا على مهمة تتطلب الاستدلال، فيدور في حلقة ويكرر المقطع النصي نفسه، ثم يصطدم في النهاية بحد الرموز من دون أن يقدم إجابة. عادةً ما تُعالج هذه المشكلة باستخدام المطالبات، أو عقوبات التكرار، أو التدريب الإضافي. لكن باحثين من MIT CSAIL جرّبوا مسارًا مختلفًا: أوكلوا الإصلاح إلى وكيل ذكاء اصطناعي وسمحوا له بتعديل الأوزان نفسها.

ما الذي فعلوه تحديدًا

حصلت GPT-6 Astra على إمكانية الوصول إلى أوزان Qwen3.5-0.8B عبر Python، مع ميزانية تصل إلى 50 عملية تشغيل اختبارية. وكان الشرط صارمًا: لا تدرجات، ولا انتشار عكسي، ولا مُحسِّن. فقط التحليل والتحرير المباشر للقيم الرقمية داخل النموذج.

بدأ الوكيل بمراقبة السلوك. واتضح أن النموذج، في معظم الحالات، لا يخطئ في المنطق، بل يعجز ببساطة عن التوقف: فقد كانت 93% من الإجابات تصطدم بحد الرموز. أي إن النموذج كان يمتلك القدرة على حل المسائل، لكن آلية إنهاء الاستدلال لديه كانت معطلة.

بعد ذلك، حددت Astra موضع السبب في كتل MLP ضمن الطبقتين 15 و19، وعثرت في فضاء الأوزان على اتجاه مرتبط بالدخول في الحلقات، ثم صححت 131 072 معلَمة. وهذا يعادل نحو 0.016% من أصل 800 مليون معلَمة.

النتائج

الأرقام لافتة:

• MATH-500: من 7.9% إلى 48.1%
• GSM8K: من 13.8% إلى 67.1%
• نسبة الإجابات التي اصطدمت بحد الرموز: من 93% إلى 33.1%

في جوهر الأمر، لم «يتعلم النموذج الرياضيات»، بل أُزيل عائق كان يعطله. ويمكن تشبيهه بسيارة محركها سليم، لكن دواسة الوقود فيها عالقة: بعد الإصلاح لم تصبح أقوى، بل بدأت ببساطة تسير كما ينبغي.

يسمي المؤلفون هذا النهج Weight-Space Programming: إذ يُعدَّل سلوك النموذج كما لو كان شيفرة برمجية، بصورة موضعية وفي مكان محدد، بدلًا من استخدام تدريب واسع الأثر يمتد عبر جميع المعلَمات.

القيود

لنبدأ بما ينبغي أخذه في الحسبان. نحن أمام تدوينة واحدة ونموذج صغير واحد. النتائج الأساسية لنموذج Qwen3.5-0.8B منخفضة للغاية — 7.9% على MATH-500 — ويُفسَّر جزء كبير من التحسن بأن النموذج الأصلي كان معطلًا فعليًا في وضع الاستدلال. ومن الأسهل رفع نموذج كهذا إلى مستوى مقبول من تحسين نموذج قوي أصلًا.

وهناك أيضًا دليل مباشر: عند تطبيق الطريقة على Gemma 3 270M، الذي لم يكن يعاني مشكلة الحلقات، لم تحقق تقريبًا أي فائدة. وهذا يعني أنها ليست «مسرّعًا للرياضيات» يصلح للجميع، بل وسيلة لعلاج عيب محدد إذا كان موجودًا في النموذج.

كذلك، ليس واضحًا إلى أي مدى يمكن إعادة إنتاج النتيجة من دون الوصول إلى GPT-6 Astra. ووفقًا للوصف، أنجز الوكيل الجزء الأكبر من العمل التحليلي، لكن الوصول إليه مكلف ومغلق. ولا يوجد حتى الآن تحقق مستقل.

ما الذي يمكن فعله بهذه النتائج

بالنسبة إلى المطورين الذين يشغّلون نماذج صغيرة مفتوحة المصدر محليًا أو في بيئات الإنتاج، ثمة عدة استنتاجات عملية:

• قبل إجراء تدريب إضافي، قيسوا نسبة الإجابات التي اصطدمت بحد الرموز. إذا كانت هائلة، فقد لا تكون المشكلة فشلًا في المعرفة، بل فشلًا في التوقف.
• التشخيص أهم من العلاج: تحديد الطبقة والاتجاه المسؤولين عن العيب يمثل نصف المهمة بالفعل.
• التعديل الجراحي للأوزان أرخص من fine-tuning ولا يتطلب مجموعة بيانات، لكنه يربك خط العمل المعتاد لإدارة إصدارات النماذج. وسيتعين توثيق هذه التصحيحات واختبارها بحثًا عن حالات التراجع.
• بالنسبة إلى المنتجات، تمثل هذه النتيجة إشارة إلى أنه خلال عام أو عامين قد تصبح مهمة «إصلاح سلوك النموذج» عملًا يُسند إلى وكيل، لا إلى فريق من مهندسي تعلم الآلة.

الخلاصة الأساسية هي أن قابلية التفسير تتحول إلى أداة عملية. فإذا كان الذكاء الاصطناعي قادرًا فعلًا على العثور على الآلية المحددة وراء العطل وتصحيحها داخل الأوزان، فإن الأمر لم يعد لعبة أكاديمية، بل طريقة جديدة لصيانة النماذج. لكن من الأفضل حاليًا انتظار إعادة إنتاج النتائج على نماذج أخرى وفي اختبارات معيارية مستقلة.