GPT-6 Astra ترفع دقة Qwen3.5-0.8B على MATH-500 من 7,9% إلى 48,1% بتعديل 0,016% من الأوزان

أظهرت دراسة Weight-Space Programming أمرًا غير معتاد، وفق ما أوردته قناة Neurogen على تيليغرام نقلًا عن MIT CSAIL: نموذج GPT-6 Astra المتقدم قادر على قراءة أوزان الشبكات العصبية التابعة لجهات أخرى وإعادة كتابتها مباشرة. يتم ذلك دون تدرجات ودون إعادة تدريب، وعبر شيفرة برمجية تُنفَّذ في بيئة معزولة (sandbox) فقط. وأوضح الأمثلة نموذج Qwen3.5-0.8B الصغير (نحو 800 مليون معامل). فقد غيّرت Astra فيه 131 072 وزنًا فقط، أي 0,016%، فارتفعت دقة النموذج على MATH-500 (مجموعة من 500 مسألة رياضيات بمستوى الأولمبياد) من 7,9% إلى 48,1%.

كيف عالجت Astra الدوران في حلقات متكررة في Qwen3.5-0.8B

طلب الباحثون من Astra تحسين أداء Qwen3.5-0.8B في الرياضيات. شغّلت Astra النموذج في Python وراقبت سلوكه، فتبيّن أن الشبكة الصغيرة تدور باستمرار في حلقات متكررة أثناء الاستدلال: وصلت 85 إجابة من أول 96 إجابة إلى حد 32 768 رمزًا (token) وانقطعت دون أن تقدّم نتيجة.

بعد ذلك حدّدت Astra مصدر المشكلة في كتل MLP بالطبقتين 15 و19، وطرحت من الأوزان اتجاهًا زائدًا. وبلغ عدد المعاملات المعدّلة 131 072 من أصل 800 مليون، أي 0,016%. واحتاج ذلك إلى 50 عملية تمرير أمامي (forward pass) على مسائل تدريبية، وإلى تعديل الأوزان يدويًا داخل البيئة المعزولة.

النتائج بعد التعديل:

• MATH-500: من 7,9% إلى 48,1%؛
• GSM8K (مسائل رياضيات نصية بمستوى المدرسة): من 13,8% إلى 67,1%؛
• IFEval (اختبار اتباع التعليمات): من 21% إلى 62,3%؛
• نسبة الإجابات التي وصلت إلى حد الرموز: من 93% إلى 33%.

تفسير تحسّن IFEval بسيط: لم تكن الحلقات المتكررة مشكلة رياضية، بل عيبًا عامًا في سلوك النموذج، ولذلك تحسّن أداؤه في اتباع التعليمات أيضًا.

ما الذي تستطيع Astra فعله أيضًا في فضاء الأوزان

عرض المؤلفون مهام أخرى لا علاقة لها بالرياضيات:

• حدّدت Astra من الأوزان الخام اللعبة التي دُرّبت عليها الشبكة، دون قائمة خيارات، وأصابت في الحالات الأربع كلها؛
• في نماذج لغوية صغيرة بحجم 7,2 مليون معامل، حدّدت اللغة ووجدت جميع رؤوس النسخ (copying heads)، أي رؤوس الانتباه التي تنسخ مقاطع من السياق؛ وتطابقت النتيجة مع القياسات المباشرة؛
• في بيئة Kinetix أصلحت مركبة صغيرة لم تكن قادرة على صعود المنحدر: سمح تعديل 3,5% من الأوزان باجتياز جميع الاختبارات البالغ عددها 1024، بينما لم تكن تجتاز أيًّا منها قبل ذلك؛
• كتبت من الصفر أوزان ألعاب Breakout وSeaquest وAsterix؛ وفي Breakout حصلت على 517 نقطة، في حين حصلت PPO بعد 500 مليون خطوة تدريب على 25,3؛
• بنت شبكة للعبة غو (Go) بحجم 1,5 مليون معامل بتشغيل واحد لشيفرة من 336 سطرًا.

أين ينتهي الضجيج الإعلامي

يضع كاتب العرض في القناة بعض التحفظات. لم تعلّم Astra نموذج Qwen الرياضيات، بل أزالت خللًا كان يمنعه من إكمال الحل. وعلى Gemma 3 270M، الذي لا يدور في حلقات متكررة بل يخطئ ببساطة في الحساب، لم تنجح الطريقة إطلاقًا. فتعديل الأوزان يزيل عائقًا لكنه لا يضيف قدرة.

من الناحية التقنية، يقترب هذا الأسلوب من steering vector (إزاحة التنشيطات في اتجاه مطلوب)، وقد جرى تعديل الأوزان يدويًا من قبل، ويكفي أن نذكر ROME وabliteration. الجديد هو أن هذه العملية كان يجريها سابقًا إنسان بأدوات خاصة، أما هنا فقد درس النموذج بنفسه شبكة أخرى، ووجد المشكلة وأصلحها.

يمكن التحقق من النتيجة. فقد نُشرت نقطة التحقق (checkpoint) على Hugging Face، وهناك عرض توضيحي يظهر فيه نموذج Qwen الأساسي وهو يدور في حلقات متكررة، بينما تجيب النسخة المصحَّحة. كما أعاد الباحثون بناء الأوزان مع التحقق من قيم التجزئة (hash) وأعادوا التقييم: وحصلوا على 51,0% على MATH-500، أي أعلى قليلًا من النتيجة الأصلية. ونُشرت سجلات جميع التجارب على GitHub.

والخلاصة للممارسين: قد يصبح تشخيص الأوزان وإجراء تعديلات جراحية دقيقة عليها مهمة يتولاها وكيل (agent) آلي، خصوصًا حين يعاني نموذج صغير من عيب سلوكي محدد مثل الدوران في حلقات متكررة. لكن لا ينبغي توقّع أن يحوّل تعديل 0,016% من المعاملات نموذجًا ضعيفًا إلى قوي، فهو يعالج عطلًا محددًا ولا يضيف معرفة.