تعديل محور واحد في أوزان Qwen دون تدريب خفّض نسبة الإجابات العالقة في حلقات التكرار من 93% إلى 33%

تخيّلوا أن نموذجكم في بيئة الإنتاج يعلق مرارًا في حلقة «انتظر، سأتحقق مرة أخرى»، فيستهلك حد التوكنات كله ولا يقدّم إجابة في النهاية. تُعالج هذه المشكلة عادةً بالتدريب الإضافي. لكن باحثين في MIT CSAIL أظهروا طريقًا آخر: عدّل نموذج GPT-6 Astra أوزان شبكة عصبية أخرى مباشرةً، دون تدرجات (gradients) ودون تدريب.

وفي نموذج Qwen3.5-0.8B الصغير، انخفضت نسبة الإجابات التي كانت تنزلق إلى تكرار لا ينتهي في مسائل الأولمبيادات من 93% إلى 33,1%.

ولتحقيق ذلك غُيّرت 131 072 وزنًا في طبقتين، ويقتصر التعديل نفسه على قلب اتجاه واحد. هذا هو الجزء الثاني من التحليل المنشور على Habr، ويشرح فيه المؤلف لماذا تنكسر الحلقة، ولماذا لا يمكن بهذه الطريقة إضافة مهارة جديدة إلى النموذج. والخلاصة عملية للمهندس: قبل إصلاح أي شيء، عليه أن يفهم ما الذي ينقص النموذج.

لماذا تنكسر الحلقة

قارن المؤلف بين نقطة الحفظ (checkpoint) الأساسية والمنشورة بت بت. تبيّن أن مصفوفات down_proj تغيّرت في الطبقتين 15 و19، وأن التعديل من الرتبة 1: فـ99,999% من طاقته تقع في اتجاه واحد. ولم يُطرح هذا الاتجاه، بل قُلب: فالمركّبة الممتدة على هذا المحور تبدّلت إشارتها.

يسهل تصوّر الآلية على أنها تصويت. ففي كل خطوة يقرر النموذج: هل يواصل كتابة المقطع النصي نفسه أم يخرج منه، بأن يغلق كتلة الاستدلال أو يكتب الإجابة أو يغيّر الفكرة. كانت الطبقتان 15 و19 تدليان سابقًا بصوت «واصل». وبعد التعديل صارتا تصوّتان لـ«اخرج»، فتميل الكفة إلى الخروج بوتيرة أكبر. ويقرّ المؤلف بأن هذا افتراض، إذ قد تعوّض الطبقات اللاحقة الإزاحة جزئيًا.

واختبر الفكرة على نصين: حل عادي لمعادلة بطول 220 توكنًا، وحلقة اصطناعية «Wait, let me check again…» بطول 397 توكنًا. في الحلقة، كتبت طبقات MLP الأساسية على المحور المطلوب بقوة أكبر: 1,4 مرة في الطبقة 15 و1,9 مرة في الطبقة 19. وبعد التعديل صارت الإشارة معاكسة. والنصان توضيح وليسا إحصاءً، ويقول المؤلف ذلك صراحةً.

ويقابل الانخفاض من 93% إلى 33,1% في النموذج المبسّط ارتفاعًا في فرصة الخروج عند كل توكن بنحو 15 مرة. وهذا إعادة حساب لأرقام المقال وليس قياسًا مباشرًا. لكنه يشرح الجوهر: عندما لا يمكن الخروج من الحلقة إلا بفرصة ضئيلة جدًا في كل خطوة، وتبلغ الخطوات عشرات الآلاف، تصبح نسبة الإجابات العالقة شديدة الحساسية لهذه الفرصة. كما يتسق الفحص الذاتي الذي أجراه Astra: 576 من أصل 579 مسألة «أُنقذت» كانت إجابات مقطوعة سابقًا، ولم تتغير الدقة في الإجابات التي كانت تصل إلى نهايتها من قبل.

المفتاح لا يعلّم

القيد الرئيسي: الإسقاط (projection) لا يضيف شيئًا. فالتمثيل الجديد يُحسب من القديم، ولا تزداد فيه المعلومات عن الإجابة الصحيحة، ولا يكبر البُعد. وليس هناك منع صارم هنا: فالتعديل بالقلب قابل للعكس، وقد تجعل الحسابات المعلومات أيسر وصولًا. لذلك يصوغ المؤلف الاستنتاج القوي على مستوى النموذج. فمحور واحد بمقياس واحد قد يبدّل نمط «واصل» أو «اخرج»، لكنه لا يستطيع أن يُدرج خوارزمية جديدة، مثل الحساب الصحيح للأعداد متعددة الخانات.

وهذا يتفق مع الإخفاق في Gemma. فقد كان Qwen يعرف الحل لكنه لا يستطيع التوقف، فأزال التعديل العائق. أما في Gemma فلا يكاد يوجد فخ من هذا النوع، إذ تتوزع الأخطاء على الحسابات نفسها، ولا وجود لـ«مفتاح لعدم القدرة على الحساب». يضاف إلى ذلك أن التضمينات (embeddings) تشغل نحو 62,6% من معاملات Gemma 3 270M، فيبقى لطبقات المحوّل الـ18 نحو 100 مليون.

والأمر مختلف تمامًا في المسألة التجريبية ذات الشبكة المؤلفة من 171 664 وزنًا. كان المطلوب هناك إضافة قاعدة واحدة من نوع «ارجع أولًا إلى الخلف، ثم اضغط على دواسة الوقود». ويمكن إدراجها يدويًا بزوج «إذا — فإن» على وحدات ReLU، وهذا نحو 5 900 وزن، أي نحو 3,4%. ويقارن المؤلف هذا التقدير بنسبة 3,5% الواردة في المنشور: فالرتبة العشرية نفسها. أي أن ما يمكن إدراجه يدويًا هو ما يمكن وصفه باختصار.

أعمال قريبة وما يمكن اعتماده في الممارسة

تعدّل ROME وMEMIT أيضًا مصفوفات MLP، لكنهما تضيفان حقائق («برج إيفل يقع في…» مع إجابة جديدة) ولا تزيلان عائقًا. أما طريقة «اتجاه الرفض» لدى Arditi وزملائه فتجري تعامدًا (orthogonalization) على جميع المصفوفات التي تكتب في التدفق. وتعديل Astra المأخوذ من 50 تشغيلًا أكثر موضعية: مصفوفتان و64 عمودًا. أما التعديل المأخوذ من 10 تشغيلات فهو أقرب إلى Arditi: 30 مصفوفة.

وللممارسة يقترح المؤلف إطارًا كالتالي. إذا كان النموذج يعرف الحل لكنه يدور في حلقة، فقد يفيد تعديل موضعي للأوزان. وإذا كانت الأخطاء في الحسابات نفسها، فلن يفيد. ويبقى خطر أيضًا: فتعديل يمسّ أقل من واحد في المئة من الأوزان يغيّر السلوك تغييرًا ملحوظًا، ويلزم تعديل ضابط باتجاه عشوائي بالنظم (norm) نفسه للتمييز بين الأثر الحقيقي والتشويش الجانبي. ويسهل رؤية تعديل من الرتبة 1 عبر الفرق (diff) بين تنسورين، لكن يصعب العثور على تعديل موزّع على اتجاهات كثيرة.

وفي القسم المرجعي يشرح أيضًا بنية الأوزان. ففي Llama 3.1 8B يقع نحو 70% من المعاملات في MLP. وفي نماذج MoE مثل Mixtral وQwen3-30B-A3B وDeepSeek-V3 توجد 95–97% من الأوزان في الخبراء، ولذلك سيجري التعديل مع مراعاة الموجّه (router).