المشفّرات التلقائية المتناثرة: التفاعلات الثنائية ترفع rank fidelity إلى 0,7790

أصبحت المشفّرات التلقائية المتناثرة (SAE) منذ مدة أداة أساسية في التفسيرية الآلية (mechanistic interpretability): فهي تحلّل تنشيطات النموذج إلى ميزات متناثرة تُفكّ شيفرتها خطيًا. وتتحقق ورقة جديدة ظهرت في Hugging Face Daily Papers مما إذا كانت الآثار السلوكية لهذه الميزات تُجمع بالطريقة الخطية نفسها. والجواب: جزئيًا. فقد قدّم المؤلفون مقياس SAE Additivity Residuals (SAR)، وأظهروا على 18 تركيبة من النماذج والسلوكيات أن إحداثيات SAE أكثر قابلية للجمع من أساس عشوائي. غير أن التفاعلات الثنائية تبقى ضرورية: ففي التجربة المركّبة للتوجيه (steering) ارتفعت rank fidelity من 0,5874 إلى 0,7790، وانخفض خطأ الترتيب من 0,1444 إلى 0,0606.

تحليل خطي، وعواقب غير خطية

التحليل في SAE قابل للجمع بحكم بنائه: فالتنشيط يساوي مجموع مساهمات الميزات. لكن بين التنشيط والسلوك تقع طبقات النموذج اللاحقة، وهي غير خطية. فإذا فُعّلت ميزتان في وقت واحد، فليس بالضرورة أن يساوي الأثر في المخرجات مجموع أثر كل منهما على حدة. ولهذا أهمية عملية. فالباحث الذي يفسّر السلوك بمجموعة من الميزات، أو يوجّه النموذج بدمج عدة ميزات دفعة واحدة، يعوّل ضمنيًا على الجمع. وبلا اختبار يبقى هذا الافتراض مجرد فرضية.

ما الذي يقيسه SAR بالضبط

يقدّر SAR حصة التباين السلوكي التي تبقى غير مفسَّرة فوق رتبة التفاعل المحددة. الرتبة 1 تعني نموذجًا جمعيًا خالصًا، والرتبة 2 تضيف الحدود الثنائية، وهكذا. وعند اختيار المجموعات الفرعية من الميزات بصورة مستقلة، يساوي SAR على مستوى المجتمع الإحصائي بالضبط الطاقة المعيارية للتفاعلات التي تفوق هذه الرتبة. كما يضع حدًّا لخطأ ترتيب الائتلافات، أي الخطأ في ترتيب مجموعات الميزات بحسب قوة أثرها، وذلك في حالة التقريب الأمثل من رتبة منخفضة.

ولفصل مساهمة SAE نفسه عن مساهمة العمليات الحسابية الكامنة في النموذج، قارن المؤلفون الإحداثيات المدرَّبة بتدويرات عشوائية للفضاء الجزئي المختار نفسه تحافظ على المجموع. ولو كانت القابلية للجمع تحددها حسابات النموذج وحدها، لما وُجد فرق. لكن الفرق موجود.

النتائج بالأرقام

• في جميع الإعدادات الـ18 (نموذج مع سلوك)، يكون المتبقي من الرتبة الأولى لدى إحداثيات SAE المدرَّبة أقل منه لدى الإحداثيات المدوَّرة عشوائيًا.
• تحسّن الحدود الثنائية جودة ترتيب الائتلافات على البيانات المحجوزة في كل إعداد.
• تتفوق الحدود الثنائية على نماذج لها العدد نفسه من المعاملات مبنية على حدود من الرتبة الثالثة مختارة عشوائيًا. والمكسب يأتي من بنية الأزواج نفسها، لا من عدد المعاملات.
• في التجربة المركّبة للتوجيه (steering) ارتفعت rank fidelity من 0,5874 إلى 0,7790.
• انخفض خطأ الترتيب في التجربة نفسها من 0,1444 إلى 0,0606، أي بأكثر من النصف.

ماذا يفعل الممارسون

الخلاصة لمن يعمل مع SAE ذات شقّين. الأول: الأوصاف الجمعية للسلوك عبر ميزات SAE مبرَّرة بدرجة أفضل بوضوح مما هي في أساس عشوائي. وللتقديرات السريعة والتحليل الأولي قد يكفي نموذج خطي للآثار. والثاني: إذا كنت تحتاج إلى تفسيرات مشتركة «صحيحة» أو إلى توجيه موثوق بعدة ميزات في وقت واحد، فلا تكفي المساهمات الفردية. فالتصحيحات الثنائية تمنح مكسبًا ملموسًا في دقة الترتيب، بينما لا تحقق الحدود الثلاثية المختارة عشوائيًا ذلك.

وعمليًا، يعني هذا أنه عند اختيار تركيبات الميزات للتوجيه (steering) ينبغي قياس SAR والتحقق من الآثار الثنائية، بدل الاكتفاء بمجموع الآثار الفردية. وهناك تحفّظ: فلا تتضح من الملخص النماذج المحددة ولا أحجام قواميس SAE ولا نوع السلوكيات، لذا ينبغي الحذر عند نقل هذه الأرقام إلى منظومتك. والشيفرة منشورة في مستودع OpenSAE/SAE-Behavioral-Compositionality، ما يتيح تشغيل المقياس على مشفّراتك التلقائية المتناثرة الخاصة والتحقق من حجم المتبقي لدى ميزاتك.