Habr ينشر الجزء الثاني من دليل Activation Steering: مكتبتا repeng وpyreft ومتجه أدق

نشر كاتب مدوّنة تقنية على Habr الجزء الثاني من دليل activation steering، وهي تقنية للتحكم في سلوك النموذج اللغوي عبر التعديل المباشر لتنشيطاته الداخلية. ويشرح فيه كيف يمكن إيجاد متجه التوجيه بدقة أكبر باستخدام مكتبتي repeng وpyreft.

ما الذي لم ينجح في الجزء الأول

في الجزء الأول من الدليل، الذي حمل عنوان «Стягивай куда нужно: Activation Steering Tutorial»، نفّذ المؤلف الفكرة الأساسية للتوجيه (steering) بثلاث طرق: عبر خطافات PyTorch الخام (hooks)، وعبر مكتبة nnsight، وعبر مكتبة pyvene. وتقوم فكرة steering على إضافة متجه خاص إلى التنشيطات الوسيطة في الشبكة العصبية لدفع إجابتها في الاتجاه المطلوب، دون المساس بأوزان النموذج.

• الطرق الثلاث في الجزء الأول: خطافات PyTorch الخام، ومكتبة nnsight، ومكتبة pyvene
• نجح النهج الأساسي: فقد استجاب النموذج لمتجه التوجيه
• لكن النتيجة لم تكن مثالية: جاء المتجه معكوساً، وكان الأثر معتدلاً، ولم يظهر أي أثر في بعض المدخلات النصية (prompts)

«هل نجح أساسنا؟ نعم، رأينا ذلك. وهل كان جيداً؟ لا، وهذا أيضاً رأيناه: فقد جاء المتجه معكوساً، وكان الأثر معتدلاً، وفي بعض المدخلات لم يكن هناك أي أثر»، يكتب مؤلف دليل activation steering على

Habr.

ما الأدوات التي يجرّبها الجزء الثاني

في الجزء الثاني ينتقل المؤلف من أدوات التفسيرية (interpretability) العامة إلى مكتبات مصمَّمة خصيصاً لإيجاد متجه توجيه أدق، وهي repeng وpyreft وطرق أخرى. ويتناول هذا الجزء تحديداً كيفية تصحيح العيوب التي ظهرت في الجزء الأول، وكيفية تنفيذ ذلك بلغة Python.

والفرق في النهج جوهري: فمكتبتا nnsight وpyvene مكتبتان عامتان للتعامل مع الحالات الداخلية للنموذج، أما repeng وpyreft فقد صُمّمتا تحديداً لمهمة إيجاد متجه التوجيه. ومن ثم قد تعطيان نتيجة أكثر قابلية للتنبؤ في الحالات التي أنتج فيها الأسلوب الأساسي متجهاً معكوساً أو أثراً ضعيفاً.

ويشير مجرد حاجة المؤلف إلى جزء ثانٍ من الدليل إلى أن تنفيذ steering بالطريقة المباشرة عبر خطافات PyTorch الخام لا يكفي لتحقيق نتيجة مستقرة. فالتقنية تتطلب أدوات مستقلة لإيجاد المتجه نفسه، وليس فقط لتطبيقه على تنشيطات النموذج.

ماذا يعني ذلك

لا يزال activation steering مجالاً تتحقق فيه فكرته الأساسية، وهي دفع التنشيطات الداخلية للنموذج في الاتجاه المطلوب، عبر مجموعة أدوات تتسع باستمرار. ويؤثر اختيار المكتبة مباشرة في مدى قابلية التحكم بالنموذج للتنبؤ ومدى دقته.

أسئلة شائعة

ما المشكلات التي واجهها النهج الأساسي في activation steering؟

في الجزء الأول من الدليل، جاء متجه التوجيه الذي أُوجد بالطريقة الأساسية معكوساً، ولم يعطِ سوى أثر معتدل، ولم يعمل إطلاقاً في بعض المدخلات النصية (prompts).

ما الأدوات التي استُخدمت في الجزء الأول من الدليل؟

ثلاث طرق: خطافات PyTorch الخام، ومكتبة nnsight، ومكتبة pyvene. وجميعها أدوات أساسية غير متخصصة في إيجاد متجه التوجيه.

بماذا تختلف repeng وpyreft عن أدوات الجزء الأول؟

صُمّمتا تحديداً لإيجاد متجه التوجيه وضبطه، وليس للعمل العام مع التنشيطات الداخلية للنموذج كما هو حال nnsight وpyvene. وهذا هو موضوع الجزء الثاني من الدليل.