قابلية التفسير الآلي

قابلية التفسير الآلي (وغالباً ما تُختصر بـ "mech interp") ظهرت من أعمال كريس أولاه والمتعاونين معه ابتداءً من حوالي عام 2020 في OpenAI واستمرت في Anthropic. الهدف الأساسي هو فهم ليس فقط ما تفعله الشبكة العصبية—سلوكها من حيث المدخلات والمخرجات—بل كيفية عملها: أي الأوزان والخلايا العصبية ورؤوس الانتباه تطبق أي خوارزميات، وما المعلومات المشفرة في أي تمثيلات داخلية. يعامل هذا النهج نموذجاً مدرباً كرمز غير معروف يتم هندسته عكسياً من خلال تجارب منهجية: حذف المكونات وتصحيح التفعيلات وتتبع تدفق المعلومات عبر الشبكة.

تشمل المفاهيم الأساسية الميزات (الاتجاهات في فضاء التفعيل التي تقابل مفاهيم قابلة للتفسير مثل "النصوص الفرنسية" أو "استدعاء دالة Python")، والدوائر (الرسوم البيانية الصغيرة من الأوزان والتفعيلات التي تطبق عملية محددة مثل تحديد الكائن غير المباشر أو المقارنة بـ "أكبر من")، والتراكب (الملاحظة بأن النماذج تشفر أكثر من ميزة من الأبعاد التي تملكها عن طريق تداخل الاتجاهات، معتمدة على ندرة المدخلات الحقيقية لتقليل التداخل). تشمل النتائج التجريبية البارزة دائرة رأس التحريض التي توسط التعلم السياقي في المحولات والكاشفات المنحنية والخلايا العصبية متعددة الوسائط المحددة في نماذج الرؤية.

تكتسب قابلية التفسير الآلي أهميتها أساساً كأداة أمان الذكاء الاصطناعي. إذا تمكن الباحثون من فك تشفير الحسابات الداخلية للنموذج بشكل موثوق، يمكنهم التدقيق للبحث عن التفكير الخادع، والتحقق من أن تدريب السلامة قد أنتج حالات داخلية محاذاة حقيقية بدلاً من مجرد الامتثال السطحي، والتنبؤ بالسلوك في حالات جديدة. كما يمكنها تمكين التدخلات المستهدفة—تعديل دوائر محددة لتقليل القدرات الضارة—بدلاً من الأساليب البليدة مثل إعادة الضبط الكاملة.

اعتباراً من عام 2026، نشرت Anthropic أوسع أبحاث قابلية التفسير الآلي على النماذج الحدودية، بما في ذلك التحليلات الشاملة لأجهزة الترميز الذاتي المتفرقة التي حددت ملايين الميزات القابلة للتفسير في Claude. تحافظ Google DeepMind و EleutherAI والمجموعات الأكاديمية في MIT و Harvard على برامج نشطة. تسمح الأدوات مثل TransformerLens و Neuronpedia بالاستكشاف التفاعلي لنوايا النموذج. تبقى مشاكل مفتوحة كبيرة، بما في ذلك توسيع تحليلات الدوائر إلى النماذج التي تحتوي على مئات المليارات من المعاملات وإنشاء حسابات سببية بدلاً من مجرد ارتباطية للميزات المحددة.

مثال

“باستخدام قابلية التفسير الآلي، تتبع الباحثون الدائرة في GPT-2 التي تطبق تحديد الكائن غير المباشر—تحديد رؤوس الانتباه المحددة المسؤولة عن إكمال الجملة "Mary gave John the book; John gave it to ___" بشكل صحيح بـ "Mary"—مما يوضح أن النموذج يستخدم خوارزمية نحوية قابلة للتعميم بدلاً من حفظ الأنماط.