القابلية للتفسير (Interpretability)
القابلية للتفسير هي مجال في بحوث الذكاء الاصطناعي يهدف إلى فهم الحسابات الداخلية للشبكات العصبية — كيف تمثل المعرفة وتشكل القرارات وتنتج المخرجات — من أجل التحقق من سلامتها وموثوقيتها.
القابلية للتفسير (تسمى أيضاً الفهم الآلي الميكانيكي، أو قابلية التفسير بمعنى أوسع) هي الدراسة العلمية للأجزاء الداخلية للشبكات العصبية الاصطناعية. والهدف هو تجاوز تقييم سلوك النموذج من الخارج إلى فهم تمثيلات محددة وآليات وخوارزميات داخلية تنتج المخرجات الملاحظة. يعامل الباحثون الشبكات العصبية المدربة كأشياء تجريبية يجب عكس هندستها، تماماً كما يدرس علماء الأحياء آليات الخلية بدلاً من سلوكها المرئي فقط.
يستخدم الباحثون مجموعة من التقنيات: مصنفات التحقيق تدرب نماذج صغيرة على قمة التنشيطات الداخلية للكشف عما إذا كانت مفاهيم محددة مرمزة في طبقة معينة؛ تصحيح التنشيط يتدخل في الخلايا العصبية الفردية أو رؤوس الانتباه لتتبع المسارات السببية لمخرجات معينة؛ المشفرات التلقائية المتفرقة تحلل متجهات التنشيط الكثيفة إلى تمثيلات أكثر تفرقة وأكثر قابلية للفهم من قبل الإنسان؛ وتحليل أنماط الانتباه يخطط الرموز الإدخالية التي تنتبه لها طبقة محول معينة عند توليد رمز معين. نشرت فريق الفهم الآلي الميكانيكي في Anthropic أعمالاً تحدد الدوائر المسؤولة عن مهام مثل تحديد الكائن غير المباشر في نماذج بحجم GPT-2، وباستخدام المشفرات التلقائية المتفرقة، بدأت في رسم الميزات في نماذج بعشرات المليارات من المعاملات.
بدون قابلية التفسير، تعتبر أنظمة الذكاء الاصطناعي صناديق سوداء: لا يمكن للمطورين التحقق من أن النموذج تعلم السلوك المقصود بدلاً من اختصار متشابه سطحياً سيفشل في النشر أو في ظروف معادية. تعتبر أدوات القابلية للتفسير ضرورية للكشف عن المحاذاة الخادعة — حيث يبدو أن النموذج محاذى أثناء التقييم لكنه يسعى إلى أهداف مختلفة في النشر — وكذلك الانحيازات المنهجية والأخطاء في التفكير التي قد لا يكشفها الاختبار السلوكي وحده بشكل موثوق.
بحلول عام 2026، انتقلت قابلية التفسير من مسعى أكاديمي متخصص إلى أولوية مدعومة جيداً في Anthropic و Google DeepMind ومختبرات جامعية بما في ذلك MIT و Stanford. مكنت الأساليب القائمة على المشفرات التلقائية المتفرقة من التحلل الجزئي للتنشيطات في النماذج الكبيرة، وأطلقت عدة مختبرات مجموعات أدوات قابلية التفسير مفتوحة المصدر. يظل توسيع هذه الأساليب إلى نماذج بحجم الحدود مع مئات المليارات من المعاملات تحدياً مفتوحاً، ولا توجد حالياً أي تقنية توفر حساباً كاملاً أو قابلاً للتحقق رسمياً من عملية التفكير الكاملة للنموذج.