SHAP-IQ: معيار جديد للذكاء الاصطناعي القابل للتفسير ينتقل إلى المستوى العملي

تزداد صناديق التعلم الآلي السوداء شفافية تدريجيًا. وتقدّم مكتبة SHAP-IQ، التي تكسب شعبية متزايدة في مجتمع المطورين، مقاربة جديدة جذريًا لتفسير قرارات النماذج: فهي تحلّل مساهمة كل خاصية على حدة، وتحلّل كذلك كيفية تفاعل هذه الخصائص فيما بينها. وبالنسبة إلى صناعة تواجه باستمرار مطالب الجهات التنظيمية بتوضيح أسباب اتخاذ الخوارزمية قرارًا بعينه، فهذا ليس تمرينًا أكاديميًا، بل أداة بقاء عملية.

ولفهم أهمية SHAP-IQ، يجدر العودة إلى الجذور. فقد أصبحت مكتبة SHAP الكلاسيكية، القائمة على قيم شابلي المستمدة من نظرية الألعاب، المعيار الفعلي للذكاء الاصطناعي القابل للتفسير. وهي تجيب عن سؤال «أي خاصية كان لها التأثير الأكبر في تنبؤ النموذج»، وتفعل ذلك بدقة رياضية. غير أن لـ SHAP قيدًا جوهريًا: فهي تنظر إلى الخصائص بمعزل بعضها عن بعض. أما في الواقع فالبيانات أكثر تعقيدًا. فقد لا يعني عمر المريض بحد ذاته الكثير في التنبؤ بالمرض، لكنه يصبح عاملًا حاسمًا عند اقترانه بمستوى الكوليسترول. والـ SHAP الكلاسيكي لا يلتقط هذه التفاعلات جيدًا. وتعالج SHAP-IQ هذه المشكلة تحديدًا عبر حساب ما يُسمى مؤشرات التفاعل، وهي تقديرات كمية لكيفية تأثير أزواج الخصائص ومجموعاتها معًا في النتيجة.

تعمل SHAP-IQ تقنيًا على النحو التالي. يُمرَّر إلى المكتبة نموذج مدرَّب، وهو في الدليل المنشور Random Forest، لكن المقاربة قابلة للتطبيق على أي خوارزمية، إضافة إلى مجموعة بيانات. تحسب المكتبة قيم شابلي لكل خاصية، ثم تمضي أبعد من ذلك فتحسب مؤشرات التفاعل من الرتبة الثانية وما فوقها. والنتيجة خريطة مفصّلة لكيفية اتخاذ النموذج قراراته: أي الخصائص مهمة بذاتها، وأيها لا يعمل إلا ضمن مجموعة، وأيها على العكس يكبح تأثير غيره. وكل ذلك مُغلَّف في مسار Python سهل الاستخدام، يمكن دمجه في سير العمل القائم دون تغييرات معمارية جوهرية.

تتجاوز القيمة العملية لهذه المقاربة حدود الفضول البحثي بكثير. لنأخذ القطاع المالي، حيث يُلزم القانون نماذج التصنيف الائتماني بأن تكون قابلة للتفسير. فقد لا تكتفي الجهة التنظيمية بقائمة بعوامل رفض القرض المهمة، بل تطلب تفسير سبب أدّى اجتماع الدخل المنخفض والعبء الدَّيني المرتفع تحديدًا إلى القرار السلبي، مع أن كل عامل منهما قد يكون مقبولًا إذا نُظر إليه منفردًا. وتوفّر SHAP-IQ هذا المستوى من التفصيل. والوضع مماثل في الطب: لا يكفي الطبيب أن يعرف أن النموذج يعدّ ضغط الدم لدى المريض عاملًا مهمًا. بل يحتاج إلى فهم أن الضغط، مقترنًا بالعمر والتاريخ العائلي، يشكّل ملف مخاطر محددًا.

ظهور أدوات كهذه ليس مصادفة. فقانون الذكاء الاصطناعي الأوروبي (AI Act)، الذي يدخل حيز التنفيذ الكامل، يُلزم الشركات بضمان شفافية أنظمة الذكاء الاصطناعي عالية المخاطر. وفي الولايات المتحدة، تصدر هيئة مراقبة العملة (OCC) بالفعل توصيات بشأن قابلية تفسير النماذج في القطاع المصرفي. وتعتمد الصين معايير خاصة بها. والاتجاه العالمي واضح: عصر نشر النموذج دون تفسير قراراته يقترب من نهايته. وتتحول أدوات مثل SHAP-IQ من إضافة مستحبة إلى عنصر إلزامي في البنية التحتية للتعلم الآلي.

ويجدر ذكر القيود أيضًا. فحساب مؤشرات التفاعل مهمة مكلفة حسابيًا. وفي النماذج التي تضم مئات الخصائص، قد يصبح الحساب الكامل للتفاعلات من جميع الرتب غير عملي، وسيضطر المطورون إلى الاكتفاء بالتفاعلات الثنائية أو استخدام تقريبات. إضافة إلى ذلك، يتطلب تفسير النتائج قدرًا من الخبرة، فالأرقام الخام لن تقول الكثير لمستخدم الأعمال دون تصور بصري جيد وسياق مناسب. ومع ذلك، فإن إتاحة هذا النوع من التحليل في صورة مكتبة مفتوحة المصدر، بدل أن يظل حبيس الأوراق الأكاديمية، يدل على نضج هذا المجال.

يمر الذكاء الاصطناعي القابل للتفسير بمرحلة انتقال من تخصص نظري إلى ممارسة هندسية. وتُعد SHAP-IQ إحدى الأدوات التي تجعل هذا الانتقال ممكنًا. فمع ازدياد تعقيد النماذج وتشدد المتطلبات التنظيمية، ستحدد القدرة على تقديم تنبؤات دقيقة وعلى شرح منطقها بإقناع في الوقت نفسه أي الشركات ستتمكن من توسيع حلول الذكاء الاصطناعي لديها، وأيها سيصطدم بجدار انعدام ثقة المستخدمين والجهات التنظيمية. فالشفافية لم تعد خيارًا، بل أصبحت ميزة تنافسية.