طورت MIT منهجية للكشف عن التمييز في أنظمة دعم القرار القائمة على الذكاء الاصطناعي

طور باحثون من معهد ماساتشوستس للتكنولوجيا إطار عمل اختبار يحدد بشكل منهجي الحالات التي تتخذ فيها أنظمة الذكاء الاصطناعي المستقلة قرارات غير عادلة تجاه أفراد محددين وجماعات بأكملها. يعالج العمل أحد الثغرات الرئيسية في مجموعة الأدوات الخاصة بتقييم أخلاقيات الذكاء الاصطناعي—غياب منهجية قادرة على كشف التمييز ليس فقط على المستوى الإحصائي، بل أيضاً في سيناريوهات محددة. تُدمج أنظمة دعم القرار—الخوارزميات التي تساعد في اتخاذ القرارات في الرعاية الصحية والإقراض والتعليم والتوظيف والعدالة الجنائية—بشكل متزايد في العمليات اليومية.

هذه بالفعل المجالات التي يسبب فيها الانحياز الخوارزمي أشد الأضرار الحقيقية الملموسة. يتلقى الشخص رفضاً في طلب الرهن العقاري، يتم تصفية سيرته الذاتية قبل مرحلة المقابلة، يتلقى عقوبة أقسى—كل ذلك بدون تبرير واضح وفي كثير من الأحيان بدون إمكانية الاعتراض على القرار. تقيس الأساليب الموجودة لتدقيق أنظمة الذكاء الاصطناعي عادة عدم التوازن الديموغرافي في النتائج المجمعة.

يمكن لهذا التحليل أن يكتشف الانحرافات المنهجية الكبيرة لكنه يفتقد حالات التمييز الدقيقة والمعتمدة على السياق. قد يُظهر النظام المساواة الإحصائية بشكل عام بينما يقدم في الوقت ذاته توصيات منحازة بشكل منهجي ضد أعضاء مجموعات معينة في ظروف محددة. مقاييس العدالة الكلاسيكية ببساطة لا ترى مثل هذه الانتهاكات المحلية.

يتعامل إطار عمل معهد ماساتشوستس مع هذا التحدي باستخدام نهج قائم على السيناريوهات. تُنتج الأداة تلقائياً مجموعات اختبار—حالات تتغير فيها معاملات محددة: الخصائص الديموغرافية للمتقدم وسجل طلباته وصيغ الأسئلة والسياق المحيط. يحلل النظام بعد ذلك استجابة نموذج الذكاء الاصطناعي لهذه الاختلافات ويكتشف الأنماط التي تشير إلى المعاملة غير العادلة.

الفرق الرئيسي: يبحث الإطار ليس فقط عن فجوات بين المجموعات الديموغرافية على المستوى الإحصائي، بل أيضاً عن المحفزات الوضعية المحددة التي تستثير الاستنتاجات المنحازة. أثناء الاختبار على عدة أنظمة ذكاء اصطناعي حقيقية، أكد الباحثون: الانحياز غالباً ما يتركز بالفعل في سيناريوهات ضيقة ومحددة تتجاهلها التدقيقات القياسية ببساطة. هذا يعني أن المطورين والمنظمين الذين يعتمدون على مقاييس مجمعة فقط قد يتلقون شعوراً كاذباً بالأمان بينما يستمر التمييز الحقيقي على مستوى الحالات الفردية.

تعمد فريق معهد ماساتشوستس تصميم الأداة كأداة عملية وليست موجهة للبحث فقط. الطريقة متوافقة مع معايير الذكاء الاصطناعي المسؤول الموجودة—وخاصة إطار عمل إدارة مخاطر الذكاء الاصطناعي من المعهد الوطني للمعايير والتكنولوجيا—ويمكن أن تُدمج احتمالاً في إجراءات التحقق الإلزامية للأنظمة قبل إطلاقها على السوق. يصف المؤلفون سيناريوهات التطبيق الممكنة: من الفحوصات الداخلية في شركات التطوير إلى التدقيقات المستقلة من قبل المنظمين.

يظهر البحث في ضوء الضغط التنظيمي المتزايد على صناعة الذكاء الاصطناعي. في أوروبا، يفرض قانون الذكاء الاصطناعي على موردي الأنظمة عالية المخاطر الخضوع لتقييم المخاطر والاحتفاظ بالتوثيق. في الولايات المتحدة، أدخلت عدة ولايات بالفعل تشريعات المساءلة الخوارزمية، وتولي الوكالات الفيدرالية اهتماماً متزايداً للتمييز الخوارزمي.

في هذا السياق، أدوات الاختبار الموحدة هي بالفعل ما ينقصه المنظمون حالياً. يصيغ عمل معهد ماساتشوستس استنتاجاً بسيطاً لكن مهماً: أخلاقيات الذكاء الاصطناعي ليست فقط مسألة نوايا وإعلانات، بل هي أيضاً مسألة التحقق. بدون أدوات قادرة على كشف الظلم في حالات محددة، حتى المطورون الأكثر ضميراً يخاطرون بإطلاق نظام به انتهاكات لم يتم اكتشافها.

يقدم الإطار الجديد خطوة عملية نحو جعل الوعود بشأن الذكاء الاصطناعي العادل قابلة للتحقق عملياً.