انحياز الذكاء الاصطناعي (AI Bias)
يشير انحياز الذكاء الاصطناعي إلى أنماط متسقة ومنحرفة في مخرجات نظام الذكاء الاصطناعي التي تنشأ من بيانات التدريب المنحازة أو إطار المشكلة المعيب أو خيارات تصميم النموذج، مما يسبب عدم معاملة الأفراد أو المجموعات بعدالة.
يصف انحياز الذكاء الاصطناعي أي خطأ متسق وغير عشوائي في تنبؤات أو قرارات النموذج الذي يرتبط بخصائص حساسة مثل العرق أو الجنس أو السن أو الدين أو الوضع الاجتماعي والاقتصادي. يشمل الانحياز الإحصائي — حيث ينحرف متوسط تنبؤات النموذج عن القيمة الحقيقية — والانحياز الاجتماعي، حيث تتوزع تلك الأخطاء بشكل غير متساوٍ عبر مجموعات ديموغرافية، غالباً لصالح السكان المهمشين تاريخياً.
يدخل الانحياز أنظمة الذكاء الاصطناعي من خلال مسارات متعددة. قد تقلل بيانات التدريب من تمثيل مجموعات معينة (مجموعة بيانات الاعتراف بالوجه تتكون في الغالب من وجوه بشرية فاتحة الألوان ستتعميم بشكل سيء على الأشخاص ذوي البشرة الداكنة)، تعكس التمييز التاريخي (نموذج التوظيف المدرب على عقود من قرارات الموافقة التي يهيمن عليها الذكور سيرمز تلك الأنماط كإشارة)، أو تحمل انحيازاً في التعليق حيث يطبق المعلقون البشريون معايير غير متسقة عبر مجموعات ديموغرافية. تلعب بنية النموذج والدالة الموضوعية أيضاً دوراً: قد يضحي نظام يحسن دقة المتوسط بالأداء على المجموعات الأقلية لتحسين المقاييس الإجمالية، وهي مقايضة غير مرئية في درجات المعايير الإجمالية.
العواقب العملية كبيرة. وجدت دراسة عام 2018 بقلم Joy Buolamwini و Timnit Gebru أن أنظمة التصنيف الجنساني التجاري كانت لديها معدلات خطأ تصل إلى 34 نقطة مئوية أعلى للنساء ذوات البشرة الداكنة عن الرجال ذوي البشرة الفاتحة. أنتجت المخرجات المنحازة في تسجيل الائتمان والتشخيص الطبي وتقييم المخاطر الجنائية والتوظيف الآلي آثاراً قابلة للقياس على إمكانية وصول الناس إلى القروض والعلاج والحرية والعمل. تفوض الأطر التنظيمية بما في ذلك قانون الذكاء الاصطناعي في الاتحاد الأوروبي، مع متطلبات النظام عالي الخطورة القابلة للتطبيق من 2024، تقييمات الانحياز والإشراف البشري قبل النشر.
اعتباراً من عام 2026، يمتد تخفيف الانحياز إلى المعالجة المسبقة (تنسيق مجموعات البيانات وإعادة الأخذ العينات وتعزيز البيانات الاصطناعية) والمعالجة أثناء التدريب (قيود العدالة أثناء التدريب والإزالة المعادية للانحياز) والمعالجة اللاحقة (تعديل الحد الأدنى لكل مجموعة ديموغرافية). لا توجد تقنية واحدة تلغي جميع أشكال الانحياز في نفس الوقت لأن تعريفات العدالة الرسمية المختلفة — تساوي الفرص والمساواة الديموغرافية والمساواة التنبؤية — غير متوافقة رياضياً عندما تختلف معدلات الأساس عبر المجموعات. معايير التوثيق مثل بطاقات النموذج والأوراق البيانية للمجموعات، جنباً إلى جنب مع متطلبات التدقيق من الجهات الخارجية المشفرة بشكل متزايد في القانون، تسعى إلى تأسيس المسؤولية.