نماذج الذكاء الاصطناعي ترفض تقييم الوجوه، لكنها ترسم «مثليًا» و«مجرمًا» عند الطلب

اسأل نموذج ذكاء اصطناعي ما إذا كان الشخص في الصورة يبدو مثليًا أم غيريًا، فسيرفض الإجابة. اطلب منه تعديل الصورة نفسها بحيث يبدو الشخص مثليًا أو غيريًا أو مجرمًا، وغالبًا ما ينفّذ النموذج الطلب مستخدمًا ملامح وجه نمطية. ذلك ما نقله موقع TechXplore. أي أن الرفض عمل مع السؤال، لكنه لم يعمل مع مهمة تؤدي إلى النتيجة نفسها.

أين ينكسر الرفض

يندرج السؤال المباشر «هل هذا الشخص مثلي؟» ضمن سيناريو الأمان الكلاسيكي. فقد دُرّب النموذج على ألا يستنتج السمات الحساسة من المظهر، وقد تعلّم ذلك. أما طلب التعديل فيبدو له مختلفًا: مهمة إبداعية، لا تقييمًا لشخص. والفلاتر المضبوطة على التصنيف لا تستجيب لهذه الصياغة.

والاستنتاج الرئيسي من هذه الواقعة أسوأ من الثغرة نفسها. فكي «يجعل الوجه أكثر إجرامًا»، لا بد أن يحمل النموذج في داخله خريطة تقابل بين ملامح الوجه والتصنيفات. الرفض يخفي هذه الخريطة لكنه لا يحذفها. فهي تبقى في الأوزان وتظهر عندما تُعاد صياغة المهمة.

الفراسة تعود عبر المحرّر

فكرة «قراءة» الميول الجنسية أو النزعة الإجرامية من الوجه ليست جديدة. ففي عام 2016 أعلن باحثون من شنغهاي أن شبكة عصبية تميّز المدانين من غير المدانين من الصور. وفي عام 2017 زعمت دراسة ميخال كوزينسكي ويلون وانغ أن خوارزمية تحدد الميول الجنسية من الصورة. وتعرّض البحثان لانتقادات حادة: فقد فُسّرت الارتباطات باختلاف تسريحات الشعر والمكياج وزاوية التصوير وجودة الصور، لا بخصائص بنية الوجه.

لا تثبت الصور المعدّلة وجود هذه الصلة. هي تُظهر ما تعلمه النموذج من بياناته: ما يُعدّ «نمطيًا» لكل فئة في الإنترنت وفي التعليقات على الصور. وتعيد النتيجة إنتاج القوالب الثقافية الجاهزة، في صورة فوتوغرافية مقنعة لشخص بعينه.

ما الذي ورد في المنشور

لا يتضمن الجزء المتاح من المادة منهجية ولا بيانات كمية، لذا يقتصر ما يلي على ما ورد فيه صراحة:

• السؤال المباشر عن الميول الجنسية من الوجه: ترفض النماذج الإجابة.
• طلب تعديل الصورة لتبدو «مثليًا» أو «غيريًا»: غالبًا ما تنفّذه النماذج.
• طلب التعديل ليبدو الشخص «مجرمًا»: السلوك نفسه.
• تُبنى النتيجة على ملامح مظهر نمطية.
• ترتبط فلاتر الأمان بصياغة الطلب، لا بالضرر المحتمل.

أما نسب الطلبات الناجحة وقائمة النماذج المختبرة وظروف التجربة، فيجب الاطلاع عليها في المصدر الأصلي.

ما المخاطر

المخاطر العملية واضحة. فيمكن استخدام الصورة المعدّلة في التنمر: نسبة مظهر «إجرامي» إلى شخص، أو صنع «دليل» على ميوله الجنسية، أو اقتطاع الصورة من سياقها. وبالنسبة للفئات الضعيفة، خصوصًا في البلدان التي تُجرَّم فيها الميول الجنسية، هذه مسألة تتعلق بالسلامة الجسدية. فضلًا عن ذلك، ترسّخ هذه الصور القوالب النمطية لدى من يراها ويعدّها «معقولة».

ماذا على الفرق أن تفعل

إذا كنتم تبنون منتجًا على التعديل التوليدي للصور، فلا تختبروه بالأسئلة المباشرة فقط. أدرجوا في اختبارات الفرق الحمراء طلبات تحويل المظهر بحسب فئات اجتماعية: الميول الجنسية، والإثنية، والدين، و«الإجرام»، و«الفقر». واختبروا صياغات ولغات مختلفة، لأن الرفض بالإنجليزية غالبًا لا ينتقل إلى الروسية.

ينبغي أن يجري التصفية على مستوى النتيجة والقصد، لا على مستوى الكلمات المفتاحية فقط. ولا تستخدموا النماذج لتقييم الأشخاص من وجوههم في التوظيف أو الأمن أو التقييم الائتماني. وإذا كان نموذجكم قادرًا على «تغيير مظهر» الشخص، فوثّقوا السمات التي يجب ألا يغيّرها، وتحققوا من ذلك بانتظام في الإصدارات الجديدة.