AI يحدد الملاءمة المهنية للروس من الوجوه — المطورون يتجهون إلى القطاع العام

ظهرت في روسيا تكنولوجيا تزعم أنها تحدد الكفاءة المهنية للشخص من خلال صورة وجه التقطت منذ ثوانٍ معدودة. أعلن المطورون عن مفاوضات مع الهيئات الحكومية — وإذا نجحت، فقد تصبح الأداة جزءاً من إجراءات التوظيف الحكومي. تبدو القصة كأنها ديستوبيا، لكنها تحدث بالفعل.

ما هذا النظام

تعتمد التكنولوجيا على شبكة عصبية تم تدريبها على تحليل ملامح الوجه والتوصل إلى استنتاجات حول الصفات المهنية للمرشح. وفقاً لقول المطورين، يقيّم النظام الموثوقية والمرونة أمام الضغوط والميل للقيادة وعدداً من المعاملات الأخرى — تُقدم النتيجة على شكل درجات عددية خلال ثوانٍ، دون استبيانات أو مقابلات أو اختبارات نفسية. وقد تم تدريب الخوارزمية، وفقاً لقول منشئيها، على قاعدة بيانات تضم عشرات الآلاف من حالات الموظفين الحقيقيين والتي تم توثيق مؤشرات الأداء الخاصة بهم.

هذا، بحسب قولهم، هو ما يميز النظام عن فراسة الوجه ويجعله "علمياً". لا توجد عملية تحقق مستقلة من هذه البيانات متاحة للعلن. الحجة الأساسية في المفاوضات مع العملاء هي السرعة وقابلية التوسع.

يستغرق الفحص التقليدي للمرشحين دقائق أو ساعات. تتعامل الخوارزمية معها في ثوانٍ ولا تتعب أبداً. بالنسبة للمنظمات ذات أحجام التوظيف العالية، يبدو هذا جذاباً — خاصة إذا لم تتعمق في سؤال حول ما تقيسه الخوارزمية فعلاً.

على المستوى الحكومي

وفقاً لـ CNews، يجري المطورون مفاوضات نشطة مع أقسام الموارد البشرية في المؤسسات الحكومية والهيئات الأمنية. إذا نجحت المشاريع التجريبية، فإن التكنولوجيا قد تصبح جزءاً من الإجراءات الموحدة للتوظيف في القطاع العام. هذا يغير مقياس المشكلة بشكل أساسي. موارد بشرية شركات بها فحص خوارزمي هي قضية واحدة. التوظيف الحكومي، حيث يؤثر القرار على إمكانية الوصول إلى الخدمة والمزايا والمركز الاجتماعي للشخص — هو أمر مختلف تماماً. النتائج المحددة لمثل هذا السيناريو:

• تتخذ الخوارزمية قرار التوظيف أو الرفض وليس شخص مسؤول
• المرشح لا يعرف ما الذي في وجهه أثّر على التقييم
• يمكن لصاحب العمل أن يشير إلى "الذكاء الاصطناعي الموضوعي" دون شرح أسباب الرفض
• من الصعب جداً الطعن في قرار خوارزمي في المحكمة دون الكشف عن النموذج
• تتسع الأخطاء المنهجية والأحيازات تلقائياً في جميع أنحاء القطاع العام

لماذا تعترض العلم

أثبتت المجتمع الأكاديمي منذ وقت طويل: ملامح الوجه لا تتنبأ بالفعالية المهنية. هذه ليست مسألة قابلة للنقاش — إنه إجماع راسخ موثق في مئات الأوراق المراجعة من قِبل أقران حول علم النفس والسلوك التنظيمي وتحليلات الموارد البشرية. الربط بين المظهر والكفاءة هو انحياز إدراكي يُسمى "تأثير الجاذبية الجسدية"، المعروف أيضاً باسم تأثير الهالة. يميل الناس إلى نسب مزيد من الاحترافية للأشخاص الذين يتمتعون بجاذبية جسدية أكبر. عندما يتم تدريب شبكة عصبية على بيانات التوظيف التي جمعها البشر، فإنها تستنسخ بالضبط هذا الانحياز — أسرع فقط وبمظهر موضوعية رياضية.

"أي خوارزمية تم تدريبها على بيانات التوظيف التاريخية تستنسخ الأحيازات

التاريخية — أسرع فقط وعلى نطاق أوسع" — هو استنتاج معياري من الأبحاث المتعلقة بالانحياز الخوارزمي في الموارد البشرية.

من الملفت للنظر أنه في الاتحاد الأوروبي، يتم حظر الأنظمة البيومترية لتقييم المرشحين تلقائياً في الواقع في السياق التوظيف بموجب قانون الذكاء الاصطناعي. في الولايات المتحدة، خسرت الشركات دعاوى قضائية بسبب الفحص الخوارزمي الذي له تأثيرات تمييزية ثابتة. لا تملك روسيا حاجزاً قانونياً مماثلاً حتى الآن.

ماذا يعني هذا

القصة مع "الذكاء الاصطناعي بالوجه" هي مثال واضح على كيفية أن العبوة التسويقية لمنتج شبكة عصبية تسمح ببيع أداة غير علمية لعملاء كبار. تخلق السلطة التكنولوجية للذكاء الاصطناعي وهماً بالموضوعية حيث لا توجد ولا يمكن أن توجد. الخطر الرئيسي ليس أن النظام يعمل — بل أنه سيتم تطبيقه على وجه التحديد لأنه يبدو مقنعاً، ولا يوجد لدى أحد وقت لفهم التفاصيل. يضاعف المقياس الحكومي الضرر المحتمل عدة مرات: قد يتلقى آلاف الأشخاص رفضاً للتوظيف بناءً على شكل الأنف أو المسافة بين العينين — دون حتى معرفة أن آلة قامت بتقييمهم.