تقييم المرشحين بالذكاء الاصطناعي يبدو محايدًا، لكنه لا يصبح عادلًا بذلك

يصف أحد خبراء التوظيف ما يحدث بأن الشركات «تشرب من خرطوم إطفاء» من الطلبات. فالوظائف الشائعة تتلقى ما يصل إلى 1000 طلب في عطلة نهاية أسبوع واحدة. ولا يستطيع إنسان قراءة هذا الحجم، ولذلك صارت الخوارزمية أول من يقرأ السيرة الذاتية في أغلب الأحيان. وتطرح دراسة نقلها موقع TechXplore سؤالًا محرجًا: قد تبدو تقييمات المرشحين الصادرة عن الذكاء الاصطناعي محايدة، لكنها لا تصبح عادلة لمجرد ذلك.

لم تُكشف المنهجية في الجزء المتاح من المنشور، ولذلك يتناول ما يلي منطق المشكلة نفسه والسياق الذي ظهرت فيه.

الحياد والعدالة يُقاسان بطريقتين مختلفتين

يعني الحياد بالمعنى الهندسي الإحصاء في الغالب. فالنظام يقيّم بالدرجة نفسها سيرًا ذاتية تحمل أسماء مختلفة، ولا تتباعد نسب المقبولين بين المجموعات كثيرًا. ويمكن التحقق من ذلك وحسابه وإدراجه في تقرير للمدققين. أما العدالة فأوسع من ذلك. فهي تجيب عن أسئلة: هل اختير الأشخاص وفق المعايير الصحيحة، وهل ترتبط هذه المعايير بالعمل الفعلي، وهل يستطيع المرشح المرفوض أن يفهم سبب الرفض ويعترض على القرار.

يجتاز النموذج الاختبار الأول بسهولة ويفشل في الثاني. فإذا كان يخصم من التقييم بسبب فجوة في المسيرة المهنية، أو جامعة «غير مناسبة»، أو حي السكن، فإن الأرقام المتوازنة بحسب الجنس والعمر لا تضمن شيئًا. تعمل هذه السمات كمؤشرات بديلة: تبدو محايدة شكليًا، لكنها تعيد إنتاج الانحيازات القديمة في الواقع. ومن السوابق اللافتة أداة التوظيف الداخلية في Amazon. فبحسب ما نقلته Reuters، كانت الأداة تخفض تقييم السير الذاتية التي تحتوي على كلمة «women's»، وتخلّت الشركة عنها في 2018.

ما الذي يُقاس ويُنظَّم حاليًا

يكتفي المنظمون حتى الآن في الغالب بطلب الإحصاءات، وهذا يفسّر سهولة الحصول على حكم «محايد».

• الحمل: ما يصل إلى 1000 طلب على الوظيفة الشائعة خلال عطلة نهاية الأسبوع.
• الاختبار الكلاسيكي: قاعدة الأربعة أخماس (EEOC، 1978). يجب ألا تقل نسبة المقبولين في أي مجموعة عن 80% من نسبتهم في المجموعة الأفضل.
• نيويورك: يشترط Local Law 144 منذ 2023 إجراء تدقيق مستقل لأدوات الفرز الآلي للكشف عن التحيز.
• الاتحاد الأوروبي: يصنّف AI Act أنظمة الذكاء الاصطناعي المستخدمة في التوظيف ضمن الأنظمة عالية المخاطر.
• المحاكم: حصلت الدعوى Mobley v. Workday بشأن احتمال التمييز على أساس العمر على صفة الدعوى الجماعية في 2025.

تنظر هذه الآليات كلها إلى النتيجة النهائية. وهي أقل قدرة على رصد الحالة التي تكون فيها النتيجة متوازنة بينما الطريق إليها مثير للشك.

كيف نتعامل مع ذلك

على من يشترون هذه الأنظمة أو يبنونها أن يوسّعوا التدقيق ليتجاوز النسب النهائية. ينبغي طلب قائمة السمات التي يعتمد عليها النموذج في قراراته من المورّد، والتحقق من صلة كل سمة منها بمتطلبات الوظيفة. وتفيد الاختبارات المضادة للواقع: السيرة الذاتية نفسها مع تغيير الاسم أو سنة التخرج أو العنوان. أما حالات الرفض، وخصوصًا الجماعية والآلية منها، فينبغي أن يراجعها مسؤول توظيف بشري ولو على سبيل العيّنة. كما يلزم الاحتفاظ بسجلات للقرارات ليتمكن المرشح من الحصول على تفسير واضح.

أما الباحثون عن عمل فالخلاصة العملية لهم أن الآلة هي التي تقرأ السيرة الذاتية أولًا، ولذلك ينبغي أن تتطابق الصياغات مع نص الوظيفة، وأن تكون بنية المستند بسيطة ومقروءة للمحلّل الآلي. لكن المسؤولية تقع على صاحب العمل. فإذا كانت الإحصاءات المتوازنة هي الدليل الوحيد على العدالة، فكل ما في الأمر أن النظام بارع في الظهور بمظهر العادل.