محكمة اتحادية تُحمّل Workday المسؤولية عن التمييز في فرز المرشحين باستخدام AI

سمحت محكمة فيدرالية أمريكية بمتابعة دعوى جماعية ضد Workday—قرر قاضٍ من سان فرانسيسكو أن الشركة يجب أن ترد على الاتهامات بالتمييز في التوظيف من خلال الذكاء الاصطناعي. يُوصف هذا الحكم بأنه الأول في التاريخ الذي يهاجم على نطاق واسع خوارزميات برامج فحص المرشحين.

أول دعوى قضائية ضد خوارزمية التوظيف

تاريخياً، تم توجيه معظم شكاوى التمييز في التوظيف ضد أصحاب العمل: فهم كانوا مسؤولين عن القرارات النهائية—التوظيف أو الرفض. تم تنظيم هذه الدعوى بطريقة مختلفة جذرياً. وقعت الشركة المصنعة نفسها تحت التدقيق—Workday، إحدى أكبر الشركات في العالم لتطوير أنظمة الموارد البشرية للشركات مع مئات الآلاف من عملاء الشركات.

وفقاً للمدعين، خلقت خوارزميات Workday حواجز تمييزية قبل حتى أن يتمكن أي موظف استقطاب بشري من إلقاء نظرة على السيرة الذاتية. عملت الآلية كمرشح غير مرئي: قامت النظام بتعيين تصنيف للمرشحين واتخاذ قرارات بشأن تقدمهم في الممر—بدون تدخل بشري. يصف المحامون والمراقبون الصناعيون القضية بأنها لها تأثير السابقة.

للمرة الأولى، تستهدف دعوى جماعية في الولايات المتحدة بشكل مباشر وواسع ليس صاحب عمل محددة، بل آليات أداة الذكاء الاصطناعي للتوظيف نفسها والشركة التي أنشأتها وباعتها لآلاف المنظمات.

الاتهامات الموجهة إلى Workday

يؤكد المدعون أن خوارزمية Workday قامت بفحص المرشحين في الشركات العميلة بطرق تنتهك قوانين كاليفورنيا. لم يتم الكشف بالكامل عن تفاصيل الدعوى، لكن الاتهامات يفترض أن تتعلق بالتمييز المنهجي على أساس العمر أو الجنس أو الإعاقة. العناصر الرئيسية للاتهام:

• قامت خوارزمية الذكاء الاصطناعي تلقائياً بتعيين تصنيفات للمرشحين والقضاء على البعض منهم قبل مشاركة موظف الاستقطاب
• جاءت الرفضات بدون تفسير—لم يتمكن المرشحون من الطعن في قرار الآلة
• قد لا تكون شركات عملاء Workday على علم بالانحياز المدمج في النموذج
• تم تطبيق نفس الخوارزمية على آلاف أصحاب العمل، مما يوسع بشكل أساسي نطاق التمييز المحتمل
• وفقاً لموقف المدعين، تنطبق قوانين مكافحة التمييز في كاليفورنيا على مطور البرامج وليس فقط على صاحب العمل الموظف

تنكر Workday ذنبها. حاولت الشركة بالفعل إيقاف الدعوى، لكن القاضي اعتبر حجج المدعين كافية بما يكفي للسماح للقضية بالمتابعة إلى محاكمة كاملة.

لماذا يغير هذا القواعد

حتى الآن، كانت مسؤولية التوظيف التمييزي تقع بشكل افتراضي على الشركة التي تتخذ القرار—التوظيف أو الرفض. بقي مصنع البرامج في الظل: اعتبر منتجه أداة واتخذ صاحب العمل القرار. تكسر هذه الدعوى هذا المنطق. إذا حكم القضاء لصالح المدعين، سيواجه مطورو أنظمة الذكاء الاصطناعي للتوظيف مستوى جديداً من الناحية الأساسية من المسؤولية. سيتعين عليهم إثبات أن خوارزمياتهم لا تحتوي على انحياز مخفي—أو مواجهة نفس العواقب القانونية التي يواجهها أصحاب العمل المميزون. بالنسبة إلى Workday، قد تكون العواقب المحتملة خطيرة بشكل خاص. تستخدم آلاف الشركات في جميع أنحاء العالم منصتها وإذا نجحت الدعوى، قد يكون نطاق المطالبات والأضرار المحتملة أكبر بكثير مما هو الحال في قضايا التمييز في التوظيف النمطية.

معنى هذا

محكمة سان فرانسيسكو ترسل إشارة واضحة: خوارزمية التوظيف ليست وسيطاً محايداً، ومنشئها مسؤول عن كيفية اتخاذ النموذج للقرارات. بالنسبة لمطوري الذكاء الاصطناعي للشركات، هذا يعني مخاطر تنظيمية جديدة بشكل أساسي: يمكن الآن للانحياز المدمج في نموذج أن يصبح أساساً لدعوى قضائية بملايين الدولارات—بغض النظر عما إذا كان المصنع نفسه يعلم به.