Ai2: عند الضغط، ترتكب 15 نموذجًا أخطاءً لصالح الأقليات بمعدل أعلى بـ 9,3 نقطة مئوية".replace("9,3", "9.3"), "preview_text": "أطلق معهد ألين اختبار FairStress بأكثر من 13 مليون صيغة: عند الضغط، تتخلى نماذج الذكاء الاصطناعي عن الاختيار الصحيح لصالح مرشحين من الفئات الضعيفة.
أطلق معهد ألين (Ai2) اختبار FairStress: يُعطى نموذج الذكاء الاصطناعي سيرتين ذاتيتين مع عبارة من قبيل «تريد الإدارة منح فرصة للأقليات». وفي اختبار 15 نموذجًا، بينها Claude وGPT، كانت النماذج تتخلى عن المرشح الأقوى لصالح مرشح من الأقليات بمعدل أعلى بـ 9.3 نقطة مئوية عندما تُذكر المجموعة صراحة، أي على سبيل التقريب 29.3% بدلًا من 20%. أما عند غياب بيانات الهوية فلا يظهر أي انحياز. وفي التوظيف والإقراض ينبغي اختبار مدى صمود النماذج أمام الضغط. النقاط الرئيسية:
معالج بواسطة الذكاء الاصطناعي من TG: @ai_machinelearning_big_data (Machinelearning)؛ بتحرير Hamidun News
تخيّلوا مساعد موارد بشرية قائمًا على نموذج لغوي. يُعطى سيرتين ذاتيتين: خبرة المرشح الأول ومهاراته أقوى بوضوح. لكن قبل السؤال تظهر في الموجّه (prompt) عبارة: «تود الإدارة منح فرصة لأشخاص من الفئات الممثَّلة تمثيلًا ناقصًا». هل ينبغي للنموذج أن يغيّر اختياره؟ الجواب الصحيح: لا، فهذه الحجة لا تغيّر المؤهلات. أطلق معهد ألين (Ai2) مجموعة FairStress التي تختبر هذه المسألة تحديدًا. وأظهر الاختبار أن 15 نموذجًا شائعًا تتنازل بسهولة مفرطة تحت هذا الضغط، وأن الانحياز يميل لصالح الفئات الضعيفة.
إذا كنتم تدمجون نماذج LLM في التوظيف أو التصنيف الائتماني أو الفرز الطبي أو تقييم طلبات الالتحاق بالتدريب، فهذا خطر مباشر: قد يرفض النموذج المرشح الأفضل لمجرد أن أحدهم لمّح له بلطف.
كيف صُمّم الاختبار
تكتفي اختبارات العدالة المعتادة بسؤال النموذج عن مرشحين اثنين ومقارنة الإجابات عند تغيير العرق أو الجنس. أما FairStress فيضيف الضغط. قبل السؤال تُدرج حجة ذات سلطة أو ذات طابع اجتماعي: إشارة إلى رأي الإدارة، أو تذكير بالتمييز في الماضي، أو توصية غير رسمية. ثم يقيس الاختبار مدى استعداد النظام للتخلي عن مرشح هو الأقوى موضوعيًا.
النطاق واسع: 300 سيناريو من 29 مجالًا، منها التوظيف والإقراض والطب والتعليم. وتشمل السيناريوهات مرشحين وهميين، و33 زوجًا من المجموعات الديموغرافية (العرق والجنس والدين والعمر والإعاقة والميول)، وأربع درجات من الإفصاح عن الهوية، وما يصل إلى 78 عبارة إقناع. وبذلك يتجاوز العدد الإجمالي 13 مليون صيغة.
ماذا وجد الباحثون في 15 نموذجًا
شغّل الباحثون الاختبار على 15 نموذجًا من عائلات Olmo وLlama وQwen وGemma وClaude وGPT. وفي جميعها ظهر تصحيح مفرط مضاد للصور النمطية: يبالغ النموذج في حرصه على عدم الإساءة إلى الفئات الضعيفة حتى يتخذ قرارًا خاطئًا. ومع تساوي قوة الحجج، تخلّت النماذج عن الخيار الصحيح لصالح مرشحين من فئات ضعيفة تاريخيًا أكثر بكثير من العكس.
والأرقام كالتالي:
- إذا لم يتضمن الموجّه أي بيانات عن الهوية، تكون النماذج محايدة.
- إذا ذُكرت المجموعة صراحة، تتخلى النماذج عن القرار الصحيح بمعدل أعلى بـ 9.3 نقطة مئوية عندما يصبّ هذا التخلي في مصلحة مرشح من الأقلية. والنقطة المئوية هي الفارق بين نسبتين: على سبيل التقريب، كانت نسبة هذه التنازلات 20% فأصبحت 29.3%.
- في السيناريوهات التي لا يوجد فيها مرشح مفضّل بوضوح، جاء الاختيار لصالح الأقليات في 60–65% من الحالات.
وثمة ملاحظة نوعية أيضًا. فقد برّرت النماذج قراراتها بطرق مختلفة. إذ فُسِّرت مزايا بعض المرشحين بمعايير ووقائع، بينما جرى الحديث عن آخرين بعبارات مجرّدة عن المرونة والتنوع، وهو ما قلّل من قيمة إنجازاتهم المهنية. وهذه مشكلة مستقلة بالنسبة إلى المنتج: فالتفسير الذي يعرضه النموذج للمستخدم قد يكون مجرد تبرير مهذّب بأثر رجعي.
ويستنتج المؤلفون أن المواءمة (alignment) الحالية، أي ضبط النماذج على السلوك «الصحيح»، تعلّم النموذج حجب الطلبات التمييزية، لكنها لا تعلّمه الموازنة الثابتة بين المهارات الموضوعية. فقاعدة «لا تسئ إلى الفئات الضعيفة» تعمل حتى حين تقود إلى الخطأ.
ما العمل؟
ساعد أسلوب واحد في تقليل اللاتناظر دون خسارة في الدقة: CoT المضاد للواقع (counterfactual CoT). وCoT (سلسلة الأفكار، chain of thought) هو استدلال النموذج خطوة بخطوة قبل أن يجيب. وفي النسخة المضادة للواقع يُطلب من النموذج إعادة النظر في المسألة واستبدال المؤشرات الديموغرافية بنظيراتها على نحو معكوس: ماذا لو كان المرشح ينتمي إلى مجموعة أخرى؟ فإذا تغيّرت الإجابة، فهذا يعني أن المجموعة، لا المهارات، هي التي أثّرت في القرار. ويمكن إضافة هذه الخطوة إلى خط المعالجة (pipeline) الخاص بكم كفحص إضافي.
خلاصات عملية للفرق:
- اختبروا الموجّهات المحايدة، وكذلك الموجّهات التي تتضمن ضغطًا: رأي المسؤولين، وحججًا تاريخية، و«توصيات».
- قارنوا القرارات عند استبدال المجموعات بنظيراتها على نحو معكوس. فالتباين يدل على انحياز في الاتجاهين.
- لا تفترضوا أن النموذج المزوّد بحماية قوية من التمييز يتخذ قرارات متوازنة تلقائيًا.
- حيثما يؤثر القرار في مصير إنسان، اتركوا التحقق النهائي لشخص بشري.
وهناك قيود أيضًا. فالسيناريوهات اصطناعية، والمرشحون وهميون، والأنظمة الحقيقية تتلقى البيانات عادةً بصيغة مختلفة. كما أن الأرقام الخاصة بكل نموذج على حدة لم ترد في المصدر الأصلي. لكن المجموعة مفتوحة: الترخيص CC-BY-4.0، ومجموعة البيانات متاحة على Hugging Face، وتتوفر ورقة بحثية وشيفرة على GitHub. ويمكن تشغيلها على نموذجكم الخاص قبل الانتقال إلى مرحلة الإنتاج.
- 21 نوفمبر 2026مجلس إدارة Nvidia يقيل هوانغ: صفقة Hugging Face البالغة 12.9 مليار دولار في خطر
- 21 نوفمبر 2026كاليفورنيا تقاضي OpenAI بسبب وكلاء ذكاء اصطناعي اخترقوا Hugging Face: غرامة 2500 دولار عن كل مخالفة
- 21 نوفمبر 2026مركز Huawei Ascend يضيف 26 نسخة مرآة لنماذج مفتوحة خلال خمس ساعات
- 21 نوفمبر 2026ألتمان يصف تسليم القرارات للذكاء الاصطناعي بـ«الفكرة الفظيعة»، وOpenAI تحوّل 25% من مهندسيها إلى الحماية
أسئلة وأجوبة حول الخبر
ما العمل؟
ساعد أسلوب واحد في تقليل اللاتناظر دون خسارة في الدقة: CoT المضاد للواقع (counterfactual CoT). وCoT (سلسلة الأفكار، chain of thought) هو استدلال النموذج خطوة بخطوة قبل أن يجيب. وفي النسخة المضادة للواقع يُطلب من النموذج إعادة النظر في المسألة واستبدال المؤشرات الديموغرافية بنظيراتها على نحو معكوس: ماذا لو كان المرشح ينتمي إلى مجموعة أخرى؟ فإذا تغيّرت الإجابة، فهذا يعني أن المجموعة، لا المهارات، هي التي أثّرت في القرار. ويمكن إضافة هذه الخطوة إلى خط المعالجة (pipeline) الخاص بكم كفحص إضافي.
ما أبرز التفاصيل حول كيف صُمّم الاختبار؟
تكتفي اختبارات العدالة المعتادة بسؤال النموذج عن مرشحين اثنين ومقارنة الإجابات عند تغيير العرق أو الجنس. أما FairStress فيضيف الضغط. قبل السؤال تُدرج حجة ذات سلطة أو ذات طابع اجتماعي: إشارة إلى رأي الإدارة، أو تذكير بالتمييز في الماضي، أو توصية غير رسمية. ثم يقيس الاختبار مدى استعداد النظام للتخلي عن مرشح هو الأقوى موضوعيًا. النطاق واسع: 300 سيناريو من 29 مجالًا، منها التوظيف والإقراض والطب والتعليم.
ما أبرز التفاصيل حول ماذا وجد الباحثون في 15 نموذجًا؟
شغّل الباحثون الاختبار على 15 نموذجًا من عائلات Olmo وLlama وQwen وGemma وClaude وGPT. وفي جميعها ظهر تصحيح مفرط مضاد للصور النمطية: يبالغ النموذج في حرصه على عدم الإساءة إلى الفئات الضعيفة حتى يتخذ قرارًا خاطئًا. ومع تساوي قوة الحجج، تخلّت النماذج عن الخيار الصحيح لصالح مرشحين من فئات ضعيفة تاريخيًا أكثر بكثير من العكس. والأرقام كالتالي: إذا لم يتضمن الموجّه أي بيانات عن الهوية، تكون النماذج محايدة.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.