إزالة التحيز من نماذج NLP تولّد قوالب نمطية جديدة تجاه فئات ديموغرافية أخرى

خلصت دراسة نُشرت على arXiv في يوليو 2026 إلى أن أساليب المعالجة المسبقة المستخدمة لإزالة القوالب النمطية في النماذج اللغوية تقلّل التحيز تجاه الفئات المستهدفة، لكنها تعزّزه على نحو غير متوقع تجاه فئات ديموغرافية أخرى، وأحيانًا تكون هذه الفئات غير مرتبطة إطلاقًا بالمهمة الأصلية. وتشمل الدراسة عائلتين من المعماريات وعدة استراتيجيات للمعالجة المسبقة، ما يدل على أن المشكلة منهجية.

لماذا تخلق إزالة التحيز مشكلات جديدة

تُستخدم أساليب المعالجة المسبقة للبيانات على نطاق واسع في NLP للحد من القوالب النمطية في النماذج اللغوية. وأكثر هذه الأساليب شيوعًا: حذف الجمل النمطية من المدوّنة النصية، وحذف الإشارات إلى الفئات الديموغرافية، واستبدال الإشارات إلى الفئات بصيغ محايدة. وتُعدّ جميعها أدوات قياسية في التعلّم الآلي المسؤول.

اختبر الباحثون هذه الاستراتيجيات على نصوص من ويكيبيديا بعدة أحجام للمدوّنة، وطبّقوها في مرحلتي التدريب المسبق والضبط الدقيق. وأُجريت الاختبارات على عائلتين مختلفتين جوهريًا من المعماريات: encoder-only (نماذج من طراز BERT) وdecoder-only (نماذج من طراز GPT).

• ثلاث استراتيجيات للمعالجة المسبقة: حذف الجمل النمطية، وحذف الإشارات إلى الفئات، واستبدال الإشارات إلى الفئات
• عائلتان من المعماريات: encoder-only (شبيهة بـ BERT) وdecoder-only (شبيهة بـ GPT)
• تظهر الآثار في التدريب المسبق وفي الضبط الدقيق (fine-tuning) على حد سواء
• البيانات: ويكيبيديا، بأحجام مختلفة للمدوّنة

والاستنتاج الرئيسي أن الأساليب الثلاثة جميعها تقلّل القوالب النمطية القابلة للقياس لدى الفئات المستهدفة، لكنها تُحدث آثارًا جانبية غير مرغوبة لدى فئات ديموغرافية أخرى، بما فيها فئات لا صلة لها بالمهمة الأصلية. وقد يزداد التنميط أو التنميط المضاد قياسًا بالمستويات المرجعية المحايدة. وبإزالة التحيز عن فئة واحدة، يخلّ الباحثون دون وعي بالتوازن لدى فئات أخرى.

أين تخطئ المعايير القياسية

من أبرز المشكلات أن أدوات التقييم الحالية تتجاوز هذه التحولات بصورة منهجية. فالمعايير القياسية لقياس القوالب النمطية مصمَّمة لرصد التغيّرات لدى الفئات الديموغرافية المستهدفة، أما تأثيرها في بقية الفئات فلا تقيسه ببساطة.

طبّق المؤلفون تحليل attention-rollout بحثًا عن تفسير آلي للآثار الجانبية. غير أن هذه الآثار لا تقترن بتغيّرات ملحوظة في أنماط الانتباه، ما يعقّد كثيرًا تفسير النموذج والبحث عن العلاقات السببية في آلية عمله.

«المعايير القياسية تخطئ هذه التحولات بصورة منهجية»، يحذّر مؤلفو الدراسة.

وهذا يعني للممارسين وجود فجوة جدّية بين المقاييس والتأثير الفعلي: فتراجع التحيز تجاه مجموعة واحدة قد يخفي إعادة توزيعه على مجموعات أخرى. والفرق التي تعتمد على المقاييس القياسية وحدها تخاطر بتكوين شعور زائف بالنجاح عند تقييم أساليبها في إزالة التحيز.

ما الذي يوصي به المؤلفون

يقترح الباحثون أدوات تشخيصية محددة لرصد الآثار الجانبية. ومن أبرز توصياتهم تقييم التأثير في طيف واسع من الفئات الديموغرافية لا في الفئة المستهدفة فقط، وتوثيق جميع الآثار الجانبية بوصفه جزءًا إلزاميًا من التقارير المتعلقة بإزالة التحيز.

ويشدّد المؤلفون على أن ممارسات التخفيف الواعية بالآثار الجانبية ينبغي أن تصبح معيارًا جديدًا للشفافية في NLP. ولم تكن أي من الاستراتيجيات الثلاث المختبَرة خالية من الآثار الجانبية، ما يستدعي إعادة النظر في طريقة تقييم القطاع لأساليب إزالة القوالب النمطية.

ماذا يعني ذلك

تطرح الدراسة تساؤلات حول استراتيجيات إزالة التحيز المعتمدة في NLP: فتقليل القوالب النمطية لدى فئة ديموغرافية واحدة لا يعني تحسنًا عامًا. وقد يعيد النموذج توزيع التحيز بين الفئات بدلًا من إزالته بصورة منهجية. وبالنسبة لممارسي NLP وفرق ML، يعني ذلك الحاجة إلى تدقيق تشخيصي أوسع عند أي تغيير في بيانات التدريب، وإلى إعادة النظر في ما يُعدّ إزالة ناجحة للتحيز.