نماذج LLM تعيد كتابة كلام الأمريكيين من أصل أفريقي بالإنجليزية القياسية دون أن يلحظ أحد: دراسة جديدة

كشفت دراسة جديدة منشورة على arXiv عن مشكلة واسعة النطاق: ست نماذج LLM حديثة (يتراوح حجمها بين 14B و70B معامل) تعيد كتابة الإنجليزية الأمريكية الأفريقية (AAE) بالإنجليزية الأمريكية القياسية (SAE) بصورة منهجية، حتى حين يقتضي السياق الحفاظ على اللهجة.

ما التحيز الذي رصده الباحثون؟

الإنجليزية الأمريكية الأفريقية ليست خطأً لغويًا، بل لهجة مكتملة يتحدث بها أكثر من 30 مليون شخص في الولايات المتحدة. غير أن نماذج LLM الحديثة تتعامل معها بوصفها نصًا «غير صحيح» ينبغي تصحيحه إلى الصيغة القياسية.

اختبر المؤلفون ست نماذج LLM مضبوطة على التعليمات. وفي جميع الحالات فضّلت النماذج استكمال النص بالإنجليزية القياسية (SAE) حتى حين كان السياق يتطلب صراحةً الإنجليزية الأمريكية الأفريقية (AAE). وعمليًا، تعيد نماذج LLM كتابة كلام المستخدمين وتستبدل اللهجة بالإنجليزية القياسية تلقائيًا ودون أن يُلاحظ ذلك.

• 6 نماذج مضبوطة على التعليمات (من 14B إلى 70B معامل)
• أكثر من 30 مليون متحدث بـ AAE
• التوافق السلبي (negative concord) مثل «ain't nobody» محفّز شامل للتحيز في جميع النماذج
• التراكيب النحوية تحفّز إعادة الكتابة بصورة متسقة

كيف رُصد التحيز وقيس؟

طوّر المؤلفون طريقة منهجية للتدقيق، وهي مؤشر conditional Dialect Group Invariance (cDGI) الذي يفصل التحيز الحقيقي للنموذج عن العوامل الخارجية المشوِّشة. وحدد التحليل على مستوى الخصائص أي علامات AAE بالتحديد تثير التحيز أكثر من غيرها.

وللتحقق من النتائج، أنشأ الباحثون REAL-AAE، وهي مجموعة بيانات تضم 17,479 زوجًا من الأمثلة بصيغ AAE/SAE/AAE_back مستخلصة من تغريدات طبيعية. وهذا أكبر بمقدار 2–6 أضعاف من جميع موارد AAE السابقة. وجرى التحقق من المجموعة آليًا (BERTScore F1 = 0.95) ويدويًا بمشاركة ثلاثة متحدثين أصليين بـ AAE (اتفاق دلالي بنسبة 83%). ويضمن هذا التحقق المزدوج أن المجموعة تعكس الدقائق الفعلية للهجة.

Activation steering: التصحيح دون إعادة تدريب

اقترح الباحثون طريقة activation steering، وهي أول تطبيق لها على التحيز اللهجي. وهي طريقة لا تتطلب تدريبًا، وتعمل في مرحلة الاختبار فقط، دون أي تغيير في أوزان النموذج.

وآلية عملها كالتالي: يستخرج causal tracing اتجاهات اللهجة من تنشيطات النموذج، ثم تُحقن هذه الاتجاهات في الطبقات المسؤولة عن التوليد. والنتيجة أن النموذج يحافظ على AAE في السياقات التي تناسبها.

النتائج لافتة: فـ activation steering يقلّص التحيز اللهجي بمقدار 5–20 ضعفًا مقارنة بأساليب الـ prompting، مع الحفاظ على سلاسة الكلام بالإنجليزية القياسية عندما تكون مطلوبة فعلًا. وهذا يثبت أن الحل ممكن دون إعادة تدريب النموذج بالكامل.

لماذا تُعدّ المسألة بالغة الأهمية؟

التحيز اللهجي شكل من أشكال الاستيعاب الثقافي الخفي. فنماذج LLM المدمجة في أنظمة التعليم والمنصات القانونية وأقسام الموارد البشرية والمساعدات الصوتية قد تصحح كلام المستخدمين بصمت. يدخل المستخدم نصًا بلهجته، فيعيده النظام بالإنجليزية القياسية، فتُمحى هويته اللغوية. وتُظهر الدراسة أن هذا التحيز يمكن رصده وتصحيحه بطريقة لا تتطلب إعادة تدريب.

أسئلة شائعة

لماذا تعيد نماذج LLM كتابة AAE؟

لأنها دُرّبت في معظمها على نصوص بالإنجليزية القياسية. فتفسّر النماذج AAE على أنها خطأ نحوي ينبغي تصحيحه وفق النمط السائد في بيانات التدريب.

هل تقتصر هذه المشكلة على الإنجليزية؟

تركز الدراسة على AAE/SAE، لكن هذا التحيز نموذجي لأي زوج من اللهجة واللغة القياسية. ومن المرجح أن تحيزًا مشابهًا موجود في لغات أخرى تشكّل فيها اللهجات أقلية في بيانات التدريب.

متى ستحصل النماذج التجارية على activation steering؟

ما زالت هذه طريقة بحثية فحسب. ويعتمد دمجها في نماذج LLM على الجهات المزوِّدة. لكن الدراسة تثبت أن الحل ممكن تقنيًا دون إعادة تدريب عميقة.