تعيد LLMs كتابة كلام الأمريكيين الأفارقة بشكل سري إلى الإنجليزية القياسية: بحث جديد
أثبت الباحثون أن LLMs من 14B إلى 70B معامل تعيد كتابة كلام الأمريكيين الأفارقة بشكل منتظم إلى الإنجليزية الأمريكية القياسية، حتى عندما يتطلب السياق الحفاظ على اللهجة. ابتكر المؤلفون طريقة activation steering التي تقلل هذا التحيز 5-20 مرة أفضل من prompting وأطلقوا مجموعة البيانات REAL-AAE التي تحتوي على 17500 زوج من الأمثلة من التغريدات.
معالج بواسطة الذكاء الاصطناعي من arXiv cs.CL؛ بتحرير Hamidun News
كشفت دراسة جديدة على arXiv عن مشكلة واسعة النطاق: ستة نماذج لغات حديثة (من 14 مليار إلى 70 مليار معامل) تعيد كتابة اللغة الإنجليزية الأفريقية الأمريكية (AAE) بشكل منهجي إلى اللغة الإنجليزية الأمريكية القياسية (SAE)، حتى عندما يتطلب السياق الحفاظ على اللهجة.
ما الانحياز الذي تم اكتشافه
اللغة الإنجليزية الأفريقية الأمريكية ليست خطأ، بل لهجة كاملة يتحدثها أكثر من 30 مليون شخص في الولايات المتحدة. ومع ذلك، تعامل نماذج اللغات الحديثة معها على أنها نص "غير صحيح" يجب تصحيحه إلى البديل القياسي.
اختبر المؤلفون ستة نماذج لغات معدلة بالتعليمات. في جميع الحالات، فضلت النماذج استمرار SAE حتى عندما كان السياق يتطلب بوضوح AAE. فعليًا، تعيد نماذج اللغات كتابة كلام المستخدمين، محل اللهجة بـ الإنجليزية القياسية تلقائيًا وبشكل غير مرئي.
- 6 نماذج معدلة بالتعليمات (14 مليار–70 مليار معامل)
- 30+ مليون متحدث بـ AAE
- النفي المركب (« ain't nobody ») — محفز انحياز عالمي في جميع النماذج
- البنى الصرفية تحفز إعادة الكتابة بشكل متسق
كيف تم اكتشافه وقياسه
طور المؤلفون طريقة تدقيق منهجية: مؤشر الثبات الشرطي لمجموعة اللهجة (cDGI)، الذي يفصل الانحياز الحقيقي للنموذج عن القطع الأثرية الخارجية. كشف التحليل على مستوى الميزات عن علامات AAE المحددة التي تسبب الانحياز بشكل متكرر.
للتحقق، أنشأ الباحثون REAL-AAE — مجموعة بيانات من 17,479 زوج AAE/SAE/AAE_back من التغريدات الطبيعية. هذا أكبر 2–6 مرات من جميع موارد AAE السابقة. تم التحقق من مجموعة البيانات تلقائيًا (BERTScore F1 = 0,95) ويدويًا من قبل ثلاثة متحدثي AAE (83% اتفاق دلالي). يضمن هذا التحقق المزدوج أن مجموعة البيانات تعكس الفروقات الحقيقية للهجة.
تنشيط التوجيه: الإصلاح دون إعادة التدريب
اقترح الباحثون activation steering — أول تطبيق لهذه الطريقة على الانحياز اللهجة. هذه طريقة خالية من التدريب تعمل فقط في وقت الاختبار، دون أي تغييرات في أوزان النموذج.
كيفية العمل: يستخرج التتبع السببي اتجاهات اللهجة من تنشيط النموذج، ثم يتم حقن هذه الاتجاهات في الطبقات المسؤولة عن التوليد. النتيجة: يحافظ النموذج على AAE في السياقات المناسبة.
النتائج مثيرة للإعجاب: يقلل activation steering من انحياز اللهجة 5–20 مرة أفضل من أساليب التصريح، مع الحفاظ على اللغة الإنجليزية القياسية السلسة عندما يكون ذلك ضروريًا حقًا. يثبت هذا أن حلاً ممكنًا دون إعادة تدريب كاملة للنموذج.
لماذا هذا حرج
الانحياز اللهجة هو شكل من أشكال الاستيعاب الثقافي المخفي. يمكن لنماذج اللغات المدمجة في أنظمة التعليم والمنصات القانونية والموارد البشرية ومساعدات الصوت أن تصحح بصمت كلام المستخدمين. يدخل المستخدم النص بلهجته، ينتج النظام المخرجات باللغة الإنجليزية القياسية، محو الهوية اللغوية. تظهر الدراسة أن هذا يمكن اكتشافه وإصلاحه بطريقة لا تتطلب إعادة تدريب.
الأسئلة الشائعة
لماذا تعيد نماذج اللغات كتابة AAE؟
لأنها تدرب بشكل أساسي على نصوص اللغة الإنجليزية القياسية. تفسر النماذج AAE على أنها خطأ نحوي يجب تصحيحه وفقًا للنمط السائد في بيانات التدريب.
هل هذه مشكلة فقط للغة الإنجليزية؟
تركز هذه الدراسة على AAE/SAE، لكن الانحياز نموذجي لأي زوج لهجة-لغة قياسية. ربما يوجد انحياز مشابه للغات أخرى حيث اللهجات الأقلية ممثلة بتمثيل ناقص في بيانات التدريب.
متى ستحصل النماذج التجارية على activation steering؟
هذا حاليًا طريقة البحث. يعتمد التكامل في نماذج اللغات على المزودين. ومع ذلك، تثبت الدراسة أن حلاً ممكنًا من الناحية التقنية دون إعادة تدريب عميقة.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.