باحثون يعلّمون نماذج اللغة الكبيرة التكيّف مع اللهجة: منهج CAP و10 عائلات من النماذج

تردّ نماذج الدردشة بالإنجليزية القياسية في الغالب، أيًّا كانت اللهجة التي يتحدث بها المستخدم. وقد فحص باحثون ما يحدث فعليًا داخل مرحلة ما بعد التدريب. فاختاروا 10 عائلات من النماذج المفتوحة وحلّلوا كل مرحلة فيها: الضبط الدقيق الخاضع للإشراف (supervised fine-tuning)، وDPO، والتعلم المعزَّز. والخلاصة أن ردودًا تبدو متطابقة تخفي معاملة غير متكافئة للهجات. ففي تحديث DPO يحظى الإملاء البريطاني والأسترالي بالأفضلية على AAE (African American English) والسينغليش في العائلات العشر كلها. ولمعالجة ذلك اقترح المؤلفون CAP، أي calibrated accommodation pairs، وهي مجموعة بيانات للتفضيلات.

ما يظهر في التحديث لا في الرد

يركّز التدقيق المعتاد على مخرجات النموذج. يكتب المستخدم بلهجته، فيرد النموذج بالإنجليزية القياسية، فتبدو الصورة متوازنة: الجميع يُوحَّدون بالطريقة نفسها. ويرى المؤلفون أن هذا غير كافٍ. فمرحلة ما بعد التدريب تقوم عمومًا بتوحيد الردود على أي إشارة غير رسمية، لكن ذلك مجرد سطح الظاهرة.

وللنظر أعمق، قرأ الباحثون ما يفضّله كل تحديث بالضبط. فأخذوا ردّين متطابقين في المضمون: أحدهما يوافق لهجة المستخدم والآخر لا يوافقها. ثم قارنوا اتجاه انزياح النموذج، مع تصحيح النتيجة بحسب مدى احتمال كل رد قبل التدريب. وبدون هذه المعايرة قد يختلط الأمر بين «النموذج يكتب هكذا أصلًا في أحيان كثيرة» و«التدريب يدفعه إلى الكتابة هكذا».

وبعد التصحيح تختلف الصورة عمّا يبدو ظاهرًا. فتحديث DPO يفضّل مطابقة الإملاء البريطاني والأسترالي، ولا يميل إلى مطابقة AAE والسينغليش. وتكررت هذه النتيجة في العائلات العشر كلها. ومع ذلك فإن النماذج نفسها قادرة على إنتاج سمات AAE إذا طُلب منها ذلك. أي أن القدرة موجودة، لكن التدريب على التفضيلات لا يشجّعها افتراضيًا.

CAP: أزواج تكافئ كثافة اللهجة

يُبنى CAP كبيانات تفضيلات بشرطين. الأول أن يُكافأ النموذج على مطابقة كثافة لهجة المستخدم. والثاني أن تبقى الإنجليزية القياسية لمستخدمي الإنجليزية القياسية. والجزء الثاني مهم: فبدونه يتحول المنهج إلى وضع «لهجي» شامل لم يطلبه أحد.

وأعطى الاختبار على نموذج مفتوح بالكامل النتائج التالية:

• يزداد التقارب في السمات اللهجية التي لم يتدرب عليها CAP؛
• لم يُرصد نمو ملحوظ في اللهجة لدى مستخدمي الإنجليزية القياسية؛
• لا يتأثر الالتزام بالتعليمات؛
• تحقق الأزواج أحادية الجانب مكسبًا مماثلًا، لكن ذلك يأتي فقط من الإفراط: إذ يتجاوز النموذج أسلوب المستخدم ويفرض اللهجة عليه.

لماذا تُعدّ الأزواج أحادية الجانب أسوأ

أبسط طريقة لدفع النموذج إلى الرد بلهجة ما هي جمع أزواج يفوز فيها الرد اللهجي دائمًا. وبذلك يتحسن مقياس التقارب. لكن النموذج يبدأ بالحديث «بلهجة أكثف» من المستخدم نفسه، ويطبّق ذلك حيث لا يلزم. ويسمي المؤلفون هذه الظاهرة الإفراط في التكيّف (overshooting). وهكذا يصبح رقم التقارب مضلِّلًا إذا لم تُضبط الكثافة. أما الأزواج المعايَرة فتزيل هذا الاختلال: فالمكافأة مرتبطة بمقدار اللهجة الذي استخدمه المستخدم، لا بمجرد وجود سمات لهجية.

ما الذي يجب تغييره في مسار التقييم

يخص الاستنتاج العملي الرئيسي عمليات التدقيق. فإذا اقتصر الفريق على فحص ردود النموذج، فقد لا يلاحظ أن مرحلة DPO رسّخت بالفعل تفضيلات لصالح أنواع معينة من الإنجليزية. والمطلوب النظر في التحديث نفسه: مقارنة أزواج متطابقة المضمون، ومراعاة الاحتمال الأصلي لكل رد.

أما لمن يجمعون بيانات التفضيلات، فالخلاصة: لا تتحققوا فقط من أن النموذج يتكيّف، بل من مدى تكيّفه أيضًا. والاختبار على مستخدمي الإنجليزية القياسية ضروري، وإلا فإن التحسن لمجموعة سيتحول إلى تدهور لمجموعة أخرى. أما الاختبار على سمات لم ترد في التدريب فيُظهر ما إذا كان النموذج تعلّم تكيّفًا عامًا أم حفظ مجموعة من التراكيب المحددة.

نُشرت الشيفرة على GitHub في المستودع kouzhizhuo/cap-accommodation. وحتى الآن لم يُختبر المنهج إلا على نموذج واحد مفتوح بالكامل، لكن التدقيق عبر 10 عائلات يوفّر بروتوكولًا جاهزًا يمكن تشغيله على أي نموذج آخر.