تعديل الأوزان دون إعادة تدريب يخفض نسبة الردود المتحيزة جنسيًا من 57.9% إلى 24.3%

اقترح فريق من مؤلفي ورقة بحثية نُشرت في Hugging Face Daily Papers طريقة تضعف ميل النماذج اللغوية إلى تنفيذ الأوامر الضارة دون اللجوء إلى إعادة التدريب. تعدّل الطريقة الأوزان مباشرة. وفي اختبارين تتضمن أوامرهما الطلب من النموذج أن يكذب، رفعت الطريقة متوسط نسبة الردود الصادقة بمقدار 6.2 و4.6 نقطة مئوية فوق أقوى بديل. وفي مهمة التعليمات التي تطلب من النموذج أن يكون متحيزًا جنسيًا، انخفض متوسط نسبة الردود المتحيزة جنسيًا من 57.9% إلى 24.3%، وإلى 11.9% عند الجمع مع prompt يدعو إلى الإنصاف.

كيف يعمل التعديل

تقوم الفكرة على التباين. لكل سلوك مستهدف، سواء كان الكذب بناءً على أمر أو الردود المتحيزة جنسيًا، تؤخذ مجموعة صغيرة من أزواج الأوامر. يُمرَّر النموذج أماميًا، دون تدرجات (gradients) ودون حلقة تدريب، ويُبنى تعديل الأوزان على الفرق في سلوكه بين طرفي كل زوج. لم تكشف الملخصات (annotation) عن التفاصيل الدقيقة لبناء التعديل، لكن المبدأ واضح: المطلوب forward pass فقط، لا fine-tuning كاملًا.

أهم ميزة عملية هي مكان حفظ التعديل. فوسائل الحماية المعتادة تعمل على مستوى الـ prompt: رسالة نظام تتضمن قواعد، أو تحذير، أو فلتر. وبإمكان المستخدم أو المهاجم أن يعيد كتابة هذه التعليمات أو يحذفها. أما هنا فالتغيير مدمج في الأوزان نفسها، ولا تلغيه أي مناورات بنص الطلب.

ماذا أظهرت الاختبارات

اختبر المؤلفون الطريقة على سلوكين ضارين وخمسة نماذج من نوع instruction-tuned. السلوك الأول هو «instructed falsehood»، حيث يُؤمَر النموذج صراحةً بالكذب. والثاني «instructed sexism»، حيث يُطلب منه رد متحيز جنسيًا. وهذه هي النتائج التي أوردها المؤلفون:

• معياران للأوامر التي تطلب الكذب: متوسط نسبة الردود الصادقة أعلى بمقدار 6.2 و4.6 نقطة مئوية من أقوى بديل.
• الدلالة الإحصائية: التحسن ذو دلالة إحصائية على ثلاثة نماذج من أصل خمسة، أما على النموذجين الآخرين فيبقى ضمن هامش الضجيج.
• سبعة أشكال للـ prompt: يُبقي التعديل نسبة الردود الصادقة أعلى مما يحققه التوجيه بالتنشيط (activation steering) على طبقة واحدة. والشرط صارم: تأتي أوامر الكذب بصيغ أحادية الدور لم تُستخدم عند بناء التعديل.
• التحيز الجنسي: انخفض متوسط نسبة الردود المتحيزة جنسيًا من 57.9% إلى 24.3%.
• الجمع مع prompt يدعو إلى الإنصاف: 11.9%.

ينبغي قراءة هذه الأرقام بحذر. فالزيادة البالغة 4.6–6.2 نقطة مئوية متواضعة، ولا يمكن تمييزها عن الضجيج على نموذجين من أصل خمسة. والأثر أوضح في التحيز الجنسي: انخفاض يتجاوز النصف. لكن بقاء 24.3% من الردود المتحيزة جنسيًا يعني أن ردًا واحدًا من كل أربعة ما زال يمر. فالطريقة لا تكفي وحدها حاجزًا، والمؤلفون لا يدّعون ذلك.

أين تفيد هذه الطريقة

أهم استنتاج من النتيجة المركبة أن تعديل الأوزان ووسائل الحماية القائمة على الـ prompt يكمّل كل منهما الآخر ولا يحل محله. فالانتقال من 57.9% إلى 11.9% من الردود المتحيزة جنسيًا لا يتحقق إلا بالجمع بينهما. وبالنسبة إلى الفرق التي تنشر نماذج مفتوحة، فهذه طبقة إضافية منخفضة التكلفة. فلا حاجة إلى وسم مجموعات بيانات كبيرة ولا إلى ساعات GPU لإعادة التدريب، بل تكفي مجموعة صغيرة من أزواج الأوامر الخاصة بالسلوك غير المرغوب المحدد.

والقيود واضحة أيضًا. فقد اختُبرت الطريقة على سلوكين وخمسة نماذج فقط. ولم يُظهر البحث إمكانية تعميمها على أنواع أخرى من الأوامر الضارة، مثل الهجمات السيبرانية أو توليد تعليمات خطرة. كما تبقى مسألة الصمود أمام الحوارات متعددة الأدوار والهجمات التكيفية، التي يعرف فيها الخصم بوجود التعديل، سؤالًا مفتوحًا، إذ تقتصر المقارنة مع activation steering على الصيغ أحادية الدور. وقبل الاعتماد على الطريقة، ينبغي تجربتها على بياناتك الخاصة، وفحص آثارها الجانبية على المهام العادية، وإبقاء وسائل الحماية القائمة على الـ prompt مفعّلة.