Qwen يختار بنفسه ما يتذكره: بيانات replay من نموذج مجمَّد تقلّل النسيان

الضبط الدقيق للنموذج اللغوي يكاد دائمًا يُفسد شيئًا مما كان يجيده من قبل. وتختبر ورقة بحثية جديدة على arXiv (cs.CL، 2610.12602) فكرة غير مألوفة: أن يتولى النموذج نفسه حماية مهاراته القديمة. أجرى المؤلفون ضبطًا دقيقًا لنماذج Qwen بأحجام مختلفة على سلسلة من التعليمات، ووجدوا أن نسخة مجمَّدة من النموذج قادرة على توليد بيانات replay تقلّل النسيان، بما في ذلك في مهام غير مدرجة في قائمة الحفظ. وعلى حجم 4B، اختار النموذج كذلك المهام التي ينبغي إعادة توليدها، وكان اختياره أفضل من القرعة العشوائية. أما النماذج الأصغر فلم تُظهر هذه الميزة.

المشكلة: قائمة الحفظ ناقصة دائمًا

يتطلب الإطار الكلاسيكي للتعلم المستمر (continual learning) تحديد مجموعة من المهام التي لا يجوز أن يتراجع الأداء عليها. غير أن معرفة النموذج أوسع من أي مجموعة كهذه، والنسيان لا يقتصر على البنود التي يجري اختبارها. وما لم تُدرجه في الاختبار يتدهور دون أن يلاحظه أحد.

أظهرت أعمال حديثة أن النموذج قادر على إنتاج replay مفيد بنفسه دون الوصول إلى بيانات التدريب الأصلية. ويطوّر المؤلفون هذا الخط ويتساءلون: هل يستطيع النموذج المساعدة في اختيار أهداف الحفظ بحيث يحمي نفسه على نطاق أوسع مما يفعله إنسان بقائمة محدودة؟

كيف صُمّمت التجربة

نُظّمت أوصاف المهام وأمثلتها في الدراسة ضمن Task Banks. يمكن اختيار السجلات من البنك ودمجها، ومنها يولّد النموذج المجمَّد بيانات replay للضبط الدقيق. بعد ذلك يُجرى continual instruction tuning على نماذج عائلة Qwen بأحجام مختلفة.

وثمة تفصيل مهم في المقياس. فإلى جانب متوسط الدقة، يتتبع المؤلفون أيًّا من الإجابات الصحيحة سابقًا ما زال صحيحًا. وقد يبدو المتوسط مستقرًا بينما يفقد النموذج بعض الإجابات الصحيحة ويكتسب أخرى بالمصادفة.

• النماذج: Qwen بأحجام مختلفة، والنتيجة الأساسية المتعلقة باختيار المهام تحققت على 4B.
• الطريقة: replay يولّده نموذج مجمَّد انطلاقًا من سجلات Task Banks.
• المقياس الرئيسي: الاحتفاظ بالإجابات الصحيحة سابقًا (retention)، بما في ذلك المهام الواقعة خارج البنك.
• مقارنة الاختيار: انتقاء يراعي المهمة الجديدة مقابل انتقاء عشوائي.
• القيد: ميزانية ثابتة من أمثلة التدريب.

ثلاث نتائج

الأولى: المهمة الجديدة ومعدل التعلم (learning rate) يؤثران في المهارات التي تتدهور. وتتبّع الإجابات الصحيحة سابقًا يكشف خسائر يخفيها متوسط الدقة.

الثانية: replay المولَّد يقلّل النسيان في المهام الواقعة خارج البنك. ودمج البنوك الجزئية يعزز الأثر: إذ يأتي متوسط الاحتفاظ بالإجابات الصحيحة سابقًا أعلى منه في أي بنك منفرد، وذلك على جميع الأحجام التي جرى اختبارها.

الثالثة: يمكن للنموذج أن يشارك في اختيار أهداف replay. فعلى 4B، يرفع الانتقاء الذي يراعي المهمة الجديدة متوسط الاحتفاظ في المهام المؤجَّلة مقارنةً بالانتقاء العشوائي، ويبقى المكسب في المهمة الجديدة نفسها مماثلًا. أما النماذج الأصغر فلم تُظهر هذه الميزة.

ثمن الحماية

لا يوجد هنا تأمين مجاني. فعند ثبات ميزانية الأمثلة، يحسّن استبدال جزء من بيانات المهمة الجديدة ببيانات replay مستوى الحفظ، لكنه يقلّص المكسب في المهمة الجديدة. ولم يُكشف عن حجم هذه المقايضة في الملخص، ولذلك يتعين تقديرها من النص الكامل وعلى بياناتكم الخاصة.

وثمة مسألة تتعلق بالحجم أيضًا. فبما أن القدرة على اختيار أهداف replay ظهرت على 4B فقط، لا يمكن عدّها عامة لكل النماذج. والنتائج مستمدة من عائلة واحدة، ويجب التحقق من انتقالها إلى معماريات أخرى بشكل منفصل.

خلاصات عملية للفرق التي تضبط النماذج

إذا كنتم تكيّفون نموذجًا مفتوحًا لمهمتكم ولم تحتفظوا بالبيانات الأصلية، فإن توليد replay بواسطة نسخة مجمَّدة يصبح خيارًا عمليًا للحماية. ابدؤوا بعدة بنوك مهام صغيرة وادمجوها، ولا تعتمدوا على بنك واحد. قيّموا لا متوسط الدقة فحسب، بل أيضًا نسبة الإجابات الصحيحة المحفوظة، بما في ذلك المهام الواقعة خارج مجموعة الاختبار لديكم. وضعوا الميزانية في الحسبان: فكل مثال replay يأخذ مكان بيانات المهمة الجديدة، ويُستحسن ضبط التوازن بالتجربة. أما الاختيار التلقائي لمهام replay فيستحق الاختبار على نماذج من 4B فأكثر، وعلى الأحجام الأصغر يبقى من الأحكم حاليًا الاكتفاء بالأساليب المجرَّبة.