SFT-as-context يعيد المهارات العامة إلى نماذج LLM المدرَّبة تدريبًا إضافيًا: فجوة لا تتجاوز 2,2 نقطة مئوية

التدريب الإضافي لنموذج لغوي يكلّفه في الغالب جزءًا من مهاراته السابقة. ويقترح مؤلفو ورقة بحثية منشورة على arXiv طريقة لتفادي هذه الكلفة دون خطوة واحدة من الانحدار التدرجي. تجعل طريقة SFT-as-context النموذج الأصلي (الأم) يجيب عن الطلب وفي سياقه إجابة نسخته المدرَّبة بأسلوب SFT. في اختبار شمل 19 زوجًا من «النموذج الأم — نموذج SFT» و11 اختبار أداء (بنشمارك)، بلغت الفجوة مع نموذج SFT في المهام المتخصصة نحو نقطتين مئويتين. أما في المهارات العامة فبقيت النتيجة في المتوسط ضمن 2,2 نقطة مئوية من النموذج الأم.

المشكلة: التخصص على حساب النسيان

يحوّل Supervised fine-tuning النموذج العام إلى متخصص في الرياضيات أو البرمجة أو مجال ضيق آخر. والأثر الجانبي معروف: تضيع بعض القدرات العامة التي كان يملكها النموذج الأم. وتزداد الصعوبة في الطلبات التي تحتاج إلى مجموعتي المهارات معًا. فقد يحل النموذج المدرَّب الجزء المتخصص بثقة، ثم يفشل في بقية الطلب. أما النموذج الأم فيفعل العكس.

وتُعالَج هذه المشكلة عادةً بإضافة بيانات عامة إلى التدريب، أو بدمج الأوزان، أو بخطط ضبط دقيق أكثر حذرًا. وتتطلب كل هذه الطرق موارد حوسبة وضبطًا دقيقًا. أما المؤلفون هنا فيسلكون طريقًا مختلفًا.

كيف تعمل SFT-as-context

تقوم الطريقة على خطوتين. أولًا، يصل الطلب إلى نموذج SFT فيُصدر إجابته. ثم يتلقى النموذج الأم الطلب نفسه مع هذه الإجابة في السياق، ويصوغ الجواب النهائي. لا تُمَس الأوزان. يكتسب النموذج الأم الأساليب المتخصصة عبر in-context learning، ويحتفظ في الوقت نفسه بقدراته العامة.

ومن نتائج ذلك أن كل طلب يستلزم تمريرتين عبر النماذج وسياقًا أطول. ولا تورد الملخّصة (abstract) بيانات عن زمن الاستجابة والتكلفة، لذا سيكون على المستخدمين تقديرها بأنفسهم.

ماذا أظهرت الاختبارات

قارن المؤلفون الطريقة بكلا نموذجَي الزوج: بنسخة SFT في المهام المتخصصة، وبالنموذج الأم في المهام العامة. أبرز الأرقام من الملخّصة:

• 19 زوجًا من «النموذج الأم — نموذج SFT» و11 اختبار أداء (بنشمارك).
• AIME 2024: التراجع عن نموذج SFT يبلغ 2,2 نقطة مئوية.
• LiveCodeBench: التراجع عن نموذج SFT يبلغ 2,1 نقطة مئوية.
• NutriBench-English: الفارق 2,0 بمقياس macro MAE.
• المهارات العامة: في المتوسط ضمن 2,2 نقطة مئوية من النموذج الأم.

وأكثر النتائج إثارة للاهتمام تخص المهام الواقعة على التقاطع بين المجالين. فقد حلّت الطريقة طلبات تتطلب قدرات متخصصة وعامة معًا، حتى حين عجز عنها كل من النموذج الأم ونموذج SFT منفردًا. تعمل إجابة المتخصص كتلميح، ويكمل النموذج الأم الناقص بمعارفه.

ولا يقتصر النهج على الأزواج «المتقاربة». فقد حسّنت إجابات نموذج SFT مفتوح صغير نتيجة نموذج LLM مغلق قوي، وتفوقت الثنائية على كل نموذج منهما وحده. وبالنسبة إلى الفرق التي تعمل عبر API ولا تستطيع تغيير الأوزان، فهذا هو الاستنتاج الأكثر عملية في البحث.

النظرية والانتباه

بنى المؤلفون نموذجًا بايزيًا واستخلصوا حدودًا للخطأ. ففي المهام المتخصصة يكون خطأ الطريقة محدودًا قياسًا بنموذج SFT، وفي المهام العامة قياسًا بالنموذج الأم. وهذه ضمانات داخل إطار نظري، وليست وعدًا بنتائج في أي سيناريو واقعي.

واختبر الباحثون الآلية أيضًا. فبحسب خرائط الانتباه، يوجّه النموذج الأم انتباهًا أكبر إلى إجابات SFT المفيدة وأقل إلى غير ذات الصلة. ويشبه هذا استخدامًا انتقائيًا للتلميح. لكن ذلك لا يضمن الحماية من التلميح الخاطئ، ولا يمكن أن نعرف من الملخّصة كيف تتصرف الطريقة عندما تكون إجابات SFT خاطئة بوضوح.

أين يفيد ذلك عمليًا

إذا كان لديك نموذج مدرَّب تدريبًا إضافيًا يعاني إخفاقات في المهام العامة، فيمكن تجربة SFT-as-context كخيار أساسي رخيص قبل التجارب المكلفة لدمج الأوزان. يكفي سكربت من استدعاءين. وللمنتجات القائمة على نماذج مغلقة يظهر مسار آخر: نموذج مجالي صغير على عتادك الخاص يقدّم إجابة مسودة، ثم يصقلها نموذج قوي من السحابة حتى تصل إلى النتيجة النهائية.

قبل التطبيق، يجدر قياس ثلاثة أمور: مكسب الجودة على بياناتك، ومضاعفة زمن الاستجابة واستهلاك الرموز (التوكنات)، ونسبة الحالات التي تسحب فيها إجابة SFT الخاطئة النتيجة النهائية إلى الأسفل. هذه الأرقام غير مكشوفة في ملخّصة البحث الأصلي، لذا سيكون القرار مبنيًا على قياساتكم الخاصة.