MSR ينقل التنوع من LLM إلى مخطط مستخلص من المدونة: خمس مهام وثلاث خطوات

اقترح فريق من المؤلفين طريقة Mine-Sample-Render (MSR) التي تعالج رتابة النماذج التوليدية دون إعادة تدريب. تقوم الفكرة على حساب التنوع قبل الرجوع إلى النموذج، اعتمادًا على إحصاءات مدونة واقعية. يتكون المسار من ثلاث خطوات، وقد اختُبر على خمس مهام، من توليد توقعات الطقس إلى أصول 3D التي تنشئها الوكلاء (agents). نُشرت الدراسة في Hugging Face Daily Papers.

المشكلة: كل إجابة جيدة، لكنها جميعًا متشابهة

تقدّم النماذج الحديثة نتائج فردية عالية الجودة. لكن إذا طلبنا مئة نتيجة، تتبيّن أن المئة تدور حول الحبكة نفسها مع تنويعات طفيفة. وطلب «اجعلها مختلفة قدر الإمكان» في الـ prompt لا يجدي كثيرًا، إذ يشير المؤلفون صراحةً إلى أن النماذج تسحب عيّنات متنوعة بصورة ضعيفة حتى مع وجود تعليمات واضحة.

بالنسبة إلى مستخدم واحد، هذا مجرد إزعاج. أما لمن يبني مجموعات بيانات اصطناعية، أو يختبر الوكلاء (agents) على مستخدمين محاكين، أو يولّد نسخًا من الواجهات، فهي مشكلة بنيوية. فإذا كان توزيع المخرجات أضيق من توزيع العالم الواقعي، فلا يمكن التدريب عليه ولا الاختبار به.

يقارب MSR المسألة من زاوية مختلفة. فهو لا يحاول إقناع النموذج بأن يكون متنوعًا، بل يسحب منه هذه الوظيفة.

كيف يعمل Mine-Sample-Render

يصف الاسم المراحل الثلاث بالترتيب.

• Mine. يُستخلص من مدونة نواتج واقعية مخطط فئوي قابل للتفسير، أي مجموعة من السمات وقيمها الممكنة. وتُجمع في الوقت نفسه إحصاءات للسحب العيّني، أي مدى تكرار هذه القيم في الواقع العملي.
• Sample. تُسحب من الإحصاءات المتحصَّلة تكوينات للسمات. وهذا سحب عيّنات عادي من توزيع، دون أي مشاركة من الشبكة العصبية.
• Render. يتلقى النموذج التوليدي تكوينًا جاهزًا ويعمل مُصيِّرًا شرطيًا: يحوّل مجموعة السمات إلى نص أو صفحة أو صورة أو كائن 3D.

توزيع الأدوار هنا هو لبّ الفكرة. فقرار «ماذا نولّد» تتخذه إجراءات شفافة وقابلة للتحقق، ولا يقرر النموذج سوى «كيف يبدو الناتج». فإذا كانت الأمطار، مثلًا، تظهر في نسبة معينة من النشرات الجوية في المدونة، فستعيد التكوينات إنتاج هذه النسبة، بدلًا من الحبكات التي تفضّلها النماذج مثل «مشمس مع غيوم خفيفة».

ما الذي اختُبر وما النتيجة

اختبر المؤلفون MSR على خمس مهام مختلفة:

• توليد توقعات الطقس؛
• محاكاة المستخدمين؛
• تصميم صفحات الويب؛
• text-to-image؛
• أصول 3D التي أنشأتها الوكلاء (agents).

النتيجة المعلنة أن MSR يحسّن التوافق مع توزيع المدونة ويرفع تنوع النتائج، مع تقييم جودة المخرجات أيضًا. ولا يتضمن الوصف المتاح للدراسة أرقامًا محددة للتحسن، لذا ينبغي الرجوع إلى النص الكامل للدراسة وجداولها لمعرفة حجم الأثر.

ومن المهم أيضًا مراعاة القيود الناجمة عن بنية الطريقة نفسها. فتنوع الطريقة لن يتجاوز حدود المخطط: إذا كانت المدونة منحازة أو أغفل المخطط سمة مهمة، فسينتقل الانحياز إلى التوليد. والسمات الفئوية تصف جيدًا بنية نشرة الطقس أو صفحة الهبوط (landing page)، لكنها قد تكون أقل كفاءة مع الفروق الأسلوبية الدقيقة. وإضافة إلى ذلك، يجب أن يلتزم المُصيِّر بالشرط بدقة. فإذا تجاهل النموذج جزءًا من السمات، ضاع مكسب السحب العيّني.

أين يمكن التطبيق الآن

الميزة العملية الأهم لـ MSR أنه يعمل في مرحلة الاستدلال (inference). فالأوزان لا تتغير، ويمكن استخدام نموذج مغلق لا يُتاح إلا عبر API. وهذا مناسب للفرق التي لا تستطيع إعادة التدريب أو لا ترغب فيها.

فيما يلي المواضع التي يبدو فيها النهج قابلًا للتطبيق:

• البيانات الاصطناعية. بدلًا من التوليد «بـ prompt واحد»، يُستنتج أولًا مخطط السمات من المدونة الخاصة، ثم تُسحب التكوينات وتُمرَّر إلى النموذج.
• اختبار الوكلاء (agents). يساعد المستخدمون المحاكون ذوو التباين الواقعي في الملفات الشخصية والنوايا على اكتشاف أعطال لا تظهر في السيناريوهات المتشابهة.
• التصميم والمحتوى. عند توليد نسخ من الصفحات أو الصور، يحدد المخطط محاور اختلاف يمكن التحكم بها، وتمنع الإحصاءات انجراف جميع النسخ نحو المتوسط.

من المعقول أن تبدأ بخطوة صغيرة: حدّد 5–10 سمات، واحسب تكراراتها في أمثلة واقعية، ثم قارن توزيع المخرجات بالمدونة قبل التطبيق وبعده. فإذا تقلص التباين، يمكن توسيع المخطط. وإن لم يتقلص، فالمشكلة على الأرجح في المُصيِّر أو في جودة المخطط نفسه، ويظهر ذلك فورًا لأن كل خطوة في المسار يمكن فحصها على حدة.