Omni-Diffusion-Distill يسرّع dLLM متعدد الوسائط 18 مرة: 8 خطوات بدل 128

قدّم مؤلفو ورقة بحثية منشورة على arXiv (نسخة أولية) طريقة Omni-Diffusion-Distill، وهي طريقة تقطير على مرحلتين للنماذج اللغوية الانتشارية الموحّدة متعددة الوسائط. تخفّض الطريقة توليد الصور من 128 إلى 8 خطوات لفك الترميز، والفهم متعدد الوسائط من 512 إلى 64. وهذا يعني تسريعًا في زمن التشغيل بمقدار 18,2 و21,2 مرة. يحقق النموذج الطالب 0,828 على GenEval و83,0 على DPG-Bench في تحويل النص إلى صورة (text-to-image)، ويحصل في مهام الفهم على 20,0 بتقييم GPT على MM-Vet.

لماذا تُعدّ dLLM الموحّدة بطيئة

تستبدل dLLM الموحّدة متعددة الوسائط بنموذجين منفصلين، أحدهما للصور والآخر للفهم، بنية واحدة. ويجري كل شيء في فضاء رموز (tokens) منفصل، النص والصور معًا. أما الثمن فهو فك الترميز التكراري: يُحسّن النموذج قناع الرموز تدريجيًا، فيحتاج الرد الواحد إلى عشرات أو مئات التمريرات الأمامية.

طُوّرت طرق التقطير القائمة بعدد قليل من الخطوات (few-step) لغرض واحد فقط: إما توليد الصور وإما توليد النص. أما كيفية ضغط dLLM متعدد الوسائط منفصل بالكامل في نموذج طالب واحد مع الحفاظ على التوليد والفهم معًا، فظلّت مسألة مفتوحة. وهذا ما يتناوله البحث.

كيف يعمل التقطير

في المرحلة الأولى يتعلم الطالب تخطّي خطوات فك الترميز. ولهذا يعيد إنتاج مسارات المعلّم المخزّنة مؤقتًا. وفي المرحلة الثانية يُدرَّب مجددًا على حالات وسيطة مأخوذة من تشغيلاته الخاصة. وبذلك يرى الأخطاء التي يرتكبها فعليًا عند فك الترميز القصير، لا مسارات المعلّم المثالية فقط.

يعالج المؤلفون على حدة مصدرين للتدهور ينشآن في الإعداد الموحّد تحديدًا:

• تقلّل عقوبة التصادم الزوجية (pairwise collision penalty) التكرارات عند فك ترميز النص بالتوازي. فحين يختار النموذج عدة رموز في خطوة واحدة، يميل إلى إنتاج الرمز نفسه.
• يمنع التوجيه (guidance) المتسق إنتروبيًّا انهيار الإنتروبيا. ويحدث هذا الانهيار عندما يُضبط الطالب على توزيع المعلّم «الحاد» أثناء توليد الصور.

أرقام من الورقة

• توليد الصور: من 128 إلى 8 خطوات، بتسريع 18,2x.
• الفهم متعدد الوسائط: من 512 إلى 64 خطوة، بتسريع 21,2x.
• GenEval: 0,828؛ DPG-Bench: 83,0.
• MM-Vet (تقييم GPT): 20,0.
• وصف الصور على COCO: 57,2، أي ضعف نتيجة المعلّم البالغة 28,4 عند عدد الخطوات نفسه.

ثمة تفصيل يستحق الانتباه. فالمكسب في الزمن (18,2x و21,2x) أكبر من نسبة تقليص عدد الخطوات (16x و8x). ولا يشرح الملخص السبب. ربما يعود ذلك إلى كلفة الخطوة الواحدة أو إلى تبسيط التوجيه (guidance)، لكنه مجرد افتراض، والجواب يجب البحث عنه في النص الكامل للورقة. كما تُظهر المقارنة مع المعلّم على COCO عند ميزانية خطوات متساوية أن dLLM العادي يخسر في الجودة بوضوح عند التقليص الحاد لعدد الخطوات، بينما يحافظ النموذج المقطَّر على مستواه.

أين يمكن أن يفيد ذلك

بالنسبة لمن يبني منتجات متعددة الوسائط على dLLM الانتشارية، فالخلاصة العملية الرئيسية هي أن زمن الاستجابة لم يعد حجة ضد هذه الفئة من النماذج. فثماني خطوات للصورة و64 للفهم أقرب إلى السيناريوهات التفاعلية من مئات التمريرات. وأكثر المستفيدين هي التطبيقات التي يجب أن يرسم فيها نموذج واحد ويصف في آن واحد: المساعدات ومحررات الصور وأدوات التجارة الإلكترونية (e-commerce).

أما التحفظات فهي المعتادة في النسخ الأولية من الأبحاث. فالنتائج لم تخضع لمراجعة الأقران، وقاسها المؤلفون أنفسهم على معايير اختاروها. وتظل القيم المطلقة على MM-Vet متواضعة. ولا يذكر الملخص شيئًا عن إتاحة الشيفرة والأوزان. وقبل اعتماد الطريقة في الإنتاج (production)، ينبغي انتظار إعادة إنتاج النتائج على نماذج أخرى والتحقق منها في أحمال عمل حقيقية.