Nunchaku Lite: توليد الصور بدقة 4 بت في Diffusers — ذاكرة VRAM أقل بنسبة تصل إلى 50%

أطلقت Hugging Face في 23 يوليو 2026 تقنية Nunchaku Lite، وهي دمج أصلي للاستدلال بدقة 4 بت لنماذج الانتشار في مكتبة Diffusers. تخفّض التقنية استهلاك ذاكرة الفيديو بنسبة تصل إلى 50% وتسرّع توليد الصور بنحو 30%.

ما هو Nunchaku وSVDQuant

Nunchaku هو محرّك استدلال يعمل على CUDA وينفّذ طريقة التكميم SVDQuant لمحوّلات الانتشار (diffusion transformers). ومع Nunchaku Lite تنتقل هذه التقنية لأول مرة مباشرة إلى Diffusers: يُحمَّل النموذج بالدالة المعتادة `from_pretrained()` دون pipeline منفصل ودون تجميع يدوي، وتُنزَّل أنوية CUDA اللازمة تلقائيًا عبر الحزمة `kernels` عند أول تشغيل.

يكمن الفارق الجوهري بين Nunchaku ومعظم المحرّكات الأخرى في نمط W4A4: تُضغط الأوزان والتنشيطات معًا إلى 4 بت. أما الطرق المعتادة التي تقتصر على ضغط الأوزان (weight-only) فتقلّل استهلاك الذاكرة لكنها لا تسرّع الحسابات؛ أما هنا فتتسارع حلقة إزالة الضوضاء (denoising) نفسها.

«ينقل SVDQuant القيم الشاذة في التنشيطات إلى الأوزان، ويمثّل الجزء الأثقل من كل مصفوفة أوزان بفرع صغير منخفض الرتبة (low-rank) بدقة 16 بت، ثم يكمّم الباقي إلى 4 بت»، بحسب المدونة التقنية لـ

Hugging Face.

تستند طريقة SVDQuant إلى ورقة بحثية نُشرت في نوفمبر 2024 على arXiv من فريق MIT HAN Lab. وتعمل الطبقات الثقيلة (attention وMLP) بالنواة `svdq_w4a4` مع تصحيح منخفض الرتبة، بينما تعمل طبقات التعديل (modulation) بالنواة `awq_w4a16` بأوزان 4 بت وتنشيطات 16 بت.

ما مدى تسريع التوليد

على بطاقة RTX PRO 6000 وبدقة 1024×1024، يحقق Nunchaku Lite مكاسب قابلة للقياس في جميع المؤشرات. يستغرق التشغيل الأساسي بصيغة BF16 مدة 3,00 ثانية و31,1 غيغابايت من ذاكرة الفيديو، بينما يستغرق بصيغة NVFP4 مدة 2,27 ثانية و20,6 غيغابايت فقط.

• BF16 (المرجع): 3,00 ث، 31,1 غيغابايت من الذاكرة — تسريع 1,0x
• NVFP4: 2,27 ث، 20,6 غيغابايت — تسريع 1,35x
• NVFP4 + torch.compile: 1,68 ث، 20,6 غيغابايت — تسريع 1,8x
• NVFP4 + مشفّر نصي NF4: 2,29 ث، 16,0 غيغابايت من الذاكرة
• نموذج ERNIE-Image-Turbo: صورة 1024×1024 في نحو 1,7 ث على RTX 5090 (نحو 12 غيغابايت مقابل نحو 24 غيغابايت في BF16)

يرفع الجمع مع `torch.compile` سرعة التوليد حتى 1,8 مرة، ويخفّض استبدال المشفّر النصي بمشفّر NF4 ذروة الذاكرة إلى 16,0 غيغابايت، وهو ما يكفي لتشغيل النماذج الثقيلة على البطاقات الاستهلاكية.

ما العتاد والنماذج المدعومة

يعمل Nunchaku Lite على معظم بطاقات NVIDIA الحديثة، لكن مخطط التكميم يتوقف على المعمارية. تتطلب صيغة NVFP4 عبر النواة `svdq_w4a4` معمارية Blackwell (RTX 50 وRTX PRO 6000 وB200)، بينما تُستخدم صيغة INT4 على معماريات Turing وAmpere وAda (RTX 30/40 وA100 وL40S). أما معماريتا Volta وHopper فغير مدعومتين، ويُصدر المدقّق (validator) خطأً واضحًا فور التحميل.

نُشرت النماذج الجاهزة للتشغيل بالفعل ضمن منظمة lite-infer على Hugging Face Hub: ERNIE-Image-Turbo (بنسختي INT4 وNVFP4)، وKrea 2 Turbo (NVFP4)، وFLUX.2 Klein 4B. وللتكميم الخاص أصدر الفريق أداة diffuse-compressor، التي تفحص النموذج وتجري معايرة SVDQuant وتبني Diffusers-pipeline وتنشر النتيجة على Hub.

ماذا يعني ذلك

لم يعد الاستدلال بدقة 4 بت حكرًا على نسخ منفصلة (forks) من المشاريع، بل أصبح جزءًا من المكتبة الرئيسية لتوليد الصور. يحصل المطورون على استهلاك VRAM أقل بنحو النصف وتسريع ملحوظ بسطر برمجي واحد تقريبًا، ما يتيح تشغيل نماذج الانتشار الرائدة على بطاقات الألعاب العادية.

الأسئلة الشائعة

على أي بطاقات رسومية يعمل Nunchaku Lite؟

تتطلب صيغة NVFP4 بطاقات Blackwell، أي RTX 50 أو RTX PRO 6000 أو B200. وعلى بطاقات RTX 30/40 وA100 وL40S يعمل مخطط INT4. أما معماريتا Volta وHopper فغير مدعومتين إطلاقًا.

ما مقدار الذاكرة الأقل المطلوبة؟

على RTX PRO 6000 تنخفض ذروة VRAM من 31,1 غيغابايت في BF16 إلى 20,6 غيغابايت في NVFP4، وإلى 16,0 غيغابايت مع مشفّر النص NF4، أي بما يقارب النصف.