ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارTG: @cgevent (Метаверсище и ИИще)→ المصدر

NVIDIA تضغط Kimi K3.1 Pro إلى 4 بت: أوزان بحجم 2.8 تريليون معامل تشغل نحو 1.4 تيرابايت

نشرت NVIDIA على Hugging Face نموذج Kimi K3.1 Pro من Moonshot AI بصيغة NVFP4، وهي تخزين الأوزان بدقة 4 بت بدلًا من 16 بت المعتادة. النموذج ضخم: 2.8 تريليون معامل، يعمل منها 104 مليارات على كل رمز (token). والأمر أشبه بالتغليف بالتفريغ من الهواء: المحتوى نفسه تقريبًا، لكن الأوزان تشغل نحو 1.4 تيرابايت بدلًا من 5.6 تيرابايت. وهذا يخفض كثيرًا عتبة الذاكرة اللازمة للاستضافة الذاتية، لكن جودة النموذج تستحق الاختبار على مهامكم الخاصة.

معالج بواسطة الذكاء الاصطناعي من TG: @cgevent (Метаверсище и ИИще)؛ بتحرير Hamidun News
NVIDIA تضغط Kimi K3.1 Pro إلى 4 بت: أوزان بحجم 2.8 تريليون معامل تشغل نحو 1.4 تيرابايت
المصدر: TG: @cgevent (Метаверсище и ИИще). كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليTG: @cgevent (Метаверсище и ИИще) ↗
رئيس التحرير
حقيقة رئيسية #1إجمالي المعاملات 2.8 تريليون، منها 104 مليارات نشطة لكل رمز (MoE)
حقيقة رئيسية #2يقبل النصوص والصور، وطول السياق 1 048 576 رمزًا
حقيقة رئيسية #3أجريت عملية التكميم (quantization) في NVIDIA Model Optimizer، ولا توجد قياسات للجودة

كثيرًا ما تصطدم النماذج المفتوحة الضخمة بعقبة بسيطة: لا يوجد مكان لتشغيلها. فأوزان بحجم عدة تيرابايتات لا تتسع في خادم عادي، ولا يقدر على توفير عنقود GPU لها إلا قلة. لذلك يستحق منشور NVIDIA على Hugging Face الانتباه: فقد نشرت الشركة نموذج Kimi K3.1 Pro من Moonshot AI بصيغة NVFP4، أي «تغليف» الأوزان بدقة 4 بت بدلًا من 16 بت القياسية. وبحسبة تقريبية، تشغل أوزان النموذج ذي 2.8 تريليون معامل بهذه الصيغة نحو 1.4 تيرابايت بدلًا من 5.6 تيرابايت.

ما الذي نُشر بالضبط

وفق بطاقة النموذج، Kimi K3.1 Pro نموذج متعدد الوسائط بمعمارية مزيج الخبراء (Mixture of Experts، أو MoE). يبلغ إجمالي معاملاته 2.8 تريليون، لكن معالجة كل رمز تستخدم 104 مليارات فقط. تخيلوا مكتبة هائلة يفتح فيها القارئ عن كل سؤال بضعة رفوف مناسبة فقط، بدلًا من تقليب الكتب كلها. يقبل النموذج النصوص والصور، والحد المعلن لطول السياق هو 1 048 576 رمزًا، أي نحو مليون.

أعدّت NVIDIA هذه النسخة بنفسها باستخدام أداة NVIDIA Model Optimizer. وبحسب الوصف، تهدف الصيغة إلى تقليص حجم الأوزان لتسهيل نشر النموذج على عتاد خاص بالمستخدم.

NVFP4 بكلمات بسيطة

التكميم هو تخزين كل رقم بعدد أقل من البتات. يشغل المعامل الواحد عادةً 16 بت. أما NVFP4 فهي صيغة بفاصلة عائمة بدقة 4 بت من NVIDIA: تُجمَّع القيم في كتل صغيرة، ولكل كتلة معامل تحجيم خاص بها. وهذا يساعد على الاحتفاظ بقدر أكبر من الدقة رغم كثافة التعبئة.

لنحسب بشكل تقريبي:

  • 16 بت: 2.8 تريليون معامل، أي نحو 5.6 تيرابايت للأوزان وحدها.
  • 8 بت: نحو 2.8 تيرابايت.
  • 4 بت: نحو 1.4 تيرابايت.

هذا تقدير لا يشمل معاملات التحجيم والبيانات الإضافية، لذا سيكون الحجم الفعلي للملفات أكبر قليلًا. لكن الفارق، وهو نحو أربعة أضعاف مقارنة بـ16 بت، يجيب مباشرة عن سؤال عدد وحدات GPU التي يجب شراؤها أو استئجارها. وثمة تحفظ مهم: المعاملات النشطة في MoE أقل، لكن جميع الخبراء يجب أن تبقى في الذاكرة، وإلا اضطررنا إلى تحميلها من القرص أثناء التشغيل. فالتوفير يأتي من حجم جميع الأوزان، لا من الـ104 مليارات النشطة.

ما الذي ينبغي التحقق منه قبل التشغيل

لا يتضمن المنشور الأصلي قياسات للجودة ولا للسرعة، لذلك من المبكر الحكم على مقدار ما فقده النموذج من الدقة بعد الضغط. كل تكميم هو مقايضة، وتكميم نموذج بهذا الحجم إلى 4 بت يجب اختباره على مهامكم الخاصة: البرمجة، والمستندات الطويلة، والعمل مع الصور.

وتبقى أسئلة عملية أخرى:

  • الذاكرة اللازمة للسياق. الأوزان ليست سوى جزء من الاستهلاك. فإذا استُخدم السياق بطول مليون رمز فعليًا، فستلزم ذاكرة إضافية للكاش (KV-cache)، والتكميم لا يخفض حجم هذه الذاكرة.
  • العتاد. صُممت NVFP4 لوحدات GPU من NVIDIA بالجيل الجديد. وعلى البطاقات الأقدم قد لا يتحول التوفير في الذاكرة إلى مكسب في السرعة، فراجعوا الوثائق للتأكد.
  • أدوات التشغيل. تحققوا في البطاقة من محركات الاستدلال (inference) التي تدعم هذه النسخة والإصدارات المطلوبة.
  • الترخيص. شروط الاستخدام مذكورة في بطاقة النموذج؛ وللاستخدام التجاري ينبغي قراءتها قبل النشر.

لماذا يهم ذلك

بالنسبة إلى الفرق التي تبني وكلاء (agents) وتريد إبقاء النموذج لديها، بسبب متطلبات البيانات أو تكلفة واجهات API، يُظهر هذا الإصدار اتجاهًا: شركة العتاد نفسها تُعدّ نسخًا مضغوطة من النماذج المفتوحة الكبيرة. وهذا يخفض عتبة الدخول لكنه لا يلغي العمل المطلوب. شغّلوا النسخة أولًا على اختباراتكم الخاصة وقارنوها ببديل أخف، ثم احسبوا تكلفة التملك. وإذا كانت الجودة على مهامكم مقبولة، فقد تكون نسخة 4 بت من نموذج بهذا الحجم أرخص تشغيلًا بشكل ملحوظ من النسخة كاملة الدقة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي نُشر بالضبط؟

وفق بطاقة النموذج، Kimi K3.1 Pro نموذج متعدد الوسائط بمعمارية مزيج الخبراء (Mixture of Experts، أو MoE). يبلغ إجمالي معاملاته 2.8 تريليون، لكن معالجة كل رمز تستخدم 104 مليارات فقط. تخيلوا مكتبة هائلة يفتح فيها القارئ عن كل سؤال بضعة رفوف مناسبة فقط، بدلًا من تقليب الكتب كلها. يقبل النموذج النصوص والصور، والحد المعلن لطول السياق هو 1 048 576 رمزًا، أي نحو مليون. أعدّت NVIDIA هذه النسخة بنفسها باستخدام أداة NVIDIA Model Optimizer.

ما أبرز التفاصيل حول NVFP4 بكلمات بسيطة؟

التكميم هو تخزين كل رقم بعدد أقل من البتات. يشغل المعامل الواحد عادةً 16 بت. أما NVFP4 فهي صيغة بفاصلة عائمة بدقة 4 بت من NVIDIA: تُجمَّع القيم في كتل صغيرة، ولكل كتلة معامل تحجيم خاص بها. وهذا يساعد على الاحتفاظ بقدر أكبر من الدقة رغم كثافة التعبئة. لنحسب بشكل تقريبي: 16 بت: 2.8 تريليون معامل، أي نحو 5.6 تيرابايت للأوزان وحدها. 8 بت: نحو 2.8 تيرابايت. 4 بت: نحو 1.4 تيرابايت. هذا تقدير لا يشمل معاملات التحجيم والبيانات الإضافية، لذا سيكون الحجم الفعلي للملفات أكبر قليلًا.

ما أبرز التفاصيل حول ما الذي ينبغي التحقق منه قبل التشغيل؟

لا يتضمن المنشور الأصلي قياسات للجودة ولا للسرعة، لذلك من المبكر الحكم على مقدار ما فقده النموذج من الدقة بعد الضغط. كل تكميم هو مقايضة، وتكميم نموذج بهذا الحجم إلى 4 بت يجب اختباره على مهامكم الخاصة: البرمجة، والمستندات الطويلة، والعمل مع الصور. وتبقى أسئلة عملية أخرى: الذاكرة اللازمة للسياق. الأوزان ليست سوى جزء من الاستهلاك. فإذا استُخدم السياق بطول مليون رمز فعليًا، فستلزم ذاكرة إضافية للكاش (KV-cache)، والتكميم لا يخفض حجم هذه الذاكرة. العتاد. صُممت NVFP4 لوحدات GPU من NVIDIA بالجيل الجديد.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…