NVIDIA تضغط Kimi K3.1 Pro إلى 4 بت: أوزان بحجم 2.8 تريليون معامل تشغل نحو 1.4 تيرابايت
نشرت NVIDIA على Hugging Face نموذج Kimi K3.1 Pro من Moonshot AI بصيغة NVFP4، وهي تخزين الأوزان بدقة 4 بت بدلًا من 16 بت المعتادة. النموذج ضخم: 2.8 تريليون معامل، يعمل منها 104 مليارات على كل رمز (token). والأمر أشبه بالتغليف بالتفريغ من الهواء: المحتوى نفسه تقريبًا، لكن الأوزان تشغل نحو 1.4 تيرابايت بدلًا من 5.6 تيرابايت. وهذا يخفض كثيرًا عتبة الذاكرة اللازمة للاستضافة الذاتية، لكن جودة النموذج تستحق الاختبار على مهامكم الخاصة.
معالج بواسطة الذكاء الاصطناعي من TG: @cgevent (Метаверсище и ИИще)؛ بتحرير Hamidun News
كثيرًا ما تصطدم النماذج المفتوحة الضخمة بعقبة بسيطة: لا يوجد مكان لتشغيلها. فأوزان بحجم عدة تيرابايتات لا تتسع في خادم عادي، ولا يقدر على توفير عنقود GPU لها إلا قلة. لذلك يستحق منشور NVIDIA على Hugging Face الانتباه: فقد نشرت الشركة نموذج Kimi K3.1 Pro من Moonshot AI بصيغة NVFP4، أي «تغليف» الأوزان بدقة 4 بت بدلًا من 16 بت القياسية. وبحسبة تقريبية، تشغل أوزان النموذج ذي 2.8 تريليون معامل بهذه الصيغة نحو 1.4 تيرابايت بدلًا من 5.6 تيرابايت.
ما الذي نُشر بالضبط
وفق بطاقة النموذج، Kimi K3.1 Pro نموذج متعدد الوسائط بمعمارية مزيج الخبراء (Mixture of Experts، أو MoE). يبلغ إجمالي معاملاته 2.8 تريليون، لكن معالجة كل رمز تستخدم 104 مليارات فقط. تخيلوا مكتبة هائلة يفتح فيها القارئ عن كل سؤال بضعة رفوف مناسبة فقط، بدلًا من تقليب الكتب كلها. يقبل النموذج النصوص والصور، والحد المعلن لطول السياق هو 1 048 576 رمزًا، أي نحو مليون.
أعدّت NVIDIA هذه النسخة بنفسها باستخدام أداة NVIDIA Model Optimizer. وبحسب الوصف، تهدف الصيغة إلى تقليص حجم الأوزان لتسهيل نشر النموذج على عتاد خاص بالمستخدم.
NVFP4 بكلمات بسيطة
التكميم هو تخزين كل رقم بعدد أقل من البتات. يشغل المعامل الواحد عادةً 16 بت. أما NVFP4 فهي صيغة بفاصلة عائمة بدقة 4 بت من NVIDIA: تُجمَّع القيم في كتل صغيرة، ولكل كتلة معامل تحجيم خاص بها. وهذا يساعد على الاحتفاظ بقدر أكبر من الدقة رغم كثافة التعبئة.
لنحسب بشكل تقريبي:
- 16 بت: 2.8 تريليون معامل، أي نحو 5.6 تيرابايت للأوزان وحدها.
- 8 بت: نحو 2.8 تيرابايت.
- 4 بت: نحو 1.4 تيرابايت.
هذا تقدير لا يشمل معاملات التحجيم والبيانات الإضافية، لذا سيكون الحجم الفعلي للملفات أكبر قليلًا. لكن الفارق، وهو نحو أربعة أضعاف مقارنة بـ16 بت، يجيب مباشرة عن سؤال عدد وحدات GPU التي يجب شراؤها أو استئجارها. وثمة تحفظ مهم: المعاملات النشطة في MoE أقل، لكن جميع الخبراء يجب أن تبقى في الذاكرة، وإلا اضطررنا إلى تحميلها من القرص أثناء التشغيل. فالتوفير يأتي من حجم جميع الأوزان، لا من الـ104 مليارات النشطة.
ما الذي ينبغي التحقق منه قبل التشغيل
لا يتضمن المنشور الأصلي قياسات للجودة ولا للسرعة، لذلك من المبكر الحكم على مقدار ما فقده النموذج من الدقة بعد الضغط. كل تكميم هو مقايضة، وتكميم نموذج بهذا الحجم إلى 4 بت يجب اختباره على مهامكم الخاصة: البرمجة، والمستندات الطويلة، والعمل مع الصور.
وتبقى أسئلة عملية أخرى:
- الذاكرة اللازمة للسياق. الأوزان ليست سوى جزء من الاستهلاك. فإذا استُخدم السياق بطول مليون رمز فعليًا، فستلزم ذاكرة إضافية للكاش (KV-cache)، والتكميم لا يخفض حجم هذه الذاكرة.
- العتاد. صُممت NVFP4 لوحدات GPU من NVIDIA بالجيل الجديد. وعلى البطاقات الأقدم قد لا يتحول التوفير في الذاكرة إلى مكسب في السرعة، فراجعوا الوثائق للتأكد.
- أدوات التشغيل. تحققوا في البطاقة من محركات الاستدلال (inference) التي تدعم هذه النسخة والإصدارات المطلوبة.
- الترخيص. شروط الاستخدام مذكورة في بطاقة النموذج؛ وللاستخدام التجاري ينبغي قراءتها قبل النشر.
لماذا يهم ذلك
بالنسبة إلى الفرق التي تبني وكلاء (agents) وتريد إبقاء النموذج لديها، بسبب متطلبات البيانات أو تكلفة واجهات API، يُظهر هذا الإصدار اتجاهًا: شركة العتاد نفسها تُعدّ نسخًا مضغوطة من النماذج المفتوحة الكبيرة. وهذا يخفض عتبة الدخول لكنه لا يلغي العمل المطلوب. شغّلوا النسخة أولًا على اختباراتكم الخاصة وقارنوها ببديل أخف، ثم احسبوا تكلفة التملك. وإذا كانت الجودة على مهامكم مقبولة، فقد تكون نسخة 4 بت من نموذج بهذا الحجم أرخص تشغيلًا بشكل ملحوظ من النسخة كاملة الدقة.
- 21 نوفمبر 2026نموذج الفيديو AURA 2.0 يبادر بالحديث من تلقاء نفسه: الرد الصوتي يصل خلال 344 مللي ثانية
- 21 نوفمبر 2026Anthropic تنفّذ أكبر طرح عام أولي في التاريخ بقيمة 81.3 مليار دولار، لكن السيطرة بقيت بيد المؤسسين
- 21 نوفمبر 2026ONNX Runtime يختفي من GitHub: مايكروسوفت تُخفي المستودعات بعد اختراق إحدى الحزم
- 21 نوفمبر 2026مايكروسوفت تتيح للشركات ضبط نماذج MAI على بياناتها داخل Azure
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول ما الذي نُشر بالضبط؟
وفق بطاقة النموذج، Kimi K3.1 Pro نموذج متعدد الوسائط بمعمارية مزيج الخبراء (Mixture of Experts، أو MoE). يبلغ إجمالي معاملاته 2.8 تريليون، لكن معالجة كل رمز تستخدم 104 مليارات فقط. تخيلوا مكتبة هائلة يفتح فيها القارئ عن كل سؤال بضعة رفوف مناسبة فقط، بدلًا من تقليب الكتب كلها. يقبل النموذج النصوص والصور، والحد المعلن لطول السياق هو 1 048 576 رمزًا، أي نحو مليون. أعدّت NVIDIA هذه النسخة بنفسها باستخدام أداة NVIDIA Model Optimizer.
ما أبرز التفاصيل حول NVFP4 بكلمات بسيطة؟
التكميم هو تخزين كل رقم بعدد أقل من البتات. يشغل المعامل الواحد عادةً 16 بت. أما NVFP4 فهي صيغة بفاصلة عائمة بدقة 4 بت من NVIDIA: تُجمَّع القيم في كتل صغيرة، ولكل كتلة معامل تحجيم خاص بها. وهذا يساعد على الاحتفاظ بقدر أكبر من الدقة رغم كثافة التعبئة. لنحسب بشكل تقريبي: 16 بت: 2.8 تريليون معامل، أي نحو 5.6 تيرابايت للأوزان وحدها. 8 بت: نحو 2.8 تيرابايت. 4 بت: نحو 1.4 تيرابايت. هذا تقدير لا يشمل معاملات التحجيم والبيانات الإضافية، لذا سيكون الحجم الفعلي للملفات أكبر قليلًا.
ما أبرز التفاصيل حول ما الذي ينبغي التحقق منه قبل التشغيل؟
لا يتضمن المنشور الأصلي قياسات للجودة ولا للسرعة، لذلك من المبكر الحكم على مقدار ما فقده النموذج من الدقة بعد الضغط. كل تكميم هو مقايضة، وتكميم نموذج بهذا الحجم إلى 4 بت يجب اختباره على مهامكم الخاصة: البرمجة، والمستندات الطويلة، والعمل مع الصور. وتبقى أسئلة عملية أخرى: الذاكرة اللازمة للسياق. الأوزان ليست سوى جزء من الاستهلاك. فإذا استُخدم السياق بطول مليون رمز فعليًا، فستلزم ذاكرة إضافية للكاش (KV-cache)، والتكميم لا يخفض حجم هذه الذاكرة. العتاد. صُممت NVFP4 لوحدات GPU من NVIDIA بالجيل الجديد.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.