NVIDIA Nemotron-Labs-3-Puzzle-75B: ضغط النموذج بنسبة 37% يضاعف سرعة الخادم مرتين
في 9 يوليو 2026 أطلقت NVIDIA نموذج Nemotron-Labs-3-Puzzle-75B، وهو نسخة مضغوطة من Nemotron-3-Super بعدد معاملات أقل بنسبة 37%. يتناوب منهج Puzzle بين الضغط الموجَّه للعتاد وتقطير خفيف للمعرفة. على عقدة واحدة من 8xB200 يحقق النموذج إنتاجية أعلى بمقدار 2.03x عند 100 رمز في الثانية لكل مستخدم. وعلى H100 ارتفع التزامن (concurrency) من طلب واحد إلى 8 طلبات عند سياق قدره 1 مليون رمز.
معالج بواسطة الذكاء الاصطناعي من MarkTechPost؛ بتحرير Hamidun News
في 9 يوليو 2026 أطلقت NVIDIA نموذج Nemotron-Labs-3-Puzzle-75B، وهو نسخة مضغوطة من نموذج اللغة Nemotron-3-Super. استخدم مهندسو NVIDIA منهج Puzzle الذي يتناوب بين الضغط الموجَّه للعتاد ومراحل استعادة المعرفة. نتيجةً لذلك تقلّص حجم النموذج بنسبة 37%، من 120.7B إلى 75.3B معامل، بينما ارتفع أداؤه على مستوى الخوادم بمقدار 2.03x. وعلى عقدة واحدة تضم ثمانية مسرّعات B200 يخدم النموذج 100 رمز في الثانية لكل مستخدم. أما على مسرّع H100 واحد، فقد قفزت الإنتاجية عند أقصى سياق قدره 1 مليون رمز من طلب واحد إلى 8 طلبات متزامنة.
كيف يعمل منهج Puzzle
أُنشئ Nemotron-Labs-3-Puzzle-75B وفق منهج Puzzle الجديد، الذي يعالج مشكلة كلاسيكية: عند ضغط النموذج يفقد جزءًا من قدراته. وجد مهندسو NVIDIA الحل في التناوب بين خطوتين.
في خطوة الضغط البنيوي، تحذف الخوارزمية بعض الخلايا العصبية أو تُقلّل كثافتها، مسترشدةً باستهلاك الطاقة والنطاق الترددي على العتاد المحدد. وهذا ليس مجرد قصّ للأوزان، بل تحليل للملف التعريفي للعتاد. بعد ذلك تأتي مرحلة قصيرة من تقطير المعرفة، إذ «يعلّم» النموذج الأصلي Nemotron-3-Super النسخة المضغوطة ويستعيد المعرفة المفقودة.
تتكرر العملية على نحو تكراري: ضغط ← تقطير ← ضغط ← تقطير. والنتيجة نموذج يحتفظ بقدرته على الإجابة عن الأسئلة المعقدة وكتابة الشيفرة وتحليل السياق، لكنه يحتاج إلى ذاكرة أقل بنسبة 37%.
- النموذج الأصلي: 120.7B معامل، منها 12.8B نشطة في آن واحد
- النموذج المضغوط: 75.3B معامل، منها 9.3B نشطة
- نوع البنية: Mixture of Experts (MoE) هجينة
- المنهج: ضغط تكراري موجَّه للعتاد وتقطير للمعرفة
- التوفير في الذاكرة: نحو 37%
الأداء على مسرّعات مختلفة
الميزة الرئيسية لنموذج Nemotron-Labs-3-Puzzle-75B هي الإنتاجية، لا سرعة الطلب الفردي. وهذا أمر حاسم لواجهات API السحابية والخدمات المؤسسية التي تخدم آلاف المستخدمين في وقت واحد.
على أحدث العتاد، أي عقدة تضم ثمانية مسرّعات NVIDIA B200، يحقق نموذج Puzzle إنتاجية أعلى بمقدار 2.03x من Nemotron-3-Super. ويُضمن لكل مستخدم معدل معالجة لا يقل عن 100 رمز في الثانية.
أما على مسرّعات H100 الأكثر توفرًا، فالمكسب لافت أيضًا. فعند سياق قدره 1 مليون رمز ارتفع التوازي من طلب واحد إلى 8 طلبات متزامنة. أي أن مسرّع H100 الواحد بات يخدم عددًا أكبر من المستخدمين بمقدار 8 أضعاف عند زمن التأخير نفسه.
لماذا يهم ذلك الصناعة
تشير نتائج Nemotron-Labs-3-Puzzle-75B إلى أن حقبة النماذج العملاقة غير المُحسَّنة تقترب من نهايتها. فالشركات لا تقيّم حجم النموذج بقدر ما تقيّم نسبة الجودة إلى الأداء على عتاد بعينه. وقد أظهرت NVIDIA أن حتى النماذج التي تضم عشرات المليارات من المعاملات يمكن ضغطها ضغطًا رشيدًا.
من المرجّح أن يصبح منهج Puzzle معيارًا لتهيئة LLM للنشر الصناعي. وستحصل الشركات الناشئة والمتوسطة الحجم على أداة تتيح لها أخذ نماذج قوية وتحسينها لمراكز بياناتها الخاصة، سواء كانت سحابة أو أجهزة edge.
ماذا يعني ذلك
تُظهر NVIDIA أن المستقبل للنماذج المُحسَّنة لا العملاقة. فالضغط بنسبة 37% مع تسريع بنسبة 200% ليس تسوية، بل تقدّم واضح. وستحصل الشركات التي تنشر LLM على أداة لتوفير تكاليف الحوسبة دون فقدان في الوظائف.
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول كيف يعمل منهج Puzzle؟
أُنشئ Nemotron-Labs-3-Puzzle-75B وفق منهج Puzzle الجديد، الذي يعالج مشكلة كلاسيكية: عند ضغط النموذج يفقد جزءًا من قدراته. وجد مهندسو NVIDIA الحل في التناوب بين خطوتين. في خطوة الضغط البنيوي، تحذف الخوارزمية بعض الخلايا العصبية أو تُقلّل كثافتها، مسترشدةً باستهلاك الطاقة والنطاق الترددي على العتاد المحدد. وهذا ليس مجرد قصّ للأوزان، بل تحليل للملف التعريفي للعتاد. بعد ذلك تأتي مرحلة قصيرة من تقطير المعرفة، إذ «يعلّم» النموذج الأصلي Nemotron-3-Super النسخة المضغوطة ويستعيد المعرفة المفقودة. تتكرر العملية على نحو تكراري: ضغط ← تقطير ← ضغط ← تقطير. والنتيجة نموذج يحتفظ بقدرته عل
ما أبرز التفاصيل حول الأداء على مسرّعات مختلفة؟
الميزة الرئيسية لنموذج Nemotron-Labs-3-Puzzle-75B هي الإنتاجية، لا سرعة الطلب الفردي. وهذا أمر حاسم لواجهات API السحابية والخدمات المؤسسية التي تخدم آلاف المستخدمين في وقت واحد. على أحدث العتاد، أي عقدة تضم ثمانية مسرّعات NVIDIA B200، يحقق نموذج Puzzle إنتاجية أعلى بمقدار 2.03x من Nemotron-3-Super. ويُضمن لكل مستخدم معدل معالجة لا يقل عن 100 رمز في الثانية. أما على مسرّعات H100 الأكثر توفرًا، فالمكسب لافت أيضًا. فعند سياق قدره 1 مليون رمز ارتفع التوازي من طلب واحد إلى 8 طلبات متزامنة. أي أن مسرّع H100 الواحد بات يخدم عددًا أكبر من المستخدمين بمقدار 8 أضعاف عند زمن التأخير ن
ما أبرز التفاصيل حول لماذا يهم ذلك الصناعة؟
تشير نتائج Nemotron-Labs-3-Puzzle-75B إلى أن حقبة النماذج العملاقة غير المُحسَّنة تقترب من نهايتها. فالشركات لا تقيّم حجم النموذج بقدر ما تقيّم نسبة الجودة إلى الأداء على عتاد بعينه. وقد أظهرت NVIDIA أن حتى النماذج التي تضم عشرات المليارات من المعاملات يمكن ضغطها ضغطًا رشيدًا. من المرجّح أن يصبح منهج Puzzle معيارًا لتهيئة LLM للنشر الصناعي. وستحصل الشركات الناشئة والمتوسطة الحجم على أداة تتيح لها أخذ نماذج قوية وتحسينها لمراكز بياناتها الخاصة، سواء كانت سحابة أو أجهزة edge.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.