تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارCNews ИИ→ المصدر

Nodul تشغّل DeepSeek V4.1 Flash على 2 H200 بدلًا من 8 وترفع سرعة التوليد إلى 36,4 توكن/ث

تتطلب الإعدادات القياسية لمحرك vLLM لتشغيل DeepSeek V4.1 Flash ثماني بطاقات رسوميات، لكن Nodul شغّلت النموذج على بطاقتي H200 فقط. فقد نقلت «الخبراء» (الشبكات الفرعية في النموذج) الذين نادرًا ما يُستخدمون إلى الذاكرة العشوائية، وأبقت الخبراء الأكثر استخدامًا في ذاكرة الفيديو. وعند 20 جلسة متزامنة ارتفعت السرعة من 5,4 إلى 36,4 توكن في الثانية لكل وكيل. وهذا مفيد للفرق التي تمنعها سياسات الأمن من إرسال الشيفرة البرمجية إلى سحابات خارجية.

معالج بواسطة الذكاء الاصطناعي من CNews ИИ؛ بتحرير Hamidun News
Nodul تشغّل DeepSeek V4.1 Flash على 2 H200 بدلًا من 8 وترفع سرعة التوليد إلى 36,4 توكن/ث
المصدر: CNews ИИ. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليCNews ИИ ↗
رئيس التحرير
حقيقة رئيسية #1استئجار بطاقتي H200 يكلّف 400–500 ألف روبل شهريًا، مقابل نحو 4 ملايين لثماني بطاقات GPU
حقيقة رئيسية #2عند 30 جلسة تنخفض السرعة الوسيطة إلى 20,1 توكن في الثانية
لا يمكن تنزيل توزيع الخبراء جاهزًايجب بناؤه وفق حمل العمل الخاص بكل فريق

شغّلت الشركة الروسية Nodul نموذج DeepSeek V4.1 Flash لوكلاء البرمجة على بطاقتين رسوميتين من Nvidia H200، مع أن الإعدادات القياسية لمحرك vLLM (البرنامج الذي يشغّل النموذج على البطاقات الرسومية) مصمَّمة لثماني بطاقات. وعلى الخادم نفسه ارتفعت سرعة التوليد من 5,4 إلى 36,4 توكن في الثانية لكل وكيل عند 20 جلسة متزامنة. والتوكن يعادل تقريبًا كلمة أو جزءًا من كلمة، أي أن الحديث هنا عن سرعة كتابة مساعد الذكاء الاصطناعي للإجابة أو للشيفرة. وبالنسبة للفرق التي تمنعها دائرة الأمن من إرسال الشيفرات المصدرية والمستندات إلى سحابات خارجية، فهذه فرصة لتشغيل خادم خاص أرخص بثلاث إلى أربع مرات.

لماذا لم تتسع البطاقتان للنموذج؟

وفق Nodul، لم تجد الشركة في المصادر الإنجليزية والصينية إعدادًا جاهزًا يتيح خدمة 20 جلسة متوازية على بطاقتي H200 بسرعة لا تقل عن 20 توكن في الثانية لكل وكيل. والحساب بسيط. فبعد تشغيل برنامج التشغيل والمحرك بقي على كل H200 نحو 139 جيجابايت من ذاكرة الفيديو، بينما احتاجت أوزان النموذج وحدها إلى نحو 147 جيجابايت. والذاكرة مطلوبة كذلك للسياق، إذ لكل جلسة وكيل مجموعتها الخاصة من الملفات المقروءة وسجلها.

جاء الحل من بنية النموذج نفسها. يتكوّن DeepSeek من شبكات فرعية كثيرة تسمى «الخبراء»، ويلجأ إلى كل منها بتواتر مختلف. الأمر أشبه بمكتب وأرشيف: المجلدات التي تعمل بها كل يوم تبقى في متناول اليد، والباقي يُحفظ في الخزانة. وهكذا فعلت Nodul: أبقت أوزان الخبراء الأكثر طلبًا في ذاكرة الفيديو، ونقلت الخبراء النادري الاستخدام إلى الذاكرة العشوائية للخادم. وسمّى الفريق هذا النهج Lossless Expert Tiering، أي التوزيع متعدد المستويات للخبراء دون فقدان في الجودة.

كيف تضاعفت السرعة قرابة سبع مرات؟

أكثر أجزاء القصة فائدة هو ترتيب الخطوات.

وُضع أول توزيع لمحرك vLLM المعدَّل استنادًا إلى إحصاءات عامة: فقد وُضع على GPU الخبراء الذين استخدمهم النموذج أكثر من غيرهم في مهام مختلفة. وعند 20 جلسة متوازية ارتفعت السرعة إلى 17,3 توكن في الثانية لكل وكيل.

ثم جمع الفريق إحصاءات على حمل قريب من جلسات وكلاء البرمجة الفعلية. وتبيّن أن النموذج يستخدم عند العمل مع الشيفرة مجموعة مختلفة من الخبراء بوتيرة أعلى. وبعد نقل أوزانهم إلى GPU أضاف تغيير التوزيع وحده 62%، فبلغت السرعة 28,1 توكن في الثانية.

وأخيرًا، كان احتياطي ذاكرة الفيديو المخصص للسياق عند 20 جلسة مشغولًا بأقل من النصف، فخُصص جزء من المساحة الفارغة للخبراء. كما عُلِّم المحرك تغيير توزيع الخبراء بحسب تواتر استدعائهم دون إعادة تشغيل. وأضافت هذه التغييرات معًا نحو 30% أخرى، ورفعت السرعة الوسيطة إلى 36,4 توكن في الثانية لكل وكيل. أما نقطة الانطلاق على الخادم نفسه فكانت 5,4.

التكلفة والقيود

للتحقق، أعادت Nodul تشغيل 1018 طلبًا من جلسات عمل فعلية. وعند 20 جلسة متوازية بدأ التوليد خلال 2,5 ثانية في تسع حالات من كل عشر. أما عند 30 جلسة فبلغت السرعة الوسيطة 20,1 توكن في الثانية لكل وكيل، أي أن حدّ 20 توكن يكاد يكون عند أقصاه. وأُجريت جميع القياسات على بطاقتي H200 على خادم واحد.

يقدّر المدير العام ومؤسس Nodul تكلفة استئجار خادم بثماني بطاقات GPU بنحو 4 ملايين روبل شهريًا. أما لبطاقتي H200 فالتقدير 400–500 ألف روبل شهريًا عند الاستئجار بالساعة، إذا أُطفئ الخادم ليلًا. وبالنسبة لفريق من 25–27 شخصًا تبلغ التكلفة نحو 15–20 ألف روبل للمطوّر الواحد. ويرى أن هذا الخيار يناسب الفرق الصغيرة والمتوسطة التي يُمنع عليها إرسال الشيفرة والمستندات إلى خدمات خارجية.

وهذه التحفظات مهمة. فالأرقام قدّمتها الشركة نفسها، ولا توجد في المادة قياسات مستقلة. ولا يمكن تنزيل توزيع الخبراء جاهزًا: فالنموذج يلجأ إلى خبراء مختلفين في مهام مختلفة، والتوزيع المبني على حمل معيّن يعمل بشكل أسوأ على حمل آخر. وإذا كانت وكلاؤكم لا تتعاملون مع الشيفرة فقط، بل مع المستندات أو التحليلات أيضًا، فسيتعيّن جمع الإحصاءات من جديد.

ماذا نفعل عمليًا؟

لمن يبني منظومة داخلية مع وكلاء برمجة، الخلاصة هي: قبل استئجار ثماني بطاقات «مقررة»، قيسوا كيف يستخدم حملكم النموذج تحديدًا. ففي النماذج القائمة على الخبراء يمكن حساب تواتر الاستدعاء والاستفادة منه: ينقل المرء النادر إلى الذاكرة العشوائية، ويفرّغ ذاكرة الفيديو لما هو مطلوب الآن. ويتطلب هذا النهج تعديل المحرك وإجراء قياسات، لكن بالنسبة لفريق لا يُسمح له باستخدام API خارجي، فإن التوفير بعدة أضعاف يبرر الجهد.

القصة

أسئلة وأجوبة حول الخبر

لماذا لم تتسع البطاقتان للنموذج؟

وفق Nodul، لم تجد الشركة في المصادر الإنجليزية والصينية إعدادًا جاهزًا يتيح خدمة 20 جلسة متوازية على بطاقتي H200 بسرعة لا تقل عن 20 توكن في الثانية لكل وكيل. والحساب بسيط. فبعد تشغيل برنامج التشغيل والمحرك بقي على كل H200 نحو 139 جيجابايت من ذاكرة الفيديو، بينما احتاجت أوزان النموذج وحدها إلى نحو 147 جيجابايت. والذاكرة مطلوبة كذلك للسياق، إذ لكل جلسة وكيل مجموعتها الخاصة من الملفات المقروءة وسجلها. جاء الحل من بنية النموذج نفسها. يتكوّن DeepSeek من شبكات فرعية كثيرة تسمى «الخبراء»، ويلجأ إلى كل منها بتواتر مختلف.

كيف تضاعفت السرعة قرابة سبع مرات؟

أكثر أجزاء القصة فائدة هو ترتيب الخطوات. وُضع أول توزيع لمحرك vLLM المعدَّل استنادًا إلى إحصاءات عامة: فقد وُضع على GPU الخبراء الذين استخدمهم النموذج أكثر من غيرهم في مهام مختلفة. وعند 20 جلسة متوازية ارتفعت السرعة إلى 17,3 توكن في الثانية لكل وكيل. ثم جمع الفريق إحصاءات على حمل قريب من جلسات وكلاء البرمجة الفعلية. وتبيّن أن النموذج يستخدم عند العمل مع الشيفرة مجموعة مختلفة من الخبراء بوتيرة أعلى. وبعد نقل أوزانهم إلى GPU أضاف تغيير التوزيع وحده 62%، فبلغت السرعة 28,1 توكن في الثانية.

ماذا نفعل عمليًا؟

لمن يبني منظومة داخلية مع وكلاء برمجة، الخلاصة هي: قبل استئجار ثماني بطاقات «مقررة»، قيسوا كيف يستخدم حملكم النموذج تحديدًا. ففي النماذج القائمة على الخبراء يمكن حساب تواتر الاستدعاء والاستفادة منه: ينقل المرء النادر إلى الذاكرة العشوائية، ويفرّغ ذاكرة الفيديو لما هو مطلوب الآن. ويتطلب هذا النهج تعديل المحرك وإجراء قياسات، لكن بالنسبة لفريق لا يُسمح له باستخدام API خارجي، فإن التوفير بعدة أضعاف يبرر الجهد.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…