ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
بنية تحتيةتحليل · على الرادارX: @aiwithmayank→ المصدر

Blink يُخرج المعالج المركزي من عملية خدمة نماذج LLM ويخفّض زمن الرمز الأول حتى 8.47 مرة

أثناء توليد النموذج لإجابته، كثيرًا ما تنتظر وحدة GPU المعالج المركزي (CPU)، فهو الذي يستقبل الطلبات ويجمعها في دفعات ويقرر ما سيُحسَب بعد ذلك. يُسند نظام Blink هذه المهام إلى بطاقة الشبكة SmartNIC ووحدة GPU نفسها، فيخرج المعالج المركزي من دورة العمل. وفي أفضل الحالات انخفض زمن الوصول إلى الرمز الأول (P99، أي لـ99% من الطلبات) بمقدار 8.47 مرة، وتراجعت الطاقة اللازمة لكل رمز بنسبة 48.6%. وإذا كان خادمك يتباطأ عند ازدحام المعالج المركزي، فتحقق مما إذا كانت وحدة GPU تقف عاطلة عن العمل.

معالج بواسطة الذكاء الاصطناعي من X: @aiwithmayank؛ بتحرير Hamidun News
Blink يُخرج المعالج المركزي من عملية خدمة نماذج LLM ويخفّض زمن الرمز الأول حتى 8.47 مرة
المصدر: X: @aiwithmayank. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @aiwithmayank ↗
رئيس التحرير
حقيقة رئيسية #1كل رمز لاحق أسرع حتى 3.40 مرة (P99)، والإنتاجية أعلى حتى 2.1 مرة
حقيقة رئيسية #2عند امتلاء المعالج المركزي تباطأت المحركات المعتادة حتى مرتبتين من حيث الحجم، بينما حافظ Blink على أدائه
يتطلب النظام SmartNIC ووحدة GPUفالمعالج المركزي لا يغادر الخادم

تخيّل أنك أرسلت سؤالًا إلى روبوت دردشة وتنظر إلى شاشة فارغة، رغم أن على الخادم بطاقة رسوميات باهظة الثمن جاهزة تمامًا للحساب. هي لا تنتظر بيانات ولا عمليات حسابية، بل تنتظر أمرًا من معالج مركزي (CPU) عادي. أظهر باحثون أن هذا المعالج المسؤول عن الجدولة يصبح في أنظمة مثل vLLM وSGLang وTensorRT-LLM عنق زجاجة في كثير من الأحيان. أما نظامهم Blink فيعمل في الوضع التشغيلي دونه: فقد انخفض زمن الوصول إلى الرمز الأول (أول جزء من الإجابة) في أفضل الحالات بمقدار 8.47 مرة. والمقصود هنا مؤشر P99، أي الزمن الذي تنجز ضمنه 99% من الطلبات، وهو عمليًا أقرب إلى أسوأ سيناريو يراه المستخدم في الواقع. وإضافة إلى ذلك، تنخفض الطاقة المستهلكة لكل رمز بنسبة 48.6%.

أين تضيع وحدة GPU وقتها

تتشابه المحركات الحديثة لتشغيل نماذج LLM في بنيتها. يستقبل المعالج المركزي الطلبات الواردة، ويجمعها في دفعات (batches)، أي مجموعات تُحسَب معًا، ويخطط لما سيُحسَب بعد ذلك، ويدير الذاكرة المخصصة لـKV-cache. وهي الذاكرة التي يخزّن فيها النموذج الجزء المعالَج سابقًا من الحوار حتى لا يعيد حسابه من جديد.

يتضح الأمر أكثر بمثال العيادة الطبية. يعمل المعالج المركزي بمثابة موظف الاستقبال: يسجّل المرضى، ويوزعهم على الغرف، ويخبر الطبيب بمن هو التالي. أما الطبيب، أي وحدة GPU، فقد يكون متفرغًا وجاهزًا، لكنه لن يبدأ الفحص دون توجيه من موظف الاستقبال. وما دام المعالج مشغولًا بأمر آخر، تظل المعدات الغالية عاطلة.

وفي الخادم الفعلي، لا ينقطع انشغال المعالج: تسجيل الأحداث (logging)، والمراقبة، وحزمة الشبكة، والخدمات المجاورة. وحين حمّل الباحثون الخادم المضيف عمدًا بمهام ثقيلة منافسة، تباطأت الأنظمة المعتادة حتى مرتبتين من حيث الحجم. وهذا يعادل نحو مئة ضعف في أسوأ الحالات.

كيف يعمل Blink

الفكرة هي إزالة الوسيط من وضع الخدمة المستقر. يتألف التصميم من ثلاثة أجزاء:

  • بطاقة الشبكة SmartNIC، أي بطاقة شبكة بمعالج خاص بها، تستقبل كل طلب وتضعه مباشرة في ذاكرة GPU عبر تقنية RDMA (وصول مباشر إلى الذاكرة دون مشاركة المعالج)؛
  • نواة تعمل باستمرار داخل GPU (persistent kernel) تجمع الدفعات وتجدول العمل بنفسها؛
  • النواة نفسها تدير KV-cache، بينما لا يشارك المعالج المركزي للخادم في دورة العمل.

وبلغة العيادة: يطّلع الطبيب بنفسه على قائمة الانتظار في الاستقبال ويقرر بنفسه من يستدعي بعد ذلك، ولا يتصل به أحد عبر الهاتف الداخلي.

ما أظهرته الاختبارات

قارن المؤلفون Blink بكل من vLLM وSGLang وTensorRT-LLM. وفي جميع البنود ورد تعبير «حتى»، أي أن الأرقام تخص أفضل الظروف:

  • زمن الوصول إلى الرمز الأول (P99) أقل بمقدار 8.47 مرة؛
  • زمن كل رمز لاحق (P99) أقل بمقدار 3.40 مرة؛
  • الإنتاجية في مرحلة التوليد أعلى بمقدار 2.1 مرة؛
  • استهلاك الطاقة لكل رمز أقل بنسبة 48.6%.

ويستحق الثبات إشارة منفصلة. فحين كان معالج الخادم المضيف محمّلًا فوق طاقته، تراجع أداء الأنظمة التقليدية بشدة. أما Blink فظل مستقرًا، لأن الاستدلال (inference) لم يعد يعتمد على المضيف المحمَّل.

القيود وما يجب فعله عمليًا

لا ينبغي المبالغة في تقدير هذه النتيجة. فـBlink لا يزيل المعالج المركزي من الخادم كليًا: إذ يظل المعالج لازمًا لكل ما عدا ذلك، وكل ما في الأمر أنه يغادر المسار الحرج أثناء إجابة النموذج. ولا يزال النظام معتمدًا على GPU وSmartNIC، فهو ليس مجرد خيار جديد في ملف الإعدادات، بل قرار معماري يتطلب عتادًا خاصًا. وهذا ليس بالضرورة خبرًا سيئًا لشركة Nvidia: فبطاقات الرسوميات باقية في مكانها. والأرقام منقولة من عرض المؤلفين، ولا توجد في المصدر قياسات مستقلة على أحمال إنتاجية فعلية، ولا يصح اعتبار القيم المسبوقة بـ«حتى» قيمًا نموذجية.

أما الخلاصة العملية لمن يبني بنية الاستدلال التحتية: قبل شراء بطاقات GPU أقوى، تحقق مما إذا كانت تنتظر المعالج المركزي. فإذا كانت التأخيرات الذيلية (P99) تقفز بوضوح عند ازدياد الحمل الخلفي على المضيف، فالمشكلة على الأرجح في الجدولة لا في الحساب. وثمة اختبار بسيط: حمّل المضيف بمهام دخيلة وراقب كيف يتصرف الزمن إلى الرمز الأول والإنتاجية. فإذا ساء الوضع، فالأجدر الالتفات إلى المجدول قبل التفكير في بطاقة رسوميات جديدة. ويستحق الأمر كذلك متابعة ما إذا كانت نُهُج مشابهة ستظهر في المحركات الشائعة: فنقل المجدول إلى GPU وبطاقة الشبكة يبدو خطوة منطقية إذا واصل الحمل على خدمات LLM نموه.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول أين تضيع وحدة GPU وقتها؟

تتشابه المحركات الحديثة لتشغيل نماذج LLM في بنيتها. يستقبل المعالج المركزي الطلبات الواردة، ويجمعها في دفعات (batches)، أي مجموعات تُحسَب معًا، ويخطط لما سيُحسَب بعد ذلك، ويدير الذاكرة المخصصة لـKV-cache. وهي الذاكرة التي يخزّن فيها النموذج الجزء المعالَج سابقًا من الحوار حتى لا يعيد حسابه من جديد. يتضح الأمر أكثر بمثال العيادة الطبية. يعمل المعالج المركزي بمثابة موظف الاستقبال: يسجّل المرضى، ويوزعهم على الغرف، ويخبر الطبيب بمن هو التالي.

ما أبرز التفاصيل حول كيف يعمل Blink؟

الفكرة هي إزالة الوسيط من وضع الخدمة المستقر. يتألف التصميم من ثلاثة أجزاء: بطاقة الشبكة SmartNIC، أي بطاقة شبكة بمعالج خاص بها، تستقبل كل طلب وتضعه مباشرة في ذاكرة GPU عبر تقنية RDMA (وصول مباشر إلى الذاكرة دون مشاركة المعالج)؛ نواة تعمل باستمرار داخل GPU (persistent kernel) تجمع الدفعات وتجدول العمل بنفسها؛ النواة نفسها تدير KV-cache، بينما لا يشارك المعالج المركزي للخادم في دورة العمل.

ما أبرز التفاصيل حول ما أظهرته الاختبارات؟

قارن المؤلفون Blink بكل من vLLM وSGLang وTensorRT-LLM. وفي جميع البنود ورد تعبير «حتى»، أي أن الأرقام تخص أفضل الظروف: زمن الوصول إلى الرمز الأول (P99) أقل بمقدار 8.47 مرة؛ زمن كل رمز لاحق (P99) أقل بمقدار 3.40 مرة؛ الإنتاجية في مرحلة التوليد أعلى بمقدار 2.1 مرة؛ استهلاك الطاقة لكل رمز أقل بنسبة 48.6%. ويستحق الثبات إشارة منفصلة. فحين كان معالج الخادم المضيف محمّلًا فوق طاقته، تراجع أداء الأنظمة التقليدية بشدة. أما Blink فظل مستقرًا، لأن الاستدلال (inference) لم يعد يعتمد على المضيف المحمَّل.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…