Blink يُخرج المعالج المركزي من عملية خدمة نماذج LLM ويخفّض زمن الرمز الأول حتى 8.47 مرة
أثناء توليد النموذج لإجابته، كثيرًا ما تنتظر وحدة GPU المعالج المركزي (CPU)، فهو الذي يستقبل الطلبات ويجمعها في دفعات ويقرر ما سيُحسَب بعد ذلك. يُسند نظام Blink هذه المهام إلى بطاقة الشبكة SmartNIC ووحدة GPU نفسها، فيخرج المعالج المركزي من دورة العمل. وفي أفضل الحالات انخفض زمن الوصول إلى الرمز الأول (P99، أي لـ99% من الطلبات) بمقدار 8.47 مرة، وتراجعت الطاقة اللازمة لكل رمز بنسبة 48.6%. وإذا كان خادمك يتباطأ عند ازدحام المعالج المركزي، فتحقق مما إذا كانت وحدة GPU تقف عاطلة عن العمل.
معالج بواسطة الذكاء الاصطناعي من X: @aiwithmayank؛ بتحرير Hamidun News
تخيّل أنك أرسلت سؤالًا إلى روبوت دردشة وتنظر إلى شاشة فارغة، رغم أن على الخادم بطاقة رسوميات باهظة الثمن جاهزة تمامًا للحساب. هي لا تنتظر بيانات ولا عمليات حسابية، بل تنتظر أمرًا من معالج مركزي (CPU) عادي. أظهر باحثون أن هذا المعالج المسؤول عن الجدولة يصبح في أنظمة مثل vLLM وSGLang وTensorRT-LLM عنق زجاجة في كثير من الأحيان. أما نظامهم Blink فيعمل في الوضع التشغيلي دونه: فقد انخفض زمن الوصول إلى الرمز الأول (أول جزء من الإجابة) في أفضل الحالات بمقدار 8.47 مرة. والمقصود هنا مؤشر P99، أي الزمن الذي تنجز ضمنه 99% من الطلبات، وهو عمليًا أقرب إلى أسوأ سيناريو يراه المستخدم في الواقع. وإضافة إلى ذلك، تنخفض الطاقة المستهلكة لكل رمز بنسبة 48.6%.
أين تضيع وحدة GPU وقتها
تتشابه المحركات الحديثة لتشغيل نماذج LLM في بنيتها. يستقبل المعالج المركزي الطلبات الواردة، ويجمعها في دفعات (batches)، أي مجموعات تُحسَب معًا، ويخطط لما سيُحسَب بعد ذلك، ويدير الذاكرة المخصصة لـKV-cache. وهي الذاكرة التي يخزّن فيها النموذج الجزء المعالَج سابقًا من الحوار حتى لا يعيد حسابه من جديد.
يتضح الأمر أكثر بمثال العيادة الطبية. يعمل المعالج المركزي بمثابة موظف الاستقبال: يسجّل المرضى، ويوزعهم على الغرف، ويخبر الطبيب بمن هو التالي. أما الطبيب، أي وحدة GPU، فقد يكون متفرغًا وجاهزًا، لكنه لن يبدأ الفحص دون توجيه من موظف الاستقبال. وما دام المعالج مشغولًا بأمر آخر، تظل المعدات الغالية عاطلة.
وفي الخادم الفعلي، لا ينقطع انشغال المعالج: تسجيل الأحداث (logging)، والمراقبة، وحزمة الشبكة، والخدمات المجاورة. وحين حمّل الباحثون الخادم المضيف عمدًا بمهام ثقيلة منافسة، تباطأت الأنظمة المعتادة حتى مرتبتين من حيث الحجم. وهذا يعادل نحو مئة ضعف في أسوأ الحالات.
كيف يعمل Blink
الفكرة هي إزالة الوسيط من وضع الخدمة المستقر. يتألف التصميم من ثلاثة أجزاء:
- بطاقة الشبكة SmartNIC، أي بطاقة شبكة بمعالج خاص بها، تستقبل كل طلب وتضعه مباشرة في ذاكرة GPU عبر تقنية RDMA (وصول مباشر إلى الذاكرة دون مشاركة المعالج)؛
- نواة تعمل باستمرار داخل GPU (persistent kernel) تجمع الدفعات وتجدول العمل بنفسها؛
- النواة نفسها تدير KV-cache، بينما لا يشارك المعالج المركزي للخادم في دورة العمل.
وبلغة العيادة: يطّلع الطبيب بنفسه على قائمة الانتظار في الاستقبال ويقرر بنفسه من يستدعي بعد ذلك، ولا يتصل به أحد عبر الهاتف الداخلي.
ما أظهرته الاختبارات
قارن المؤلفون Blink بكل من vLLM وSGLang وTensorRT-LLM. وفي جميع البنود ورد تعبير «حتى»، أي أن الأرقام تخص أفضل الظروف:
- زمن الوصول إلى الرمز الأول (P99) أقل بمقدار 8.47 مرة؛
- زمن كل رمز لاحق (P99) أقل بمقدار 3.40 مرة؛
- الإنتاجية في مرحلة التوليد أعلى بمقدار 2.1 مرة؛
- استهلاك الطاقة لكل رمز أقل بنسبة 48.6%.
ويستحق الثبات إشارة منفصلة. فحين كان معالج الخادم المضيف محمّلًا فوق طاقته، تراجع أداء الأنظمة التقليدية بشدة. أما Blink فظل مستقرًا، لأن الاستدلال (inference) لم يعد يعتمد على المضيف المحمَّل.
القيود وما يجب فعله عمليًا
لا ينبغي المبالغة في تقدير هذه النتيجة. فـBlink لا يزيل المعالج المركزي من الخادم كليًا: إذ يظل المعالج لازمًا لكل ما عدا ذلك، وكل ما في الأمر أنه يغادر المسار الحرج أثناء إجابة النموذج. ولا يزال النظام معتمدًا على GPU وSmartNIC، فهو ليس مجرد خيار جديد في ملف الإعدادات، بل قرار معماري يتطلب عتادًا خاصًا. وهذا ليس بالضرورة خبرًا سيئًا لشركة Nvidia: فبطاقات الرسوميات باقية في مكانها. والأرقام منقولة من عرض المؤلفين، ولا توجد في المصدر قياسات مستقلة على أحمال إنتاجية فعلية، ولا يصح اعتبار القيم المسبوقة بـ«حتى» قيمًا نموذجية.
أما الخلاصة العملية لمن يبني بنية الاستدلال التحتية: قبل شراء بطاقات GPU أقوى، تحقق مما إذا كانت تنتظر المعالج المركزي. فإذا كانت التأخيرات الذيلية (P99) تقفز بوضوح عند ازدياد الحمل الخلفي على المضيف، فالمشكلة على الأرجح في الجدولة لا في الحساب. وثمة اختبار بسيط: حمّل المضيف بمهام دخيلة وراقب كيف يتصرف الزمن إلى الرمز الأول والإنتاجية. فإذا ساء الوضع، فالأجدر الالتفات إلى المجدول قبل التفكير في بطاقة رسوميات جديدة. ويستحق الأمر كذلك متابعة ما إذا كانت نُهُج مشابهة ستظهر في المحركات الشائعة: فنقل المجدول إلى GPU وبطاقة الشبكة يبدو خطوة منطقية إذا واصل الحمل على خدمات LLM نموه.
- 21 نوفمبر 2026Anthropic تُنهي أسبوعها الأول في البورصة بتقييم 1.6 تريليون دولار، لكن سهمها هبط 8.5% في يوم واحد
- 21 نوفمبر 2026TensorRT-LLM يتفوق على vLLM على H100: 2780 مقابل 2400 رمز/ث مع Llama 3.3 70B
- 21 نوفمبر 2026مطوّرو 1C ينتقلون إلى وكلاء الذكاء الاصطناعي: McKinsey ترى زيادة في الإنتاجية بنسبة 3% فقط
- 21 نوفمبر 2026عمالقة التقنية الصينية تضاعف إنفاقها على الذكاء الاصطناعي إلى 139 مليار دولار، ومختبراتها تغطي أقل من 8% منه
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول أين تضيع وحدة GPU وقتها؟
تتشابه المحركات الحديثة لتشغيل نماذج LLM في بنيتها. يستقبل المعالج المركزي الطلبات الواردة، ويجمعها في دفعات (batches)، أي مجموعات تُحسَب معًا، ويخطط لما سيُحسَب بعد ذلك، ويدير الذاكرة المخصصة لـKV-cache. وهي الذاكرة التي يخزّن فيها النموذج الجزء المعالَج سابقًا من الحوار حتى لا يعيد حسابه من جديد. يتضح الأمر أكثر بمثال العيادة الطبية. يعمل المعالج المركزي بمثابة موظف الاستقبال: يسجّل المرضى، ويوزعهم على الغرف، ويخبر الطبيب بمن هو التالي.
ما أبرز التفاصيل حول كيف يعمل Blink؟
الفكرة هي إزالة الوسيط من وضع الخدمة المستقر. يتألف التصميم من ثلاثة أجزاء: بطاقة الشبكة SmartNIC، أي بطاقة شبكة بمعالج خاص بها، تستقبل كل طلب وتضعه مباشرة في ذاكرة GPU عبر تقنية RDMA (وصول مباشر إلى الذاكرة دون مشاركة المعالج)؛ نواة تعمل باستمرار داخل GPU (persistent kernel) تجمع الدفعات وتجدول العمل بنفسها؛ النواة نفسها تدير KV-cache، بينما لا يشارك المعالج المركزي للخادم في دورة العمل.
ما أبرز التفاصيل حول ما أظهرته الاختبارات؟
قارن المؤلفون Blink بكل من vLLM وSGLang وTensorRT-LLM. وفي جميع البنود ورد تعبير «حتى»، أي أن الأرقام تخص أفضل الظروف: زمن الوصول إلى الرمز الأول (P99) أقل بمقدار 8.47 مرة؛ زمن كل رمز لاحق (P99) أقل بمقدار 3.40 مرة؛ الإنتاجية في مرحلة التوليد أعلى بمقدار 2.1 مرة؛ استهلاك الطاقة لكل رمز أقل بنسبة 48.6%. ويستحق الثبات إشارة منفصلة. فحين كان معالج الخادم المضيف محمّلًا فوق طاقته، تراجع أداء الأنظمة التقليدية بشدة. أما Blink فظل مستقرًا، لأن الاستدلال (inference) لم يعد يعتمد على المضيف المحمَّل.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.