تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارX: @0x0SojalSec→ المصدر

Sciforium ترفع سرعة DeepSeek-V4.1-Flash على AMD إلى 1 129 توكن في الثانية

رفع فريق Sciforium سرعة DeepSeek-V4.1-Flash على أربعة معالجات AMD MI355X. على حركة المرور الفعلية ارتفعت السرعة من 835 إلى 1 129 توكن في الثانية (P90). ويعود ذلك إلى فك الترميز التخميني (speculative decoding): يخمّن نموذج صغير يعمل كمسودة عدة توكنات مقدمًا، ثم يتحقق النموذج الكبير منها دفعة واحدة. وقد دُرّب نموذج المسودة إضافيًا على طلبات العملاء الحقيقية، وطال طول التخمين من 5 إلى 7 توكنات. الخلاصة: ضبط المسودة على حركة المرور الخاصة أعطى نحو 35% من الزيادة دون تغيير الأوزان.

معالج بواسطة الذكاء الاصطناعي من X: @0x0SojalSec؛ بتحرير Hamidun News
Sciforium ترفع سرعة DeepSeek-V4.1-Flash على AMD إلى 1 129 توكن في الثانية
المصدر: X: @0x0SojalSec. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليX: @0x0SojalSec ↗
رئيس التحرير
حقيقة رئيسية #1القياس بمؤشر P90 على حركة مرور إنتاجية حية، وليس على اختبار مرجعي تجريبي
أوزان DeepSeek أصليةالذي دُرّب إضافيًا هو نموذج المسودة الصغير فقط
حقيقة رئيسية #3الارتفاع من 835 إلى 1 129 توكن/ث، أي نحو +35% على أربعة معالجات MI355X

سرعة استجابة النموذج تعني مالًا. كلما أنتجت وحدة GPU التوكنات أسرع، احتاج المشغّل إلى بطاقات أقل لخدمة حركة المرور نفسها، وقلّ الوقت الذي يحدّق فيه المستخدم في المؤشر الوامض. لذلك تستحق نتيجة شركة Sciforium الناشئة اهتمام من يشغّلون النماذج الكبيرة بأنفسهم في بيئة الإنتاج: فنسختها من DeepSeek-V4.1-Flash تُنتج 1 129 توكن إخراج في الثانية على أربعة مسرّعات AMD Instinct MI355X. وكانت التركيبة نفسها تعطي سابقًا 835.

ما الذي جرى تسريعه بالضبط

إليكم أهم التفاصيل من بيان الشركة. جرى القياس بمؤشر P90، أي أنه لا يعكس أفضل حالة، بل مستوى يتحقق لدى الغالبية العظمى من الطلبات. وحركة المرور حقيقية وتعود إلى العملاء، وليست تشغيلًا اصطناعيًا. واستُخدم النموذج بأوزانه الأصلية: لم يُقطَّر ولم يُقلَّص. وبلغت الزيادة نحو 35%.

ويشير المؤلفون أيضًا إلى السياق: قبل وقت قصير كان كثيرون يشكّكون في قدرة بطاقات AMD على تحمّل أحمال LLM الثقيلة في الإنتاج بمستوى Nvidia. وتأتي هذه الحالة حجة على أن الفجوة تُغلق مع عمل هندسي جيد.

كيف تعمل حيلة المسودة

أساس التسريع هو فك الترميز التخميني (speculative decoding). تخيّلوا محررًا خبيرًا يراجع نص متدرّب. الكتابة من الصفر بطيئة، أما التدقيق في فقرة جاهزة فسريع: يمرّر المحرر نظره على عدة جمل دفعة واحدة ويوافق عليها معًا. هنا المتدرّب هو نموذج صغير يعمل كمسودة (drafter) ويقترح عدة توكنات مقدمًا. والمحرر هو DeepSeek-V4.1-Flash الكبير، الذي يتحقق من جميع التوكنات المقترحة في تمريرة واحدة. فإذا صدقت التخمينات، حصل النموذج الكبير في خطوة واحدة على عدة توكنات بدل توكن واحد. وإذا لم تصدق، يُهمل الزائد، وتبقى جودة الإجابة بمستوى النموذج الكبير.

ويعتمد المكسب كله على مدى تكرار إصابة المسودة. وقد أطلقت Sciforium على نهجها اسم traffic-tuned speculators: دُرّبت المسودة إضافيًا على بيانات العملاء الفعلية، أي على الطلبات والإجابات التي يراها النموذج في الواقع. المسودة العامة تُصيب جيدًا في النصوص العامة لكنها تتعثر في الخصوصيات. أما إذا كانت حركة مرورك ردود دعم نمطية، أو شيفرة لمنظومة تقنية محددة، أو JSON منظّمًا، فإن مسودة مدرَّبة عليها تصيب الهدف أكثر بوضوح.

الرافعة الثانية هي طول التخمين. فقد رُفع من 5 إلى 7 توكنات في كل مرة. ولا ينجح ذلك إلا مع دقة عالية للمسودة: فكلما طالت السلسلة زاد احتمال أن تخطئ المسودة في مكان ما قرب نهايتها فيضيع الجزء الأخير كله. وقد أثمرت زيادة الطول تحديدًا لأن المسودة صارت أكثر ملاءمة لحركة المرور.

الطبقة الثالثة هي تحسين عميق للنوى (kernels) على AMD، أي الشيفرة منخفضة المستوى التي تنفّذ الحسابات على MI355X. وبحسب نص المنشور، تؤكد الشركة أنها لم تحتج إلى إعادة كتابة محرك vLLM؛ فقد انصبّ الجهد على المسودة والنوى.

ما الذي يمكن أن تستفيدوا منه

أولًا: إذا كنتم تستضيفون نموذجًا مفتوحًا بأنفسكم، فإن ضبط فك الترميز التخميني على حركة مروركم قد يمنحكم عشرات النسب المئوية من السرعة دون خسارة في الجودة ودون تغيير الأوزان. وهذا أرخص من شراء مزيد من وحدات GPU.

ثانيًا: يتطلب ذلك سجلات للطلبات الحقيقية. ومن يجمعها ويعرف كيف يدرّب نموذجًا صغيرًا إضافيًا يتفوق على من يأخذ مسودة عامة جاهزة.

ثالثًا: تتحول AMD في الاستدلال (inference) إلى خيار عملي لا تجربة. وبالنسبة إلى المؤسسين، هي ورقة ضغط في مفاوضات سعر الحوسبة، ووسيلة لعدم الاعتماد على مورّد واحد.

القيود

هذا بيان صادر عن الشركة نفسها، ولا توجد قياسات مستقلة بعد. والنتيجة خاصة بتركيبة محددة: DeepSeek-V4.1-Flash، وأربعة MI355X، وحركة مرور عملاء Sciforium. وعلى حمل مختلف سيكون المكسب مختلفًا: فنسبة التخمينات الناجحة للمسودة تتفاوت بين الدردشة الحوارية والشيفرة والاستدلال الطويل. ولا يكشف المنشور جميع ظروف القياس، لذا ينبغي توخي الحذر عند مقارنة هذه الأرقام باختبارات مرجعية لجهات أخرى. أما الاتجاه نفسه فواضح وقابل للتكرار: تدريب المسودة على بياناتكم، وضبط طول التخمين، وتحسين النوى للعتاد.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ما الذي جرى تسريعه بالضبط؟

إليكم أهم التفاصيل من بيان الشركة. جرى القياس بمؤشر P90، أي أنه لا يعكس أفضل حالة، بل مستوى يتحقق لدى الغالبية العظمى من الطلبات. وحركة المرور حقيقية وتعود إلى العملاء، وليست تشغيلًا اصطناعيًا. واستُخدم النموذج بأوزانه الأصلية: لم يُقطَّر ولم يُقلَّص. وبلغت الزيادة نحو 35%. ويشير المؤلفون أيضًا إلى السياق: قبل وقت قصير كان كثيرون يشكّكون في قدرة بطاقات AMD على تحمّل أحمال LLM الثقيلة في الإنتاج بمستوى Nvidia. وتأتي هذه الحالة حجة على أن الفجوة تُغلق مع عمل هندسي جيد.

ما أبرز التفاصيل حول كيف تعمل حيلة المسودة؟

أساس التسريع هو فك الترميز التخميني (speculative decoding). تخيّلوا محررًا خبيرًا يراجع نص متدرّب. الكتابة من الصفر بطيئة، أما التدقيق في فقرة جاهزة فسريع: يمرّر المحرر نظره على عدة جمل دفعة واحدة ويوافق عليها معًا. هنا المتدرّب هو نموذج صغير يعمل كمسودة (drafter) ويقترح عدة توكنات مقدمًا. والمحرر هو DeepSeek-V4.1-Flash الكبير، الذي يتحقق من جميع التوكنات المقترحة في تمريرة واحدة. فإذا صدقت التخمينات، حصل النموذج الكبير في خطوة واحدة على عدة توكنات بدل توكن واحد.

ما أبرز التفاصيل حول ما الذي يمكن أن تستفيدوا منه؟

أولًا: إذا كنتم تستضيفون نموذجًا مفتوحًا بأنفسكم، فإن ضبط فك الترميز التخميني على حركة مروركم قد يمنحكم عشرات النسب المئوية من السرعة دون خسارة في الجودة ودون تغيير الأوزان. وهذا أرخص من شراء مزيد من وحدات GPU. ثانيًا: يتطلب ذلك سجلات للطلبات الحقيقية. ومن يجمعها ويعرف كيف يدرّب نموذجًا صغيرًا إضافيًا يتفوق على من يأخذ مسودة عامة جاهزة. ثالثًا: تتحول AMD في الاستدلال (inference) إلى خيار عملي لا تجربة. وبالنسبة إلى المؤسسين، هي ورقة ضغط في مفاوضات سعر الحوسبة، ووسيلة لعدم الاعتماد على مورّد واحد.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…