شبكات عصبية أسرع 15 مرة: تحسين الاستدلال من NVIDIA
عرضت NVIDIA طريقة لتسريع استدلال النماذج اللغوية 15 مرة على وحدات GPU بمعمارية Blackwell. تعمل تقنية DFlash Speculative Decoding على النحو التالي: يتنبأ نموذج مسودة خفيف بعدة رموز (توكنات) إلى الأمام، ثم يتحقق النموذج الرئيسي منها بالتوازي، فيزداد استغلال وحدة GPU وينخفض زمن الاستجابة. تبرز قيمة هذه التقنية خصوصًا في الأنظمة متعددة الوكلاء، حيث يتراكم زمن الاستجابة عند كل خطوة من خطوات السلسلة.
معالج بواسطة الذكاء الاصطناعي من NVIDIA Developer Blog؛ بتحرير Hamidun News
شبكات عصبية أسرع 15 مرة: قدّمت NVIDIA تقنية DFlash Speculative Decoding، وهي طريقة استدلال لمعمارية وحدات GPU من نوع Blackwell، تسرّع توليد الرموز (التوكنات) في النماذج اللغوية في السيناريوهات التي تفرض متطلبات صارمة على زمن الاستجابة.
لماذا تعمل الشبكات العصبية ببطء عند توليد النص؟
تعمل النماذج اللغوية ذاتية الانحدار بالتسلسل: لا يُولَّد أي رمز إلا بعد اكتمال الرمز السابق له. ويعني هذا القيد الجوهري في معمارية المحوّلات (Transformers) أن وحدة GPU تقضي معظم وقتها في انتظار انتهاء عملية واحدة قبل أن تنتقل إلى التالية.
كيف تسرّع تقنية NVIDIA الشبكات العصبية 15 مرة؟
طورت NVIDIA طريقة DFlash Speculative Decoding لوحدات GPU من طراز Blackwell، وهي تحسّن توليد الرموز في النماذج اللغوية في السيناريوهات ذات المتطلبات الصارمة لزمن الاستجابة، وتحقق تسريعًا يبلغ 15 مرة مقارنةً بالنهج القياسي.
Build & Ship Production AI Apps with Vibe Coding
Join Zhemal Khamidun's hands-on Vibe Coding Intensive at hamidun.com/vibecoding — master Claude Code, Cursor, and autonomous agentic workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.