Amazon SageMaker AI تضيف دعم P-EAGLE لتسريع استدلال نماذج LLM بالتوازي
أضافت AWS تقنية P-EAGLE إلى Amazon SageMaker AI، وهي طريقة فك ترميز تخمينية متوازية تسرّع استدلال نماذج LLM بمعدل 2–3 مرات دون فقدان الجودة. تتنبأ عدة فروع مسودّة بالرموز اللاحقة في وقت واحد، ثم يتحقق النموذج الرئيسي منها دفعة واحدة. النماذج متاحة في كتالوج SageMaker JumpStart، ويُضبط النشر بعدة أسطر فقط من ملف الإعداد.
معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
أضافت Amazon SageMaker AI دعم P-EAGLE، وهي تقنية فك ترميز تخمينية متوازية تسرّع الاستدلال الفوري (real-time) للنماذج اللغوية الكبيرة بمعدل 2–3 مرات دون خفض جودة المخرجات. وقد دمجت AWS هذه التقنية مباشرة في SageMaker JumpStart: بضعة أسطر في ملف الإعداد تكفي لتجهيز نقطة نهاية (endpoint) محسّنة وجاهزة للعمل في بيئة الإنتاج.
لماذا يُعدّ الاستدلال عنق الزجاجة؟
تولّد النماذج اللغوية الكبيرة النص بالتتابع الصارم: يتطلب كل رمز (token) جديد تمريرة كاملة عبر جميع طبقات المحوّل (Transformer). وحتى على وحدات GPU الرائدة مثل A100 أو H100، يخلق ذلك عنق زجاجة (bottleneck) خطيراً، إذ تبقى أنوية الحوسبة خاملة بين إخراج رمز وآخر في انتظار الدورة التالية. ويزداد زمن الاستجابة خطياً مع طول المخرجات. وفي أنظمة الإنتاج التي تشترط استجابة فورية، مثل روبوتات الدردشة وإكمال الشيفرة البرمجية ووكلاء الذكاء الاصطناعي، ينعكس ذلك مباشرة على تجربة المستخدم وعلى تكلفة البنية التحتية. وبحلول عام 2026 أصبح تحسين الاستدلال مهمة لا تقل أهمية عن اختيار النموذج نفسه، فتكلفة الحوسبة لكل طلب تحدد بشكل مباشر ربحية منتجات الذكاء الاصطناعي.
يقدّم فك الترميز التخميني حلاً بديلاً: يتنبأ نموذج «مسودّة» صغير بعدة رموز لاحقة في تمريرة سريعة واحدة، ثم يتحقق النموذج الرئيسي الكبير من الدفعة كاملة بالتوازي. إذا أصابت المسودة، يُقبل عدة رموز دفعة واحدة. وإذا أخطأت، يعود النظام إلى رمز واحد. وكلما ارتفعت نسبة التخمينات الصحيحة، ازدادت سرعة التوليد النهائية. وقد حسّنت EAGLE هذا المخطط: إذ يُدرَّب المكوّن المسودّة مباشرة على الحالات المخفية (hidden states) للنموذج الرئيسي، ما يرفع دقة التنبؤات بشكل ملحوظ دون زيادة في زمن التأخير.
ما الذي تفعله P-EAGLE بشكل مختلف
تمثّل P-EAGLE، أي Parallel EAGLE، المستوى التالي: فبدلاً من مسودّة واحدة، تُشغَّل عدة فروع تنبؤ متوازية في وقت واحد لتشكّل شجرة من المرشحات. ويتحقق النموذج الرئيسي من جميع الفروع في تمريرة واحدة. وهذا ليس مجرد تسريع، بل تغيير في هندسة الحوسبة نفسها.
- نسبة قبول (acceptance rate) أعلى: احتمال إصابة التسلسل الصحيح أعلى بكثير مع عدة فروع متوازية منه مع فرع واحد
- استغلال أفضل لوحدات GPU: تُملأ أنوية الحوسبة الشاغرة بفروع المسودّة بدلاً من بقائها خاملة
- زمن أقل حتى الرمز الأول (time-to-first-token): تصل الاستجابة الأولى أسرع، وهو أمر حاسم لواجهات الدردشة والوكلاء
- توافق مع التكميم (quantization): يعمل INT4/INT8 دون أي تعديلات إضافية على المسودّة
- إنتاجية (throughput) متوقعة: يصبح التوسع مع حجم الدفعة (batch size) أقرب إلى الخطي عند الأحمال العالية
وبحسب بيانات AWS، توفّر الطريقة تسريعاً بمعدل 2–3× مع الجودة نفسها في مهام التلخيص وتوليد الشيفرة والإجابة عن الأسئلة (question-answering). ويظهر أكبر أثر في المهام ذات المخرجات الطويلة: تلخيص المستندات، وتوليد JSON منظّم، والحوارات متعددة الجولات.
النشر على SageMaker AI
صمّمت AWS هذا التكامل بحيث يكون حاجز الدخول أدنى ما يمكن. أولاً، تختار نموذجاً من كتالوج SageMaker JumpStart، وهي نماذج LLM مدرَّبة مسبقاً وتدعم إعدادات P-EAGLE، دون حاجة إلى اختيار مسودّة متوافقة بنفسك. ثم تضيف إلى إعداد نقطة النهاية كتلة parallel_drafting_spec، وهي JSON تحدد عدد الأشجار المتوازية وعمق التنبؤ. وتوصي AWS بالبدء بالقيم الافتراضية ثم ضبطها بما يناسب نمط الطلبات لديك. وفي الخطوة الأخيرة، تنشر نقطة نهاية SageMaker قياسية للاستدلال الفوري مع تفعيل علَم P-EAGLE. أما موازنة الأحمال والمراقبة والتوسع التلقائي (autoscaling) فتتولاها البنية التحتية.
«تتيح P-EAGLE تسريع time-to-first-token ورفع الإنتاجية دون أي تغييرات في منطق التطبيق»، بحسب وثائق AWS Machine Learning Blog.
ماذا يعني ذلك
بالنسبة إلى فرق ML العاملة على AWS، تمثّل P-EAGLE أداة عملية لخفض تكلفة الاستدلال دون تغيير النموذج أو نوع الخادم (instance). النموذج نفسه والخادم نفسه، لكن بعدد طلبات في الثانية أكبر بمقدار 2–3 مرات. أو الطلبات نفسها بعدد أقل من الخوادم. وفي سحابة تنمو فيها فواتير الاستدلال أسرع من أداء النماذج نفسها، يؤثر مكسب كهذا مباشرة في اقتصاديات الوحدة (unit economics) للمنتج وفي القدرة التنافسية لخدمة الذكاء الاصطناعي.
- 12 نوفمبر 2026جنسن هوانغ يتنحى عن منصب الرئيس التنفيذي لـNvidia: الشركة تفقد 1.4 تريليون دولار خلال أسبوعين
- 12 نوفمبر 2026AWS توضّح كيف تُخفي دقة بحث بنسبة 100% إخفاق وكيل الذكاء الاصطناعي
- 12 نوفمبر 2026AWS تربط ثلاثة وكلاء ذكاء اصطناعي في حسابين عبر بروتوكول A2A
- 12 نوفمبر 2026AWS تُظهر كيف تمنع وكيل LLM من قراءة مستندات الآخرين: البوابة هي من تحقن userContext
أسئلة وأجوبة حول الخبر
لماذا يُعدّ الاستدلال عنق الزجاجة؟
تولّد النماذج اللغوية الكبيرة النص بالتتابع الصارم: يتطلب كل رمز (token) جديد تمريرة كاملة عبر جميع طبقات المحوّل (Transformer). وحتى على وحدات GPU الرائدة مثل A100 أو H100، يخلق ذلك عنق زجاجة (bottleneck) خطيراً، إذ تبقى أنوية الحوسبة خاملة بين إخراج رمز وآخر في انتظار الدورة التالية. ويزداد زمن الاستجابة خطياً مع طول المخرجات. وفي أنظمة الإنتاج التي تشترط استجابة فورية، مثل روبوتات الدردشة وإكمال الشيفرة البرمجية ووكلاء الذكاء الاصطناعي، ينعكس ذلك مباشرة على تجربة المستخدم وعلى تكلفة البنية التحتية.
ما أبرز التفاصيل حول ما الذي تفعله P-EAGLE بشكل مختلف؟
تمثّل P-EAGLE، أي Parallel EAGLE، المستوى التالي: فبدلاً من مسودّة واحدة، تُشغَّل عدة فروع تنبؤ متوازية في وقت واحد لتشكّل شجرة من المرشحات. ويتحقق النموذج الرئيسي من جميع الفروع في تمريرة واحدة. وهذا ليس مجرد تسريع، بل تغيير في هندسة الحوسبة نفسها.
ما أبرز التفاصيل حول النشر على SageMaker AI؟
صمّمت AWS هذا التكامل بحيث يكون حاجز الدخول أدنى ما يمكن. أولاً، تختار نموذجاً من كتالوج SageMaker JumpStart، وهي نماذج LLM مدرَّبة مسبقاً وتدعم إعدادات P-EAGLE، دون حاجة إلى اختيار مسودّة متوافقة بنفسك. ثم تضيف إلى إعداد نقطة النهاية كتلة parallel_drafting_spec، وهي JSON تحدد عدد الأشجار المتوازية وعمق التنبؤ. وتوصي AWS بالبدء بالقيم الافتراضية ثم ضبطها بما يناسب نمط الطلبات لديك. وفي الخطوة الأخيرة، تنشر نقطة نهاية SageMaker قياسية للاستدلال الفوري مع تفعيل علَم P-EAGLE.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.