تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارHacker News AI→ المصدر

Cerebras أسندت قراءة الموجّه إلى وحدات AMD وحصلت على عدد رموز أكبر بخمسة أضعاف لكل ميغاواط

تولد إجابة الشبكة العصبية على مرحلتين: يقرأ النموذج أولاً الموجّه (prefill)، ثم يكتب الإجابة رمزاً تلو الآخر (decode). أسندت Cerebras القراءة إلى وحدات AMD Instinct وأبقت الكتابة على شرائحها CS-3. على نقطة الاتصال GPT-OSS-120B أعطى ذلك عدد رموز أكبر بخمسة أضعاف لكل ميغاواط مقارنةً بالتكوين القائم على CS-3 وحدها، دون أن تنخفض سرعة التوليد. وبذلك يستطيع المزوّد خدمة عدد أكبر من العملاء بميزانية الطاقة نفسها.

معالج بواسطة الذكاء الاصطناعي من Hacker News AI؛ بتحرير Hamidun News
Cerebras أسندت قراءة الموجّه إلى وحدات AMD وحصلت على عدد رموز أكبر بخمسة أضعاف لكل ميغاواط
المصدر: Hacker News AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHacker News AI ↗
رئيس التحرير
حقيقة رئيسية #1يبيّن مؤشر الرموز لكل ميغاواط عدد الإجابات التي ينتجها مركز البيانات لكل وحدة طاقة
حقيقة رئيسية #2الوصول المبكر متاح بالفعل لدى AWS وFireworks AI وGimlet Labs وGeneral Compute
حقيقة رئيسية #3تخطط الشركة لنشر هذه البنية على مئات الميغاواط بحلول نهاية 2027

تولد إجابة الشبكة العصبية على مرحلتين: يقرأ النموذج أولاً موجّهك (وتسمى هذه المرحلة prefill)، ثم يكتب الإجابة رمزاً تلو الآخر (decode). وزّعت Cerebras، الشركة المصنّعة لشرائح الذكاء الاصطناعي العملاقة، هاتين المرحلتين على عتاد مختلف: صارت وحدات AMD Instinct تقرأ الموجّه، بينما بقيت كتابة الإجابة من نصيب أنظمة Cerebras CS-3. في بيئة الإنتاج أعطت هذه البنية عدد رموز أكبر بخمسة أضعاف لكل ميغاواط من الكهرباء مقارنةً بالتكوين القائم على CS-3 وحدها، ولم تنخفض سرعة التوليد في المقابل. وبالنسبة إلى كل من يدفع مقابل إجابات سريعة من الوكلاء الأذكياء، يتعلق الأمر بحجم الذكاء الاصطناعي التفاعلي الذي يستطيع مركز البيانات تقديمه ضمن طاقة محدودة.

لماذا يناسب تقسيم الطلب إلى جزأين

تخيّل أنك أرسلت إلى Copilot أو Codex مقطعاً كبيراً من الشيفرة مع سؤال. يحتاج النموذج أولاً إلى قراءة هذا النص كله دفعة واحدة وبناء حالة وسيطة، تشمل KV-cache، أي ذاكرة لما قرأه. هذا عمل حسابي ثقيل، وتتعامل معه وحدات GPU التقليدية بكفاءة عالية.

ثم تبدأ كتابة الإجابة. يُخرج النموذج الرموز واحداً تلو الآخر، ويعتمد كل رمز جديد على سابقه. وفي كل خطوة يعيد قراءة بياناته من الذاكرة، ولذلك تكون سرعة الذاكرة هنا هي العامل الحاسم لا القدرة الحسابية الخام.

أما شرائح Cerebras التي يبلغ حجم الواحدة منها حجم رقاقة سيليكون كاملة فتتفوق تحديداً في الذاكرة. ووفق بيانات الشركة، تملك هذه الشرائح ذاكرة SRAM سريعة على الشريحة نفسها أكبر بـ350 ضعفاً، وعرض نطاق ذاكرة أعلى بـ5 400 ضعف مقارنةً بـGB300 النموذجي. لذلك تناسب مرحلة decode تماماً. أما قراءة الموجّهات الطويلة على مثل هذه الشريحة فهي أقل جدوى، ومن المنطقي تسليم هذا الجزء إلى مسرّعات أخرى.

ما أظهرته بيئة الإنتاج

شغّلت Cerebras هذه البنية في سحابتها الخاصة. تعالج وحدات AMD Instinct الموجّهات، وتكتب أنظمة CS-3 الإجابات. وعندما تنتقل القراءة إلى وحدات GPU، تتفرغ شرائح Cerebras بالكامل لعملية التوليد.

أُجري القياس على نقطة الاتصال المشتركة GPT-OSS-120B في 14 نوفمبر: قارنت الشركة الإنتاجية لكل ميغاواط قبل تفعيل الفصل وبعده. والنتيجة زيادة بمقدار 5 أضعاف قياساً بالتكوين القائم على CS-3 وحدها. أما سرعة توليد الرموز فبقيت، وفق إعلان الشركة، على حالها.

بالنسبة إلى المزوّد، يعني ذلك عملاء أكثر وإيرادات أكبر بميزانية الطاقة نفسها. وبالنسبة إلى المستخدم، تبقى الإجابات السريعة نفسها، مع احتمال أقل للاصطدام بنقص القدرات. والخطط كبيرة: نشر هذه البنية بحلول نهاية 2027 على مئات الميغاواط في سحابة الشركة ولدى الشركاء. وتذكر الشركة إلى جانب ذلك إعلانها عن CS-4، وتوسيع الإنتاج، و700 ميغاواط مخططة من قدرات مراكز البيانات.

كيف يُطرح الحل على الشركاء

تقدّم Cerebras للشركاء بنية مرجعية: مسرّعات يختارونها بأنفسهم لمرحلة prefill وأنظمة Cerebras تعمل معاً ضمن شبكة واحدة. ويمكن الاتصال بطريقتين.

الأولى حزمة برمجية كاملة، وتتيح إطلاق الخدمة في السوق بسرعة أكبر. وتشمل:

  • إطار عمل يوزّع الطلبات بين مجموعتي prefill وdecode ويراقب السعة وسلامة النسخ؛
  • محرك prefill مبنياً على vLLM أو SGLang المفتوحي المصدر؛
  • محرك decode من Cerebras؛
  • KV Portal، الذي ينقل KV-cache بين الجزأين عبر RDMA.

الطريقة الثانية حزمة SDK لمرحلة decode فقط، لمن يعنيهم التحكم أكثر. يأتي الشريك بإطار العمل الخاص به ومحرك prefill الخاص به، ويربطهما بمحرك decode من Cerebras وKV Portal. وتتضمن الحزمة محاكياً لنسخة decode ومثالاً على التكامل مع إطار عمل مفتوح المصدر. وقد حصلت على الوصول المبكر بالفعل Amazon Web Services وFireworks AI وGimlet Labs وGeneral Compute.

ما ينبغي أخذه في الحسبان

كل الأرقام مأخوذة من مادة Cerebras نفسها، وليست اختباراً مرجعياً مستقلاً. وقد قيس المكسب الخماسي على نقطة اتصال واحدة، وكانت القاعدة المرجعية هي التكوين القائم على CS-3 وحدها. ولا يتضمن النص مقارنة مع الحلول القائمة على GPU وحدها من حيث سعر الرمز. كما لا توجد بيانات عن الزمن الذي يضيفه نقل KV-cache بين المجموعتين. وعبارة «دون فقدان السرعة» تتعلق بتوليد الإجابة.

والخلاصة العملية للمطوّرين هي أن فصل قراءة الموجّه عن كتابة الإجابة يتحول إلى ممارسة معتادة في الاستدلال، وأن vLLM وSGLang مدمجان بالفعل في هذه البنية. وعند اختيار مزوّد للوكلاء التفاعليين، قارنوا بين سعر الرمز وسرعة الإجابة تحت الحِمل معاً. أما من يبنون مراكز بياناتهم الخاصة، فهذه إشارة إلى أن العتاد المخصص لقراءة الموجّه والعتاد المخصص لتوليد الإجابة صار بالإمكان اختيار كل منهما على حدة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول لماذا يناسب تقسيم الطلب إلى جزأين؟

تخيّل أنك أرسلت إلى Copilot أو Codex مقطعاً كبيراً من الشيفرة مع سؤال. يحتاج النموذج أولاً إلى قراءة هذا النص كله دفعة واحدة وبناء حالة وسيطة، تشمل KV-cache، أي ذاكرة لما قرأه. هذا عمل حسابي ثقيل، وتتعامل معه وحدات GPU التقليدية بكفاءة عالية. ثم تبدأ كتابة الإجابة. يُخرج النموذج الرموز واحداً تلو الآخر، ويعتمد كل رمز جديد على سابقه. وفي كل خطوة يعيد قراءة بياناته من الذاكرة، ولذلك تكون سرعة الذاكرة هنا هي العامل الحاسم لا القدرة الحسابية الخام.

ما أبرز التفاصيل حول ما أظهرته بيئة الإنتاج؟

شغّلت Cerebras هذه البنية في سحابتها الخاصة. تعالج وحدات AMD Instinct الموجّهات، وتكتب أنظمة CS-3 الإجابات. وعندما تنتقل القراءة إلى وحدات GPU، تتفرغ شرائح Cerebras بالكامل لعملية التوليد. أُجري القياس على نقطة الاتصال المشتركة GPT-OSS-120B في 14 نوفمبر: قارنت الشركة الإنتاجية لكل ميغاواط قبل تفعيل الفصل وبعده. والنتيجة زيادة بمقدار 5 أضعاف قياساً بالتكوين القائم على CS-3 وحدها. أما سرعة توليد الرموز فبقيت، وفق إعلان الشركة، على حالها. بالنسبة إلى المزوّد، يعني ذلك عملاء أكثر وإيرادات أكبر بميزانية الطاقة نفسها.

ما أبرز التفاصيل حول كيف يُطرح الحل على الشركاء؟

تقدّم Cerebras للشركاء بنية مرجعية: مسرّعات يختارونها بأنفسهم لمرحلة prefill وأنظمة Cerebras تعمل معاً ضمن شبكة واحدة. ويمكن الاتصال بطريقتين. الأولى حزمة برمجية كاملة، وتتيح إطلاق الخدمة في السوق بسرعة أكبر. وتشمل: إطار عمل يوزّع الطلبات بين مجموعتي prefill وdecode ويراقب السعة وسلامة النسخ؛ محرك prefill مبنياً على vLLM أو SGLang المفتوحي المصدر؛ محرك decode من Cerebras؛ KV Portal، الذي ينقل KV-cache بين الجزأين عبر RDMA. الطريقة الثانية حزمة SDK لمرحلة decode فقط، لمن يعنيهم التحكم أكثر.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Private AI Builders Community · Vibe Club

Ship AI Faster with Founders, Engineers & Weekly Architecture Reviews

Inside Vibe Club (hamidun.com/club) — weekly live masterminds with Zhemal Khamidun, Tech Radar, full LMS access, and 370+ production Claude Code skills.

Join Vibe Club →Explore Hamidun Academy
ما رأيك؟
جارٍ تحميل التعليقات…