Prometheus: خادم Majestic Labs بسعة 128 تيرابايت من الذاكرة للذكاء الاصطناعي

تقوم شركة ناشئة متخصصة في أجهزة الذكاء الاصطناعي Majestic Labs بتطوير خادم ذكاء اصطناعي جديد يُدعى Prometheus بسعة ذاكرة تصل إلى 128 تيرابايت — أي أكثر من 60 مرة من سعة خادم Nvidia الرئيسي DGX B300، وهو أحد أقوى الأنظمة المتسلسلة لمعالجة أحمال عمل الذكاء الاصطناعي في السوق. كما يُفيد IEEE Spectrum، تراهن الشركة على بنية معمارية مبنية بالكامل حول ذاكرة DRAM لحل مشكلة ما يسمى "جدار الذاكرة" (memory wall) — أحد أهم اختناقات الأداء للاستدلال في نماذج اللغة الكبيرة.

لماذا أصبحت الذاكرة الاختناق الرئيسي للذكاء الاصطناعي

• المنتج — خادم Prometheus من Majestic Labs
• سعة الذاكرة — تصل إلى 128 تيرابايت
• المقارنة — أكثر من 60 مرة ذاكرة أكثر من Nvidia DGX B300
• البنية المعمارية — موحدة، قائمة بالكامل على DRAM (خاصة LPDDR6)، بخلاف مزيج HBM و DRAM من Nvidia
• الشخصية الرئيسية — Sha Rabii، المؤسس المشارك ورئيس Majestic Labs

وفقاً لأعمال علمية مؤثرة يستشهد بها IEEE Spectrum، فإن توليد الرموز في نماذج اللغة الكبيرة محدود بشكل أساسي بسرعة الذاكرة: السرعة التي ينتج بها النموذج النص تُحدد بمدى سرعة قراءة البيانات — في المقام الأول أوزان النموذج — من الذاكرة، وليس بسرعة تشغيل وحدات الحوسبة. كلما كان النموذج أكبر، كلما حادت هذه المشكلة، وفي النهاية يظهر "جدار ذاكرة"، الذي يحد من أداء الاستدلال بغض النظر عن النمو في قوة المعالج الحاسوبية — بغض النظر عن عدد النوى وكتل الموتر التي يضيفها المهندسون، فإن سرعة إخراج النص النهائية محدودة بنطاق ذاكرة وسعة الذاكرة المتاحة.

كيف تختلف البنية المعمارية DRAM للـ Prometheus عن نهج Nvidia

يعتقد المؤسس المشارك لـ Majestic Labs ورئيسها Sha Rabii أن مقياس الذاكرة يعطي الشركة ميزة تنافسية. وفقاً له، فإن Nvidia "قامت بعمل رائع في إنشاء نظام قادر على التوسع"، لكن مع نمو النماذج، يصبح هذا النهج غير اقتصادي بشكل متزايد: النظام "ينتهي به الحال مع قوة حوسبية مفرطة وجوعاً من الذاكرة". تستخدم خوادم Nvidia اليوم ذاكرة سريعة عالية النطاق (HBM) — عادة لتخزين أوزان النموذج — وتجمع DRAM منفصل، عادة ما يكون أكبر، لكن أبطأ، يتعامل مع مهام LLM الأخرى والنفقات العامة للخادم.

اختارت Majestic Labs مساراً مختلفاً بشكل أساسي: بنية معمارية موحدة مبنية بالكامل على DRAM، وتحديداً ذاكرة LPDDR6، بدون تقسيم إلى أجنحة سريعة وبطيئة. وفقاً لـ Rabii، فإن معظم واجهات الذاكرة مصممة للعمل على مسافات فيزيائية قصيرة جداً — أحياناً بضعة ملليمترات فقط — وهذا هو ما يحد فيزيائياً من كمية الذاكرة التي يمكن وضعها في النظام مع الحفاظ على نطاق عالي.

ماذا يمكن أن يعني هذا لسوق البنية التحتية للذكاء الاصطناعي

إذا ثبتت رهانات Majestic Labs صحتها، فستقدم الشركة للسوق مصدراً بديلاً لقوة الحوسبة للعمل الذي يفتقد الذاكرة اليوم — العمل مع السياق الطويل، نماذج الخبراء المختلطة بحجم إجمالي كبير من المعاملات تحت التفعيل المتفرق، الاستخدام المكثف لذاكرة التخزين المؤقت KV عند خدمة طلبات متعددة متوازية. هذا يطعن في الافتراض الشائع بأن السباق في البنية التحتية للذكاء الاصطناعي يتعلق بشكل أساسي بعدد المعالجات الرسومية والقوة الحاسوبية في FLOPs: Prometheus يحول جزءاً من التركيز التنافسي إلى حجم وبنية الذاكرة. نظراً لموقع Nvidia المهيمن في سوق خوادم الذكاء الاصطناعي، فإن رهان الشركة الناشئة على بنية معمارية تركز على الذاكرة بدلاً من التركيز على الحوسبة يبرز من بين معظم اللاعبين الذين يتبعون بشكل عام خريطة الطريق الموجهة للحوسبة المحددة من قبل Nvidia في السنوات الأخيرة.

حقيقة ظهور مثل هذا المشروع توضح أن "جدار الذاكرة" كف عن كونه موضوعاً أكاديمياً ضيقاً وأصبح حافزاً تجارياً لإطلاق شركة ناشئة للأجهزة الجديدة. إذا أحضرت Majestic Labs Prometheus إلى الإنتاج التسلسلي، فسيكون لدى مشغلي مراكز البيانات وموفري الخدمات السحابية للمرة الأولى منذ وقت طويل بديل حقيقي لمجموعة "GPU بالإضافة إلى HBM" القياسية، والمنافسة في قطاع البنية التحتية للذكاء الاصطناعي ستتوقف عن كونها مقارنة حصراً لعدد وجيل معالجات الرسومات المسرعة.