ذاكرة عالية النطاق الترددي (HBM)
ذاكرة عالية النطاق الترددي (HBM) هي تكنولوجيا ذاكرة الوصول العشوائي الديناميكية المكدسة التي تربط عدة شرائح ذاكرة عموديًا وتوصلها بوحدة معالجة الرسومات عبر ناقل داخلي عريض جداً، محققة نطاقات ترددية للذاكرة تبلغ عدة تيرابايت في الثانية - تتجاوز بكثير ذاكرة GDDR التقليدية.
HBM هي نوع من ذاكرة الوصول العشوائي الديناميكية مصممة للنطاق الترددي الشديد بدلاً من التكلفة المنخفضة لكل بت. يتم تكديس عدة شرائح DRAM رقيقة عموديًا باستخدام مسامير عبر السيليكون (TSVs) وتركيبها على وسيط بجانب شريحة المعالج في عبوة 2.5D. تسمح هذه الترتيبات بعرض ناقل بقدر 1024 بت لكل مكدس HBM - مقارنة بـ 32 بت لقناة GDDR6 نموذجية - تعمل بسرعات ساعة معتدلة، وتحقق نطاقات ترددية لا يمكن لواجهات خارج الحزمة ذات الأثر الطويل أن تطابقها بقوة مقبولة.
قام JEDEC بتوحيد HBM في عام 2013؛ تشمل الأجيال اللاحقة HBM2 (2016) و HBM2E (2018) و HBM3 (2022) و HBM3E (2024). تستخدم H100 من NVIDIA HBM3 وتوفر حوالي 3.35 تيرابايت/ثانية من النطاق الترددي للذاكرة؛ MI300X من AMD، والتي تستخدم أيضًا HBM3 عبر حزمة متعددة الشرائح بإجمالي 192 جيجابايت، تصل إلى حوالي 5.3 تيرابايت/ثانية. HBM4 قيد التطوير الفعلي مع أهداف نطاق ترددي لكل مكدس تزيد عن 6 تيرابايت/ثانية. تعتبر SK Hynix و Samsung و Micron هي الشركات المصنعة الثلاث الأساسية لـ HBM، وكان نقص الإمدادات في HBM3E عنق زجاجة موثق في توفر أجهزة الذكاء الاصطناعي حتى عام 2024-2025.
تكون HBM محورية لأداء الذكاء الاصطناعي لأن الشبكات العصبية الكبيرة تكون مرتبطة بشدة بنطاق ترددي الذاكرة: يمكن لوحدات الحساب أن تنفذ حسابات أكثر من الناحية النظرية مما يمكن تغذيتها بيانات من ذاكرة الوصول العشوائي الديناميكية الأبطأ، وهي ظاهرة تسمى جدار الذاكرة. يقلل النطاق الترددي الأعلى من جزء الوقت الذي تجلس فيه وحدات الحساب خاملة في انتظار الأوزان أو التفعيلات، مما يحسن الإنتاجية وكفاءة الطاقة لكل FLOP مفيدة. كما أن القرب المادي لمكادس HBM إلى شريحة الحساب يقلل أيضًا من كمون الوصول مقارنة بحلول الذاكرة خارج الحزمة.
اعتباراً من 2026، يعتبر HBM3E المعيار السائد في معجلات الذكاء الاصطناعي الحدودية؛ تستمر وحدات معالجة الرسومات الاستهلاكية في استخدام GDDR7، مما يحافظ على فجوة كبيرة في التكلفة والأداء بين القطاعات. ينعكس الأهمية الإستراتيجية لـ HBM في سياسة التحكم بالصادرات: قيدت الحكومة الأمريكية شحن HBM المتقدم المستخدم في شرائح الذكاء الاصطناعي إلى دول معينة، معاملة إياه كمكون تمكيني حاسم لتدريب الذكاء الاصطناعي على نطاق واسع.