4 Mac Studio в один кластер: 1,5 ТБ памяти для LLM на триллион параметров
Энтузиаст объединил четыре Mac Studio в один кластер с 1,5 ТБ общей памяти через новую технологию RDMA поверх Thunderbolt 5. Цель — запускать локально гигантские языковые модели уровня DeepSeek V3 и Kimi K2 Thinking примерно на триллион параметров, которые не помещаются ни в одну видеокарту. Автор делится тестами производительности, сравнивает связку с решениями Nvidia и AMD и честно рассказывает про боль с настройкой и стабильностью.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
تجربة تقنية جمع من خلالها هاوٍ أربعة أجهزة Mac Studio في مجموعة واحدة (cluster) بذاكرة إجمالية تبلغ 1,5 تيرابايت عبر تقنية RDMA فوق Thunderbolt 5، وشغّل عليها نماذج لغوية بمستوى DeepSeek V3 وKimi K2 Thinking بنحو تريليون معامل (parameter). نُشرت التجربة على Habr في يوليو 2026 كترجمة للمقال الأصلي لصاحبها.
لماذا الجمع بين أربعة أجهزة Mac Studio
جُمعت أربعة أجهزة Mac Studio في مجموعة واحدة من أجل الحصول على 1,5 تيرابايت من الذاكرة المشتركة — وهي سعة تتسع بالكامل لنموذج لغوي بتريليون معامل. النماذج بهذا الحجم لا تتسع فعليًا في ذاكرة أي بطاقة رسومية استهلاكية أو حتى بطاقة خوادم بمفردها، لذا فإن الطريقة الوحيدة لتشغيلها محليًا هي تجميع مجمّع ذاكرة (pool) من عدة أجهزة.
اختير Mac Studio بسبب معمارية Apple ذات الذاكرة الموحدة (unified memory): في أعلى الإصدارات تُقاس السعة بمئات الغيغابايت، وهي متاحة للمعالج المركزي وللنواة الرسومية دون نسخ. أربعة أجهزة من هذا النوع تعطي مجموعًا قدره 1,5 تيرابايت.
*الإعداد — أربعة أجهزة Mac Studio في مجموعة واحدة
*الذاكرة الإجمالية — 1,5 تيرابايت
*الاتصال بين العقد — RDMA فوق Thunderbolt 5
*النماذج المستهدفة — DeepSeek V3 وKimi K2 Thinking (نحو 1 تريليون معامل)
*مقارنة الأداء — مع حلول Nvidia وAMD
كيف يعمل الاتصال عبر Thunderbolt 5
عُقد المجموعة متصلة عبر Thunderbolt 5 باستخدام RDMA — وهو وصول مباشر إلى ذاكرة الجهاز المجاور متجاوزًا المعالج المركزي. RDMA بالتحديد هو ما يزيل نقطة الاختناق الرئيسية في الاستدلال الموزع (distributed inference): تبادل الأوزان والحالات الوسيطة للنموذج بين العقد يجري بأقل زمن انتظار، دون إثقال وحدة المعالجة المركزية (CPU).
يوفر Thunderbolt 5 عرض نطاق ترددي يقارب 80 غيغابت في الثانية، والجمع بين RDMA وهذه القناة يُعد نهجًا جديدًا نسبيًا بالنسبة لأجهزة Mac. في جوهر الأمر، حوّل الكاتب أربعة أجهزة مكتبية منفصلة إلى جهاز واحد بمساحة عناوين ذاكرة مشتركة، ووزّع عليها طبقات النموذج الضخم.
ما هي المشكلات التي ظهرت
يصف الكاتب أكبر معاناته ليس في الأداء، بل في إعداد واستقرار ربط أربع عقد معًا. تقنية RDMA فوق Thunderbolt 5 على macOS حديثة العهد، وتبيّن أن الطريق من «اشتريت أربعة أجهزة Mac Studio» إلى «النموذج ذو التريليون معامل يستجيب باستقرار» لم يكن واضحًا.
يورد الكاتب في المقال نتائج اختبارات السرعة ويقارن المجموعة بحلول مبنية على Nvidia وAMD — لفهم أين يتفوق حل Apple من حيث الذاكرة مقابل الدولار، وأين يخسر من حيث عرض النطاق الترددي ونضج البرمجيات.
الهدف من التجربة هو تشغيل نماذج لغوية عملاقة محليًا لا تتسع في أي بطاقة رسومية موجودة حاليًا — كما يصف الكاتب في مقاله على
Habr.
ماذا يعني هذا
التشغيل المحلي لنماذج بتريليون معامل لم يعد حكرًا على مراكز البيانات ذات حوامل GPU الباهظة الثمن: أصبح الجمع بين عدة أجهزة Mac Studio بذاكرة موحدة وThunderbolt 5 بديلاً عمليًا لمن يهمه الاستدلال الخاص لنماذج MoE الكبيرة دون سحابة. لا يمكن وصفه بعد بأنه حل واسع الانتشار — فخام البرمجيات وتعقيد الإعداد لا يزالان عائقًا.
أسئلة شائعة
لماذا الجمع بين عدة أجهزة Mac Studio في مجموعة واحدة؟
للحصول على مجمّع ذاكرة موحد سعته 1,5 تيرابايت. نماذج مثل DeepSeek V3 وKimi K2 Thinking بتريليون معامل لا تتسع في ذاكرة بطاقة رسومية واحدة، بينما توفر أربعة أجهزة Mac Studio بذاكرة مشتركة واتصال RDMA فوق Thunderbolt 5 هذه السعة.
ما هي النماذج التي أمكن تشغيلها محليًا؟
شغّل الكاتب على المجموعة نماذج لغوية بمستوى DeepSeek V3 وKimi K2 Thinking — وكلاهما بنحو 1 تريليون معامل. من أجلهما بالتحديد جُمّع الإعداد بذاكرة إجمالية قدرها 1,5 تيرابايت.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.