آبل تُعدّ Harbor: عنقود من أجهزة Mac عبر Thunderbolt 5 لتشغيل نماذج LLM محليًا

العائق الأكبر أمام تشغيل النماذج الكبيرة محليًا ليس الحوسبة بل الذاكرة. فإذا كانت الأوزان تشغل 180 غيغابايت وذاكرة جهاز Mac لديك 128 غيغابايت، فلن يُحمَّل النموذج ببساطة، ولن تفيد أي عملية تحسين. وهذه المشكلة تحديدًا تنوي آبل حلّها بتطبيقها Harbor، بحسب تقرير 9to5Mac وتسريب الواجهة الذي نشره Aaron Perris.

ما المعروف عن Harbor

Harbor تطبيق أصلي لنظام macOS يحوّل جهاز Mac بمعالجات Apple Silicon إلى خادم استدلال للنماذج المفتوحة. المواصفات المعلنة كالتالي:

• تتصل عدة أجهزة Mac مباشرة بكابل Thunderbolt 5، وتعمل ذاكرتها الموحدة كمجمّع مشترك؛
• يكتشف التطبيق الأجهزة المتصلة بنفسه ويُنشئ العنقود في بضع دقائق، دون CLI ودون إعداد خوادم؛
• كتالوج النماذج مفتوحة الأوزان مدمج في الواجهة: يمكن البحث والتنزيل والتشغيل ببضع نقرات؛
• تجري جميع العمليات الحسابية محليًا، ولا تغادر الأوامر النصية (prompts) ولا الأوزان إلى السحابة.

وبحسب هذه المعلومات، يجري الاختبار المغلق تحت علامة Claris، الشركة التابعة لآبل. لا يوجد إعلان رسمي بعد، لذا فكل ما سبق مجرد نقل للتسريب.

كيف يُفترض أن يعمل ذلك بمثال

لنفترض أن لديك جهازي Mac بذاكرة 128 غيغابايت لكل منهما، وأن النموذج المطلوب بعد التكميم يزن نحو 180 غيغابايت. كلٌّ منهما وحده لا يستطيع تحميله. أما معًا فيتوفر 256 غيغابايت، وهذا يكفي للأوزان مع ذاكرة KV المؤقتة والنظام. عادةً تقسّم هذه الأنظمة النموذج حسب الطبقات: يحتفظ كل جهاز Mac بجزئه، وتنتقل بينهما عبر الكابل التنشيطات الوسيطة فقط، لا غيغابايتات من الأوزان. أما كيف يقسّم Harbor النموذج فلم يرد في التسريب، وهذا مجرد نهج معتاد.

بالنسبة لفريق عمل، يعني ذلك خادمًا للمهام الداخلية (الشيفرة، المستندات، البحث في قاعدة المعرفة) يقف على المكتب ولا يرسل البيانات إلى الخارج.

أين ينبغي تخفيف الحماس

عبارة «الذاكرة تتجمّع» لا تعني «السرعة كأنها ذاكرة واحدة ضخمة». يوفر Thunderbolt 5 حتى 80 غيغابت/ث، أي نحو 10 غيغابايت/ث. أما الذاكرة داخل شرائح آبل، خصوصًا في إصدارات Ultra، فأسرع بمرتبة كاملة وأكبر حجمًا. ووعد المنشور بـ«عدم فقدان سرعة التوليد» يحتاج إلى التحقق عبر اختبارات. الأكثر واقعية أن نتوقع أن يتيح العنقود تشغيل النموذج، لا تسريعه.

وهناك تحفظات أخرى:

• Thunderbolt 5 ليس في كل أجهزة Mac، بل في الطرازات الجديدة بالمعالجات العليا فقط، فلن يصلح أسطول من الأجهزة القديمة؛
• الأسعار وموعد الإصدار وقائمة النماذج المدعومة والواجهة الخلفية (backend) كلها غير معروفة؛
• يمكن بالفعل تركيب شيء مشابه يدويًا: تدعم MLX التشغيل الموزّع، وتوجد مشاريع مثل exo. وHarbor في جوهره يعد بتغليف ذلك في واجهة رسومية مفهومة؛
• لأحمال الإنتاج التي تضم عشرات المستخدمين المتزامنين، فهو ليس بديلًا عن خوادم GPU.

ماذا تفعل بهذا

إذا كنت مطورًا على Mac، فلا ينبغي شراء جهاز ثانٍ لهذا الغرض قبل الإصدار. قدّر أولًا بالأدوات الحالية (MLX وexo) السرعة التي ستحصل عليها على النموذج المطلوب: فهي ما يحدد إن كان هذا العنقود يكفيك.

وإذا كنت مدير منتج أو مؤسسًا، فالإشارة أهم من التطبيق نفسه: آبل تتعامل بجدية مع الاستدلال المحلي بوصفه منتجًا. وفي السيناريوهات التي لا يجوز فيها تسليم البيانات إلى السحابة (المحامون، الطب، قواعد المعرفة الداخلية)، قد يصبح هذا خيار بداية رخيصًا. لكن انتظر أولًا الإصدار الرسمي وقياسات سرعة مستقلة.