Modal تطلق Spindle: في اختباراتها انخفضت تكاليف الضبط الدقيق حتى 80%

يدرّب فريق وكيلًا على كتابة الشيفرة: يتلقى مهمة، ويعدّل الملفات، ويشغّل الاختبارات، ثم يعود للحصول على التقييم. وطوال هذا الوقت قد تنتظر المسرّعات المخصصة لتحديث النموذج الدفعة التالية من البيانات، بينما تواصل فاتورة الإيجار الارتفاع. تقترح Modal ملء هذه الفجوات بتجارب أخرى: فخادمها الجديد Spindle يتيح لعدة عمليات تشغيل تقاسم العتاد. ووفق اختبارات الشركة نفسها، انخفضت التكاليف مقارنةً بـ Tinker بنسبة 20–80% بحسب المهمة والإعداد.

هذه أداة مفيدة للفرق التي تضبط النماذج المفتوحة بانتظام وتقارن بين كثير من الخيارات. لكن السؤال الأهم هو: كم من العمل يمكن حشره على وحدات GPU المدفوعة؟ فالانتقال وحده من التسعير بالرموز (tokens) إلى الدفع بالساعة لا يضمن التوفير.

كيف تتقاسم عدة تجارب وحدات GPU نفسها

Spindle خادم مفتوح المصدر بواجهة API متوافقة مع Tinker من Thinking Machines. يحدد المطوّر حلقة التدريب بلغة Python: كيف تُحسب الخسارة، وعلى ماذا يُكافأ الوكيل، وفي أي بيئة تُنفَّذ المهام. أما التدريب الموزّع فيتولاه الخادم المنشور في مساحة عمل الفريق على Modal. ويكون الدفع مقابل وقت GPU.

لنفترض أن فريقًا يختبر أربع طرق لتقييم إجابات وكيل بحث. على كل خيار أن يبحث عن مستندات ويقرأها ويجمع الإجابة. وبينما يكون التشغيل الأول مشغولًا بالبحث، ينفّذ الخادم خطوة تدريب للثاني. ثم يأتي دور الثالث. وهكذا تتحول فترات توقف تجربة ما إلى وقت عمل لتجربة أخرى.

ولهذا يدعم Spindle تقنية multi-LoRA: تستخدم عدة عمليات تشغيل نموذجًا أساسيًا مشتركًا ومهايئات (adapters) قابلة للتدريب منفصلة. كما يتوفر تدريب جميع معاملات النموذج. وتنفصل حسابات توليد الإجابات عن حسابات تحديث الأوزان، لذلك يمكن اختيار مسرّعات مختلفة لكل منهما وتغيير حجم الموارد لكل منهما على حدة.

جرى إظهار التوافق على وكيل بحث يعتمد gpt-oss-20b ويعمل مع البيانات المالية وأدوات البحث والقراءة. ووفق وصف Modal، كفى لنقل سكربت Tinker قائم استبدال عنوان الخادم ومفتاح الوصول. وهذا مثال جيد على الترحيل، وإن كان لا يثبت بعد التوافق مع أي شيفرة يكتبها المستخدمون.

أين ظهرت الوفورات وأين انتهى الهامش

في الاختبار الرياضي كان عميل واحد يترك فترات توقف طويلة بين خطوات التدريب. وعندما بدأ أربعة عملاء بتناوب العمل بلغ حمل خادم التدريب نحو 88%. أما زيادة عدد العملاء أكثر في هذا الإعداد فقد أضعفت بوضوح إنتاجية كل تشغيل، إذ كان عليها التنافس على الموارد المشتركة.

يُظهر تفاوت الأسعار جيدًا اعتماد النتيجة على المهمة. ففي الرياضيات خفّضت Modal التكلفة المحسوبة لمليون رمز إخراج من 9.77 إلى 1.99 دولار مع ثمانية عملاء. وفي وكيل البحث كان التوفير أكثر تواضعًا: من 5.06 إلى 3.80 دولار. وفي مهام البرمجة SWE-Gym بسياق 256 ألف رمز، أعلنت الشركة انخفاضًا من 15.04 إلى 5.82 دولار.

هذه قياسات من المورّد، بعتاد مختلف وأعداد مختلفة من العملاء المتوازين. ولا ينبغي تحويلها إلى وعد بخصم لأي مشروع. كما رافق انخفاضَ التكلفة تأخرٌ في اكتمال عمليات التشغيل المنفردة. وبالنسبة لفريق لديه موعد نهائي صارم للحصول على نموذج واحد، قد لا تكون هذه المقايضة مجدية.

ما الذي يجب فحصه قبل نقل التدريب

تكمن الفائدة العملية لـ Spindle في إمكانية تكييف الخادم مع مهمتك. فمثلًا تصف Modal توسيع سياق النموذج من 16 إلى 256 ألف رمز عبر الإعدادات وزيادة توازي معالجة السياق. لكن تغيير إعدادين في المثال لا يعني أن السياق الطويل يأتي مجانًا: فلا تزال هناك حاجة إلى وحدات GPU مناسبة وفحص الاستقرار.

ينبغي البدء بنقل تجربة واحدة قابلة للتكرار. أولًا قارن الجودة على مجموعة المهام نفسها، ثم شغّل عدة خيارات في آن واحد وقِس تكلفة التدريب المكتمل وزمن الانتظار وحمل المسرّعات. فالرموز الرخيصة لا تفيد كثيرًا إذا وصلت النتيجة المطلوبة متأخرة جدًا.

لا يزال Spindle في مرحلة بيتا. يتيح الكود المفتوح تطوير الخادم، لكن النشر الموصوف يستخدم بنية Modal التحتية. وبالنسبة لفريق لديه طابور دائم من التجارب، فهذا سبب للتحقق من اقتصاديات الحمل المشترك على GPU. أما لعمليات التشغيل المنفردة النادرة فلا تزال الميزة بحاجة إلى إثبات. الإعدادات والنتائج منشورة في إعلان Modal.