ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
بنية تحتيةتحليل · على الرادارAWS Machine Learning Blog→ المصدر

AssemblyAI تخفّض تكاليف استدلال GPU بنسبة 70% بالانتقال إلى مثيلات Spot على AWS

يستنزف تفريغ الكلام نصيًا وحدات GPU إلى درجة تجعل الاحتفاظ بآلاف منها على تعرفة AWS المعتادة مكلفًا للغاية. نقلت AssemblyAI الاستدلال إلى مثيلات Spot التي يمكن لـ Amazon استردادها مع إنذار مسبق مدته دقيقتان، ووفّرت 70% مقارنة بـ On-Demand. وتُحفظ المهام في قائمة انتظار SQS، فتتولى آلة أخرى ببساطة إكمال أي عملية تفريغ مقطوعة. وإذا كانت مهامكم قصيرة ومستقلة، يمكنكم تكرار هذا الأسلوب تقريبًا دون تعديلات.

معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
AssemblyAI تخفّض تكاليف استدلال GPU بنسبة 70% بالانتقال إلى مثيلات Spot على AWS
المصدر: AWS Machine Learning Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليAWS Machine Learning Blog ↗
رئيس التحرير
حقيقة رئيسية #1يجمع الأسطول بين وحدات T4 وA10G وL4 ضمن عائلات g4dn وg5 وg6
حقيقة رئيسية #2ارتفع الطلب على الحوسبة خلال عام واحد بنحو 4 أضعاف
حقيقة رئيسية #3تُبنى صورة الآلة (AMI) التي تحتوي على النماذج في نحو دقيقتين تقريبًا

عندما تحوّلون آلاف الساعات من المكالمات والمحاضرات والتسجيلات الطبية إلى نص، فإن أكبر بند في التكاليف ليس تطوير النموذج، بل وحدات GPU التي يعمل عليها. يمرّ كل ملف صوتي عبر سلسلة من الشبكات العصبية: نموذج صوتي، ونموذج لغوي، ومراحل معالجة لاحقة. ويعمل هذا كله على وحدات GPU من NVIDIA، ولكي تلتزم الشركة بالمهل التي وعدت بها عملاءها، عليها إبقاء هذه الآلات قيد التشغيل على مدار الساعة. وتمتلك AssemblyAI منها الآلاف. وقد روى مهندسو الشركة، بالتعاون مع AWS، كيف خفّضوا فاتورة الحوسبة بنسبة 70% دون الإخلال بالتزامات التوافر والسرعة.

لماذا Spot، وما مخاطره؟

مثيلات Spot هي طاقة حاسوبية فائضة لدى AWS تُباع بأسعار أقل بكثير من أسعار On-Demand المعتادة. والشرط بسيط: إذا احتاج عميل آخر إلى الموارد، تستردّ Amazon الآلة وتُنذر بذلك قبل دقيقتين. وهذه مخاطرة جدية لخدمة تقدّم ضمانات صارمة، فعملية التفريغ المقطوعة يجب ألا تتحول إلى مهمة ضائعة.

لهذا لم تتخلَّ AssemblyAI عن الخوادم المعتادة كليًا. ففي كل عنقود Amazon ECS تعتمد الشركة استراتيجية قائمة على مزوّدَي طاقة. الطبقة الأساسية على On-Demand تعمل دائمًا وتتحمل الحد الأدنى من الحمل. أما طبقة Spot فتنضم عند ذروات الطلب: حين تطول قائمة انتظار المهام تطلب آلات إضافية، وحين ينخفض الطلب تُفرج عنها بسلاسة.

ثلاثة أساليب يقوم عليها التوفير

الأسلوب الأول هو تنويع العتاد. فبدلًا من نوع واحد من GPU، تستخدم الشركة ثلاث عائلات من المثيلات. خوادم g4dn المزوّدة ببطاقات T4 تمثّل أساسًا منخفض التكلفة لنماذج التعرف القياسية. وخوادم g5 المزوّدة بـ A10G توفّر أداءً أعلى للبنى المعمارية الثقيلة. أما خوادم g6 المزوّدة بـ L4 فتتفوق في نسبة السعر إلى السرعة على النماذج الكبيرة، بما فيها الحلول القائمة على نماذج اللغة الكبيرة. وتسحب كل عائلة مواردها من مجمّع خاص بها، فإذا نقصت الطاقة في إحداها بقيت العائلات الأخرى متاحة. ووفق المؤلفين، فإن هذه المرونة هي أنجع وسيلة لتقليل عدد الانقطاعات. ويتولى اختيار المجمّعات المحددة استراتيجية price-capacity optimized: تأخذ AWS الآلات من الأماكن التي تتوافر فيها أكبر طاقة فائضة، وبأقل سعر ممكن.

الأسلوب الثاني هو قائمة انتظار المهام. يصل طلب التفريغ إلى Amazon SQS، وتسحب وحدات GPU المهام من هناك بنفسها. وتستغرق المهمة النموذجية من 15 ثانية إلى بضع دقائق. وعند وصول إنذار الانقطاع، يشغّل EventBridge دالة Lambda. المهام التي تنتهي خلال الدقيقتين تكتمل كالمعتاد. أما البقية فتعود إلى القائمة، وتلتقطها آلة أخرى، ربما من نوع مختلف أو في منطقة توافر مختلفة. وتُحوَّل المهام التي استنفدت عدد محاولاتها إلى قائمة منفصلة لفحصها. وبالنسبة إلى العميل، يبدو الأمر تأخيرًا بسيطًا لا أكثر: النتيجة تصل في النهاية.

الأسلوب الثالث هو الإقلاع السريع. ولكي تظهر الآلة البديلة دون انتظار طويل، تبني الشركة مسبقًا صور آلات خاصة بها (AMI) تضم النماذج والحاويات. وبحسب بيانات AWS، يستغرق الإعداد نحو دقيقتين.

البيانات تبقى داخل منطقتها

يضم عملاء AssemblyAI شركات كثيرة من القطاعات الطبية والمالية والقانونية، حيث لا يجوز إخراج الصوت من نطاق جغرافي محدد. لذلك تعمل في كل منطقة نسخة مستقلة تمامًا من البنية، بقوائم انتظارها وعناقيدها وأساطيل GPU الخاصة بها. وتذكر المقالة أوريغون (us-west-2) ولندن (eu-west-2). كما أن عائلات GPU المطلوبة متاحة في المناطق الأوروبية بأسعار Spot مقبولة.

ما الذي يمكن أخذه من هذه التجربة

الحصيلة بحسب AWS: توفير 70% في حوسبة الاستدلال مقارنة بـ On-Demand. وفي الوقت نفسه ارتفع الحمل خلال عام بنحو أربعة أضعاف، وبقي اقتصاد وحدة الحساب مستقرًا.

غير أن هناك تحفظات. فالنص منشور في مدونة AWS نفسها ويصف حالة واحدة، دون بيانات عن نسبة الانقطاعات، أو عن التأخير في أسوأ الحالات، أو عن حصة الطبقة الأساسية على On-Demand من الأسطول. لذا ينبغي اعتبار رقم 70% مؤشرًا استرشاديًا لا ضمانًا. كما أن هذا الأسلوب لا يناسب الجميع. فهو يصلح للمهام القصيرة التي يمكن إعادة تشغيلها بأمان. أما إذا كان لديكم تدريب طويل دون نقاط تحقق، أو حوار فوري يظهر فيه إعادة التشغيل للمستخدم، فسيتعين تغيير المخطط.

والترتيب العملي لفريق يواجه حملًا مشابهًا هو التالي. أولًا، وزّعوا المهام على عدة عائلات GPU وأحجام، وتحققوا من توافر Spot عبر placement scores. ثم افصلوا استقبال الطلبات عن تنفيذها بقائمة انتظار، وأعدّوا إعادة المهام إلى القائمة عند الانقطاع. وأضيفوا قائمة منفصلة للمهام الميؤوس منها ومقاييس خاصة بالانقطاعات. وأخيرًا، سرّعوا إقلاع الآلات الجديدة بصور جاهزة. والفكرة أن يُعامَل فقدان الخادم بوصفه حدثًا اعتياديًا لا عطلًا طارئًا.

القصة

أسئلة وأجوبة حول الخبر

لماذا Spot، وما مخاطره؟

مثيلات Spot هي طاقة حاسوبية فائضة لدى AWS تُباع بأسعار أقل بكثير من أسعار On-Demand المعتادة. والشرط بسيط: إذا احتاج عميل آخر إلى الموارد، تستردّ Amazon الآلة وتُنذر بذلك قبل دقيقتين. وهذه مخاطرة جدية لخدمة تقدّم ضمانات صارمة، فعملية التفريغ المقطوعة يجب ألا تتحول إلى مهمة ضائعة. لهذا لم تتخلَّ AssemblyAI عن الخوادم المعتادة كليًا. ففي كل عنقود Amazon ECS تعتمد الشركة استراتيجية قائمة على مزوّدَي طاقة. الطبقة الأساسية على On-Demand تعمل دائمًا وتتحمل الحد الأدنى من الحمل.

ما أبرز التفاصيل حول ثلاثة أساليب يقوم عليها التوفير؟

الأسلوب الأول هو تنويع العتاد. فبدلًا من نوع واحد من GPU، تستخدم الشركة ثلاث عائلات من المثيلات. خوادم g4dn المزوّدة ببطاقات T4 تمثّل أساسًا منخفض التكلفة لنماذج التعرف القياسية. وخوادم g5 المزوّدة بـ A10G توفّر أداءً أعلى للبنى المعمارية الثقيلة. أما خوادم g6 المزوّدة بـ L4 فتتفوق في نسبة السعر إلى السرعة على النماذج الكبيرة، بما فيها الحلول القائمة على نماذج اللغة الكبيرة. وتسحب كل عائلة مواردها من مجمّع خاص بها، فإذا نقصت الطاقة في إحداها بقيت العائلات الأخرى متاحة.

ما أبرز التفاصيل حول البيانات تبقى داخل منطقتها؟

يضم عملاء AssemblyAI شركات كثيرة من القطاعات الطبية والمالية والقانونية، حيث لا يجوز إخراج الصوت من نطاق جغرافي محدد. لذلك تعمل في كل منطقة نسخة مستقلة تمامًا من البنية، بقوائم انتظارها وعناقيدها وأساطيل GPU الخاصة بها. وتذكر المقالة أوريغون (us-west-2) ولندن (eu-west-2). كما أن عائلات GPU المطلوبة متاحة في المناطق الأوروبية بأسعار Spot مقبولة.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…