AssemblyAI تخفّض تكاليف استدلال GPU بنسبة 70% بالانتقال إلى مثيلات Spot على AWS
يستنزف تفريغ الكلام نصيًا وحدات GPU إلى درجة تجعل الاحتفاظ بآلاف منها على تعرفة AWS المعتادة مكلفًا للغاية. نقلت AssemblyAI الاستدلال إلى مثيلات Spot التي يمكن لـ Amazon استردادها مع إنذار مسبق مدته دقيقتان، ووفّرت 70% مقارنة بـ On-Demand. وتُحفظ المهام في قائمة انتظار SQS، فتتولى آلة أخرى ببساطة إكمال أي عملية تفريغ مقطوعة. وإذا كانت مهامكم قصيرة ومستقلة، يمكنكم تكرار هذا الأسلوب تقريبًا دون تعديلات.
معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
عندما تحوّلون آلاف الساعات من المكالمات والمحاضرات والتسجيلات الطبية إلى نص، فإن أكبر بند في التكاليف ليس تطوير النموذج، بل وحدات GPU التي يعمل عليها. يمرّ كل ملف صوتي عبر سلسلة من الشبكات العصبية: نموذج صوتي، ونموذج لغوي، ومراحل معالجة لاحقة. ويعمل هذا كله على وحدات GPU من NVIDIA، ولكي تلتزم الشركة بالمهل التي وعدت بها عملاءها، عليها إبقاء هذه الآلات قيد التشغيل على مدار الساعة. وتمتلك AssemblyAI منها الآلاف. وقد روى مهندسو الشركة، بالتعاون مع AWS، كيف خفّضوا فاتورة الحوسبة بنسبة 70% دون الإخلال بالتزامات التوافر والسرعة.
لماذا Spot، وما مخاطره؟
مثيلات Spot هي طاقة حاسوبية فائضة لدى AWS تُباع بأسعار أقل بكثير من أسعار On-Demand المعتادة. والشرط بسيط: إذا احتاج عميل آخر إلى الموارد، تستردّ Amazon الآلة وتُنذر بذلك قبل دقيقتين. وهذه مخاطرة جدية لخدمة تقدّم ضمانات صارمة، فعملية التفريغ المقطوعة يجب ألا تتحول إلى مهمة ضائعة.
لهذا لم تتخلَّ AssemblyAI عن الخوادم المعتادة كليًا. ففي كل عنقود Amazon ECS تعتمد الشركة استراتيجية قائمة على مزوّدَي طاقة. الطبقة الأساسية على On-Demand تعمل دائمًا وتتحمل الحد الأدنى من الحمل. أما طبقة Spot فتنضم عند ذروات الطلب: حين تطول قائمة انتظار المهام تطلب آلات إضافية، وحين ينخفض الطلب تُفرج عنها بسلاسة.
ثلاثة أساليب يقوم عليها التوفير
الأسلوب الأول هو تنويع العتاد. فبدلًا من نوع واحد من GPU، تستخدم الشركة ثلاث عائلات من المثيلات. خوادم g4dn المزوّدة ببطاقات T4 تمثّل أساسًا منخفض التكلفة لنماذج التعرف القياسية. وخوادم g5 المزوّدة بـ A10G توفّر أداءً أعلى للبنى المعمارية الثقيلة. أما خوادم g6 المزوّدة بـ L4 فتتفوق في نسبة السعر إلى السرعة على النماذج الكبيرة، بما فيها الحلول القائمة على نماذج اللغة الكبيرة. وتسحب كل عائلة مواردها من مجمّع خاص بها، فإذا نقصت الطاقة في إحداها بقيت العائلات الأخرى متاحة. ووفق المؤلفين، فإن هذه المرونة هي أنجع وسيلة لتقليل عدد الانقطاعات. ويتولى اختيار المجمّعات المحددة استراتيجية price-capacity optimized: تأخذ AWS الآلات من الأماكن التي تتوافر فيها أكبر طاقة فائضة، وبأقل سعر ممكن.
الأسلوب الثاني هو قائمة انتظار المهام. يصل طلب التفريغ إلى Amazon SQS، وتسحب وحدات GPU المهام من هناك بنفسها. وتستغرق المهمة النموذجية من 15 ثانية إلى بضع دقائق. وعند وصول إنذار الانقطاع، يشغّل EventBridge دالة Lambda. المهام التي تنتهي خلال الدقيقتين تكتمل كالمعتاد. أما البقية فتعود إلى القائمة، وتلتقطها آلة أخرى، ربما من نوع مختلف أو في منطقة توافر مختلفة. وتُحوَّل المهام التي استنفدت عدد محاولاتها إلى قائمة منفصلة لفحصها. وبالنسبة إلى العميل، يبدو الأمر تأخيرًا بسيطًا لا أكثر: النتيجة تصل في النهاية.
الأسلوب الثالث هو الإقلاع السريع. ولكي تظهر الآلة البديلة دون انتظار طويل، تبني الشركة مسبقًا صور آلات خاصة بها (AMI) تضم النماذج والحاويات. وبحسب بيانات AWS، يستغرق الإعداد نحو دقيقتين.
البيانات تبقى داخل منطقتها
يضم عملاء AssemblyAI شركات كثيرة من القطاعات الطبية والمالية والقانونية، حيث لا يجوز إخراج الصوت من نطاق جغرافي محدد. لذلك تعمل في كل منطقة نسخة مستقلة تمامًا من البنية، بقوائم انتظارها وعناقيدها وأساطيل GPU الخاصة بها. وتذكر المقالة أوريغون (us-west-2) ولندن (eu-west-2). كما أن عائلات GPU المطلوبة متاحة في المناطق الأوروبية بأسعار Spot مقبولة.
ما الذي يمكن أخذه من هذه التجربة
الحصيلة بحسب AWS: توفير 70% في حوسبة الاستدلال مقارنة بـ On-Demand. وفي الوقت نفسه ارتفع الحمل خلال عام بنحو أربعة أضعاف، وبقي اقتصاد وحدة الحساب مستقرًا.
غير أن هناك تحفظات. فالنص منشور في مدونة AWS نفسها ويصف حالة واحدة، دون بيانات عن نسبة الانقطاعات، أو عن التأخير في أسوأ الحالات، أو عن حصة الطبقة الأساسية على On-Demand من الأسطول. لذا ينبغي اعتبار رقم 70% مؤشرًا استرشاديًا لا ضمانًا. كما أن هذا الأسلوب لا يناسب الجميع. فهو يصلح للمهام القصيرة التي يمكن إعادة تشغيلها بأمان. أما إذا كان لديكم تدريب طويل دون نقاط تحقق، أو حوار فوري يظهر فيه إعادة التشغيل للمستخدم، فسيتعين تغيير المخطط.
والترتيب العملي لفريق يواجه حملًا مشابهًا هو التالي. أولًا، وزّعوا المهام على عدة عائلات GPU وأحجام، وتحققوا من توافر Spot عبر placement scores. ثم افصلوا استقبال الطلبات عن تنفيذها بقائمة انتظار، وأعدّوا إعادة المهام إلى القائمة عند الانقطاع. وأضيفوا قائمة منفصلة للمهام الميؤوس منها ومقاييس خاصة بالانقطاعات. وأخيرًا، سرّعوا إقلاع الآلات الجديدة بصور جاهزة. والفكرة أن يُعامَل فقدان الخادم بوصفه حدثًا اعتياديًا لا عطلًا طارئًا.
- 21 نوفمبر 2026AG-UI 1.0 يمنح وكلاء الذكاء الاصطناعي لغة موحدة للتواصل مع التطبيق: 31 نوعًا من الأحداث
- 21 نوفمبر 2026OpenAI تطلق ChatGPT Wallet: وكلاء الذكاء الاصطناعي يشترون دون أن يروا رقم البطاقة
- 21 نوفمبر 2026الولايات المتحدة أنفقت 70.7 مليون دولار على إعلانات ChatGPT في أكتوبر — بزيادة 127% عن أبريل
- 21 نوفمبر 2026ONNX Runtime يختفي من GitHub: مايكروسوفت تُخفي المستودعات بعد اختراق إحدى الحزم
أسئلة وأجوبة حول الخبر
لماذا Spot، وما مخاطره؟
مثيلات Spot هي طاقة حاسوبية فائضة لدى AWS تُباع بأسعار أقل بكثير من أسعار On-Demand المعتادة. والشرط بسيط: إذا احتاج عميل آخر إلى الموارد، تستردّ Amazon الآلة وتُنذر بذلك قبل دقيقتين. وهذه مخاطرة جدية لخدمة تقدّم ضمانات صارمة، فعملية التفريغ المقطوعة يجب ألا تتحول إلى مهمة ضائعة. لهذا لم تتخلَّ AssemblyAI عن الخوادم المعتادة كليًا. ففي كل عنقود Amazon ECS تعتمد الشركة استراتيجية قائمة على مزوّدَي طاقة. الطبقة الأساسية على On-Demand تعمل دائمًا وتتحمل الحد الأدنى من الحمل.
ما أبرز التفاصيل حول ثلاثة أساليب يقوم عليها التوفير؟
الأسلوب الأول هو تنويع العتاد. فبدلًا من نوع واحد من GPU، تستخدم الشركة ثلاث عائلات من المثيلات. خوادم g4dn المزوّدة ببطاقات T4 تمثّل أساسًا منخفض التكلفة لنماذج التعرف القياسية. وخوادم g5 المزوّدة بـ A10G توفّر أداءً أعلى للبنى المعمارية الثقيلة. أما خوادم g6 المزوّدة بـ L4 فتتفوق في نسبة السعر إلى السرعة على النماذج الكبيرة، بما فيها الحلول القائمة على نماذج اللغة الكبيرة. وتسحب كل عائلة مواردها من مجمّع خاص بها، فإذا نقصت الطاقة في إحداها بقيت العائلات الأخرى متاحة.
ما أبرز التفاصيل حول البيانات تبقى داخل منطقتها؟
يضم عملاء AssemblyAI شركات كثيرة من القطاعات الطبية والمالية والقانونية، حيث لا يجوز إخراج الصوت من نطاق جغرافي محدد. لذلك تعمل في كل منطقة نسخة مستقلة تمامًا من البنية، بقوائم انتظارها وعناقيدها وأساطيل GPU الخاصة بها. وتذكر المقالة أوريغون (us-west-2) ولندن (eu-west-2). كما أن عائلات GPU المطلوبة متاحة في المناطق الأوروبية بأسعار Spot مقبولة.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.