ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
بنية تحتيةAPI / منتج · جاهز للعملAWS Machine Learning Blog→ المصدر

Salesforce تنقل 78% من حركة الطلبات إلى منطقة أخرى خلال 3 دقائق عبر موجّه SageMaker

تشغّل Salesforce نماذجها في أكثر من 30 منطقة على AWS. وحين كانت وحدات GPU تنفد في إحدى المناطق، كان العملاء يتلقون أخطاء، بينما تقف الخوادم في منطقة مجاورة دون عمل. أما الآن فيذهب الطلب إلى موجّه SageMaker AI المُدار، الذي يختار بنفسه نقطة نهاية (endpoint) سليمة. في الاختبار أُجهدت منطقة us-west-2 (أوريغون) بحمل زائد، وبعد 3 دقائق من ظهور الأخطاء الأولى كانت us-east-2 (أوهايو) تخدم 78% من الحركة. ولا حاجة إلى كتابة فحوص health-check وإعادات محاولة خاصة بين المناطق.

معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
Salesforce تنقل 78% من حركة الطلبات إلى منطقة أخرى خلال 3 دقائق عبر موجّه SageMaker
المصدر: AWS Machine Learning Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليAWS Machine Learning Blog ↗
رئيس التحرير
حقيقة رئيسية #1ردّت المنطقة المثقلة خلال 45–58 ثانية بدلاً من 0,2 ثانية
حقيقة رئيسية #2أضاف الانتقال إلى منطقة أخرى أقل من 100 مللي ثانية من زمن الاستجابة
حقيقة رئيسية #3استغرقت عودة الحركة بعد التعافي نحو 10 دقائق

تخيّلوا أن مصنِّف السمّية لديكم منشور في أوريغون وأوهايو. في أوريغون يبلغ الحمل ذروته، وتنشغل كل نُسخ GPU، وتفشل الطلبات بأخطاء، بينما تقف الخوادم في أوهايو دون عمل. هذا بالضبط ما واجهته Salesforce: فنماذجها تعمل في أكثر من 30 منطقة على AWS وفي مئات الحسابات، وكان نقص القدرة في منطقة واحدة يتحول إلى انقطاع الخدمة عن العملاء.

في السابق كانت بوابة طوّرتها الشركة بنفسها تتولى إعادة توجيه الحركة، أما الآن فيتولى ذلك موجّه Amazon SageMaker AI المُدار (cross-Region inference routing). في الاختبار أجهد الفريق عمداً نقطة النهاية في us-west-2 (أوريغون) حتى التشبّع. وبعد نحو دقيقتين من الأخطاء الأولى وصلت الطلبات الأولى إلى us-east-2 (أوهايو)، وبعد دقيقة أخرى، أي بعد نحو 3 دقائق، كانت المنطقة تعالج نحو 78% من حركة الاختبار.

وإذا كنتم تشغّلون نماذج في عدة مناطق، فإن هذه التجربة تُظهر أنه يمكن إسناد failover إلى المنصة بدل كتابته بأنفسكم.

لماذا يتحول نقص القدرة إلى توقف؟

يخدم فريق Agentforce Foundation النماذج الخاصة بـ Agentforce وSalesforce Trust Layer: بعضها دُرّب داخل الشركة، وبعضها مفتوح المصدر. تُعالَج طلبات العميل في المنطقة التي صدرت منها، وتُحجز السعة وفق حركة كل عميل. ولكل عميل ساعات ذروته، وكثيراً ما تتقاطع. حجز القدرة لمجموع الذُّرى آمن، لكنه مكلف جداً. كما يضيف العملاء فجأة وحدات أعمال جديدة، فيضطر الفريق إلى توسيع الأسطول بسرعة، منطقة بعد أخرى. والنتيجة أن السعة تتجزأ: ففي مكان ما تقف النُّسخ بلا عمل، وفي مكان آخر لا تكفي.

في السابق كانت بوابة Internal Gateway الخاصة بالشركة ترسل الحركة الزائدة إلى مناطق أخرى، بفحوص health-check بسيطة وإعادات محاولة وتبديل بين المناطق. وكان في هذا الأسلوب عيبان. فالبوابة لم تكن تعرف هل لدى المنطقة المجاورة سعة فارغة. إضافة إلى ذلك، كانت الحركة بين المناطق تخرج من VPC عبر NAT وبوابة الإنترنت، أي عبر شبكة AWS العامة. وخشي الفريق أيضاً من فشل متسلسل: فتحويل الحركة في ذروة العطل قد يُثقل المنطقة التالية، ولذلك لا بد من سقف لحصة الحركة بين المناطق.

كيف يعمل الموجّه؟

الموجّه مورد إقليمي في SageMaker AI داخل حسابكم. يستدعيه التطبيق بدلاً من نقطة النهاية، ويمرّر اسم routing target مع جسم الطلب نفسه وcontent type نفسه. وrouting target نموذج منطقي، مثل مصنِّف السمّية، مرفق بقائمة من نقاط النهاية ومكوّنات الاستدلال (inference components) بحسب ARN. وقد تكون هذه في منطقة أخرى أو في حساب آخر. ويمنح مالك نقطة النهاية الصلاحية عبر resource-based policy مشروطة بموجّه محدد، ويمكنه سحبها في أي وقت.

ما دامت نقطة النهاية المحلية تتحمل الحمل، تبقى الطلبات في منطقتها. ويقيّم الموجّه سلامة كل وجهة بناءً على نتائجها الأخيرة: أخطاء المنصة وأخطاء 5xx من حاوية النموذج والتقييد (throttling) وانتهاء المهلة (timeout) كلها تُضعف تقييمها. وتبدأ الحركة بالتحول عادة بعد نحو دقيقة. وإذا لم تنفّذ الوجهة الطلب، يعيد الموجّه المحاولة مرة واحدة على وجهة أخرى. أما أخطاء العميل، مثل المدخلات الخاطئة، فلا تحرّك الحركة، وكذلك زمن الاستجابة: فقد يكون الرد البطيء ناتجاً عن موجّه (prompt) طويل لا أكثر. وبعد التعافي تعود الحركة أبطأ مما غادرت، لئلا يتذبذب النظام.

من المهم: الموجّه لا ينشر النماذج ولا يضيف نُسخاً. فهو يستخدم السعة المنشورة أصلاً، ويبقى التحجيم التلقائي (autoscaling) من مسؤولية كل نقطة نهاية.

تربط Salesforce الطلبات الحاملة لعلامة data residency ربطاً صارماً بـ routing target محلي له وجهة واحدة، فلا تعبر حدود المنطقة. وتذهب بقية الطلبات إلى الموجّه. ولا تضيف البوابة إعادات محاولة خاصة بها، حتى لا تتضاعف المحاولات أثناء العطل، وقد حُسبت المهلة بهامش يراعي المسار بين المناطق.

ماذا أظهر الاختبار؟

اختبرت Salesforce أولاً التوجيه داخل us-west-2، ثم أضافت نقطة نهاية في us-east-2 من حساب آخر. ولأغراض المراقبة (observability)، يحمل كل رد حقلين: InvokedRoutedResourceArn وRoutingReason (local-preferred أو failover أو capacity-available أو only-healthy). ويتضمن ARN المنطقة والحساب، فيُعرف من سطر واحد في السجل أين عولج الطلب ولماذا.

في الاختبار أُجهدت نقطة النهاية المحلية في us-west-2 حتى التشبّع. وعلى مدى نحو خمس دقائق ارتفع متوسط زمن استجابة الاختبار (median) من 0,2 إلى 45–58 ثانية، بينما بقيت الحركة في مكانها، لأن زمن الاستجابة وحده لا يحركها. وحين بدأت الطلبات تصطدم بمهلة الحاوية البالغة 60 ثانية وتفشل بأخطاء، تفاعل الموجّه. وصلت الطلبات الأولى إلى us-east-2 بعد نحو دقيقتين من الأخطاء الأولى، وبعد دقيقة أخرى كانت المنطقة تخدم نحو 78% من حركة الاختبار. وبقيت نسبة 20–25% الباقية محلية، كي يلاحظ الموجّه التعافي. وعاد المتوسط إلى 0,2 ثانية، وأضاف المسار بين المناطق أقل من 100 مللي ثانية. واستغرقت العودة نحو 10 دقائق، ولم يسجّل الاختبار أي أخطاء أثناء التحويل والعودة.

ماذا تفعلون عملياً وما حدود التجربة؟

يمكن إسناد منطق failover وفحوص health-check وإعادات المحاولة بين المناطق إلى المنصة، وفي الكود يكفي استبدال العميل وعملية الاستدعاء. وهذا أيضاً طريق إلى توفير التكاليف: مجمّع مشترك بدل احتياطي لمجموع الذُّرى في كل منطقة. وفي المقابل، تلزم سياسات سماح في الحسابات المالكة وقواعد residency مدروسة.

الاستجابة ليست فورية: فالعملاء يعيشون دقائق التشبّع بزمن استجابة مرتفع على أي حال. وقد أُجري الاختبار على سيناريو واحد وباختبار واحد، كما أن جزءاً كبيراً من الرسوم البيانية مأخوذ من إعداد اختبار تابع لـ AWS. وتخطط Salesforce نفسها لتكرار الاختبار بتشبّع أطول، وقياس زمن الاستجابة بدقة المللي ثانية، واختبار السلوك المتسلسل عند سقف الحركة بين المناطق قبل النشر الواسع. وإذا كانت بنيتكم مشابهة، فابدؤوا بنموذج واحد وسجّلوا RoutingReason منذ اليوم الأول.

القصة

أسئلة وأجوبة حول الخبر

لماذا يتحول نقص القدرة إلى توقف؟

يخدم فريق Agentforce Foundation النماذج الخاصة بـ Agentforce وSalesforce Trust Layer: بعضها دُرّب داخل الشركة، وبعضها مفتوح المصدر. تُعالَج طلبات العميل في المنطقة التي صدرت منها، وتُحجز السعة وفق حركة كل عميل. ولكل عميل ساعات ذروته، وكثيراً ما تتقاطع. حجز القدرة لمجموع الذُّرى آمن، لكنه مكلف جداً. كما يضيف العملاء فجأة وحدات أعمال جديدة، فيضطر الفريق إلى توسيع الأسطول بسرعة، منطقة بعد أخرى. والنتيجة أن السعة تتجزأ: ففي مكان ما تقف النُّسخ بلا عمل، وفي مكان آخر لا تكفي.

كيف يعمل الموجّه؟

الموجّه مورد إقليمي في SageMaker AI داخل حسابكم. يستدعيه التطبيق بدلاً من نقطة النهاية، ويمرّر اسم routing target مع جسم الطلب نفسه وcontent type نفسه. وrouting target نموذج منطقي، مثل مصنِّف السمّية، مرفق بقائمة من نقاط النهاية ومكوّنات الاستدلال (inference components) بحسب ARN. وقد تكون هذه في منطقة أخرى أو في حساب آخر. ويمنح مالك نقطة النهاية الصلاحية عبر resource-based policy مشروطة بموجّه محدد، ويمكنه سحبها في أي وقت. ما دامت نقطة النهاية المحلية تتحمل الحمل، تبقى الطلبات في منطقتها.

ماذا أظهر الاختبار؟

اختبرت Salesforce أولاً التوجيه داخل us-west-2، ثم أضافت نقطة نهاية في us-east-2 من حساب آخر. ولأغراض المراقبة (observability)، يحمل كل رد حقلين: InvokedRoutedResourceArn وRoutingReason (local-preferred أو failover أو capacity-available أو only-healthy). ويتضمن ARN المنطقة والحساب، فيُعرف من سطر واحد في السجل أين عولج الطلب ولماذا. في الاختبار أُجهدت نقطة النهاية المحلية في us-west-2 حتى التشبّع.

ماذا تفعلون عملياً وما حدود التجربة؟

يمكن إسناد منطق failover وفحوص health-check وإعادات المحاولة بين المناطق إلى المنصة، وفي الكود يكفي استبدال العميل وعملية الاستدعاء. وهذا أيضاً طريق إلى توفير التكاليف: مجمّع مشترك بدل احتياطي لمجموع الذُّرى في كل منطقة. وفي المقابل، تلزم سياسات سماح في الحسابات المالكة وقواعد residency مدروسة. الاستجابة ليست فورية: فالعملاء يعيشون دقائق التشبّع بزمن استجابة مرتفع على أي حال. وقد أُجري الاختبار على سيناريو واحد وباختبار واحد، كما أن جزءاً كبيراً من الرسوم البيانية مأخوذ من إعداد اختبار تابع لـ AWS.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…