Salesforce تنقل 78% من حركة الطلبات إلى منطقة أخرى خلال 3 دقائق عبر موجّه SageMaker
تشغّل Salesforce نماذجها في أكثر من 30 منطقة على AWS. وحين كانت وحدات GPU تنفد في إحدى المناطق، كان العملاء يتلقون أخطاء، بينما تقف الخوادم في منطقة مجاورة دون عمل. أما الآن فيذهب الطلب إلى موجّه SageMaker AI المُدار، الذي يختار بنفسه نقطة نهاية (endpoint) سليمة. في الاختبار أُجهدت منطقة us-west-2 (أوريغون) بحمل زائد، وبعد 3 دقائق من ظهور الأخطاء الأولى كانت us-east-2 (أوهايو) تخدم 78% من الحركة. ولا حاجة إلى كتابة فحوص health-check وإعادات محاولة خاصة بين المناطق.
معالج بواسطة الذكاء الاصطناعي من AWS Machine Learning Blog؛ بتحرير Hamidun News
تخيّلوا أن مصنِّف السمّية لديكم منشور في أوريغون وأوهايو. في أوريغون يبلغ الحمل ذروته، وتنشغل كل نُسخ GPU، وتفشل الطلبات بأخطاء، بينما تقف الخوادم في أوهايو دون عمل. هذا بالضبط ما واجهته Salesforce: فنماذجها تعمل في أكثر من 30 منطقة على AWS وفي مئات الحسابات، وكان نقص القدرة في منطقة واحدة يتحول إلى انقطاع الخدمة عن العملاء.
في السابق كانت بوابة طوّرتها الشركة بنفسها تتولى إعادة توجيه الحركة، أما الآن فيتولى ذلك موجّه Amazon SageMaker AI المُدار (cross-Region inference routing). في الاختبار أجهد الفريق عمداً نقطة النهاية في us-west-2 (أوريغون) حتى التشبّع. وبعد نحو دقيقتين من الأخطاء الأولى وصلت الطلبات الأولى إلى us-east-2 (أوهايو)، وبعد دقيقة أخرى، أي بعد نحو 3 دقائق، كانت المنطقة تعالج نحو 78% من حركة الاختبار.
وإذا كنتم تشغّلون نماذج في عدة مناطق، فإن هذه التجربة تُظهر أنه يمكن إسناد failover إلى المنصة بدل كتابته بأنفسكم.
لماذا يتحول نقص القدرة إلى توقف؟
يخدم فريق Agentforce Foundation النماذج الخاصة بـ Agentforce وSalesforce Trust Layer: بعضها دُرّب داخل الشركة، وبعضها مفتوح المصدر. تُعالَج طلبات العميل في المنطقة التي صدرت منها، وتُحجز السعة وفق حركة كل عميل. ولكل عميل ساعات ذروته، وكثيراً ما تتقاطع. حجز القدرة لمجموع الذُّرى آمن، لكنه مكلف جداً. كما يضيف العملاء فجأة وحدات أعمال جديدة، فيضطر الفريق إلى توسيع الأسطول بسرعة، منطقة بعد أخرى. والنتيجة أن السعة تتجزأ: ففي مكان ما تقف النُّسخ بلا عمل، وفي مكان آخر لا تكفي.
في السابق كانت بوابة Internal Gateway الخاصة بالشركة ترسل الحركة الزائدة إلى مناطق أخرى، بفحوص health-check بسيطة وإعادات محاولة وتبديل بين المناطق. وكان في هذا الأسلوب عيبان. فالبوابة لم تكن تعرف هل لدى المنطقة المجاورة سعة فارغة. إضافة إلى ذلك، كانت الحركة بين المناطق تخرج من VPC عبر NAT وبوابة الإنترنت، أي عبر شبكة AWS العامة. وخشي الفريق أيضاً من فشل متسلسل: فتحويل الحركة في ذروة العطل قد يُثقل المنطقة التالية، ولذلك لا بد من سقف لحصة الحركة بين المناطق.
كيف يعمل الموجّه؟
الموجّه مورد إقليمي في SageMaker AI داخل حسابكم. يستدعيه التطبيق بدلاً من نقطة النهاية، ويمرّر اسم routing target مع جسم الطلب نفسه وcontent type نفسه. وrouting target نموذج منطقي، مثل مصنِّف السمّية، مرفق بقائمة من نقاط النهاية ومكوّنات الاستدلال (inference components) بحسب ARN. وقد تكون هذه في منطقة أخرى أو في حساب آخر. ويمنح مالك نقطة النهاية الصلاحية عبر resource-based policy مشروطة بموجّه محدد، ويمكنه سحبها في أي وقت.
ما دامت نقطة النهاية المحلية تتحمل الحمل، تبقى الطلبات في منطقتها. ويقيّم الموجّه سلامة كل وجهة بناءً على نتائجها الأخيرة: أخطاء المنصة وأخطاء 5xx من حاوية النموذج والتقييد (throttling) وانتهاء المهلة (timeout) كلها تُضعف تقييمها. وتبدأ الحركة بالتحول عادة بعد نحو دقيقة. وإذا لم تنفّذ الوجهة الطلب، يعيد الموجّه المحاولة مرة واحدة على وجهة أخرى. أما أخطاء العميل، مثل المدخلات الخاطئة، فلا تحرّك الحركة، وكذلك زمن الاستجابة: فقد يكون الرد البطيء ناتجاً عن موجّه (prompt) طويل لا أكثر. وبعد التعافي تعود الحركة أبطأ مما غادرت، لئلا يتذبذب النظام.
من المهم: الموجّه لا ينشر النماذج ولا يضيف نُسخاً. فهو يستخدم السعة المنشورة أصلاً، ويبقى التحجيم التلقائي (autoscaling) من مسؤولية كل نقطة نهاية.
تربط Salesforce الطلبات الحاملة لعلامة data residency ربطاً صارماً بـ routing target محلي له وجهة واحدة، فلا تعبر حدود المنطقة. وتذهب بقية الطلبات إلى الموجّه. ولا تضيف البوابة إعادات محاولة خاصة بها، حتى لا تتضاعف المحاولات أثناء العطل، وقد حُسبت المهلة بهامش يراعي المسار بين المناطق.
ماذا أظهر الاختبار؟
اختبرت Salesforce أولاً التوجيه داخل us-west-2، ثم أضافت نقطة نهاية في us-east-2 من حساب آخر. ولأغراض المراقبة (observability)، يحمل كل رد حقلين: InvokedRoutedResourceArn وRoutingReason (local-preferred أو failover أو capacity-available أو only-healthy). ويتضمن ARN المنطقة والحساب، فيُعرف من سطر واحد في السجل أين عولج الطلب ولماذا.
في الاختبار أُجهدت نقطة النهاية المحلية في us-west-2 حتى التشبّع. وعلى مدى نحو خمس دقائق ارتفع متوسط زمن استجابة الاختبار (median) من 0,2 إلى 45–58 ثانية، بينما بقيت الحركة في مكانها، لأن زمن الاستجابة وحده لا يحركها. وحين بدأت الطلبات تصطدم بمهلة الحاوية البالغة 60 ثانية وتفشل بأخطاء، تفاعل الموجّه. وصلت الطلبات الأولى إلى us-east-2 بعد نحو دقيقتين من الأخطاء الأولى، وبعد دقيقة أخرى كانت المنطقة تخدم نحو 78% من حركة الاختبار. وبقيت نسبة 20–25% الباقية محلية، كي يلاحظ الموجّه التعافي. وعاد المتوسط إلى 0,2 ثانية، وأضاف المسار بين المناطق أقل من 100 مللي ثانية. واستغرقت العودة نحو 10 دقائق، ولم يسجّل الاختبار أي أخطاء أثناء التحويل والعودة.
ماذا تفعلون عملياً وما حدود التجربة؟
يمكن إسناد منطق failover وفحوص health-check وإعادات المحاولة بين المناطق إلى المنصة، وفي الكود يكفي استبدال العميل وعملية الاستدعاء. وهذا أيضاً طريق إلى توفير التكاليف: مجمّع مشترك بدل احتياطي لمجموع الذُّرى في كل منطقة. وفي المقابل، تلزم سياسات سماح في الحسابات المالكة وقواعد residency مدروسة.
الاستجابة ليست فورية: فالعملاء يعيشون دقائق التشبّع بزمن استجابة مرتفع على أي حال. وقد أُجري الاختبار على سيناريو واحد وباختبار واحد، كما أن جزءاً كبيراً من الرسوم البيانية مأخوذ من إعداد اختبار تابع لـ AWS. وتخطط Salesforce نفسها لتكرار الاختبار بتشبّع أطول، وقياس زمن الاستجابة بدقة المللي ثانية، واختبار السلوك المتسلسل عند سقف الحركة بين المناطق قبل النشر الواسع. وإذا كانت بنيتكم مشابهة، فابدؤوا بنموذج واحد وسجّلوا RoutingReason منذ اليوم الأول.
- 19 نوفمبر 2026Anthropic تطرح أسهمها في البورصة وتجمع 81.3 مليار دولار، متجاوزة رقم SpaceX القياسي البالغ 75 مليار دولار
- 19 نوفمبر 2026تقييم حصتي Amazon وGoogle في Anthropic بنحو 308 مليار دولار عند الطرح العام بسعر 83 دولارًا للسهم
- 19 نوفمبر 2026وكلاء AWS AgentCore يصلون الآن إلى Keycloak المغلق بشهادات مرجع تصديق مؤسسي
- 19 نوفمبر 2026Nvidia تسجّل إيرادات قياسية بقيمة 115.8 مليار دولار، لكن سهمها أرخص مما كان عليه منذ 2012
أسئلة وأجوبة حول الخبر
لماذا يتحول نقص القدرة إلى توقف؟
يخدم فريق Agentforce Foundation النماذج الخاصة بـ Agentforce وSalesforce Trust Layer: بعضها دُرّب داخل الشركة، وبعضها مفتوح المصدر. تُعالَج طلبات العميل في المنطقة التي صدرت منها، وتُحجز السعة وفق حركة كل عميل. ولكل عميل ساعات ذروته، وكثيراً ما تتقاطع. حجز القدرة لمجموع الذُّرى آمن، لكنه مكلف جداً. كما يضيف العملاء فجأة وحدات أعمال جديدة، فيضطر الفريق إلى توسيع الأسطول بسرعة، منطقة بعد أخرى. والنتيجة أن السعة تتجزأ: ففي مكان ما تقف النُّسخ بلا عمل، وفي مكان آخر لا تكفي.
كيف يعمل الموجّه؟
الموجّه مورد إقليمي في SageMaker AI داخل حسابكم. يستدعيه التطبيق بدلاً من نقطة النهاية، ويمرّر اسم routing target مع جسم الطلب نفسه وcontent type نفسه. وrouting target نموذج منطقي، مثل مصنِّف السمّية، مرفق بقائمة من نقاط النهاية ومكوّنات الاستدلال (inference components) بحسب ARN. وقد تكون هذه في منطقة أخرى أو في حساب آخر. ويمنح مالك نقطة النهاية الصلاحية عبر resource-based policy مشروطة بموجّه محدد، ويمكنه سحبها في أي وقت. ما دامت نقطة النهاية المحلية تتحمل الحمل، تبقى الطلبات في منطقتها.
ماذا أظهر الاختبار؟
اختبرت Salesforce أولاً التوجيه داخل us-west-2، ثم أضافت نقطة نهاية في us-east-2 من حساب آخر. ولأغراض المراقبة (observability)، يحمل كل رد حقلين: InvokedRoutedResourceArn وRoutingReason (local-preferred أو failover أو capacity-available أو only-healthy). ويتضمن ARN المنطقة والحساب، فيُعرف من سطر واحد في السجل أين عولج الطلب ولماذا. في الاختبار أُجهدت نقطة النهاية المحلية في us-west-2 حتى التشبّع.
ماذا تفعلون عملياً وما حدود التجربة؟
يمكن إسناد منطق failover وفحوص health-check وإعادات المحاولة بين المناطق إلى المنصة، وفي الكود يكفي استبدال العميل وعملية الاستدعاء. وهذا أيضاً طريق إلى توفير التكاليف: مجمّع مشترك بدل احتياطي لمجموع الذُّرى في كل منطقة. وفي المقابل، تلزم سياسات سماح في الحسابات المالكة وقواعد residency مدروسة. الاستجابة ليست فورية: فالعملاء يعيشون دقائق التشبّع بزمن استجابة مرتفع على أي حال. وقد أُجري الاختبار على سيناريو واحد وباختبار واحد، كما أن جزءاً كبيراً من الرسوم البيانية مأخوذ من إعداد اختبار تابع لـ AWS.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.