نماذج OpenAI GPT-6 Sol وLuna وAstra متاحة الآن في Bedrock من خمس مناطق في آسيا

شرحت Amazon Web Services كيفية تشغيل ثلاثة نماذج من عائلة OpenAI GPT-6 (Sol وLuna وAstra) في Amazon Bedrock من خمسة مواقع آسيوية: سنغافورة وجاكرتا وتايلاند وماليزيا وتايبيه. تُعرف هذه الآلية باسم global cross-Region inference. يتصل التطبيق بخدمة Bedrock في منطقته، بينما يجري الاستدلال في المكان الذي تتوافر فيه سعة شاغرة لدى AWS. وبالنسبة للشركات التي لا تملك قدرات محلية كافية لتشغيل هذه النماذج، فهذا أقصر طريق إلى GPT-6 دون نقل البنية التحتية.

كيف تعمل الآلية

لا يستدعي المطوّر نموذجاً محدداً في منطقة محددة، بل ملف استدلال عالمياً (inference profile). وتتولى Bedrock بنفسها توزيع الطلب على مناطق AWS المتاحة. وتبقى المنطقة الأصلية، مثل سنغافورة، نقطة الدخول بالنسبة للعميل. وفيها أيضاً تبقى السجلات والمقاييس والحصص. يساعد هذا التصميم على تجاوز ذروات الحمل، إذ يقل الاصطدام بالسقف الأقصى لمنطقة واحدة.

تصف AWS طريقتين للاتصال:

• Converse API، وهي الواجهة الموحدة في Bedrock لمختلف النماذج. تناسب هذه الواجهة الحالات التي تضم فيها البنية التقنية نماذج أخرى على المنصة نفسها.
• واجهة API المتوافقة مع OpenAI. تتيح نقل الشيفرة المكتوبة لـ OpenAI SDK تقريباً دون تعديلات: يتغير فقط الـ endpoint وطريقة المصادقة.

الخيار الثاني أكثر إثارة للاهتمام للفرق التي تعمل مع OpenAI مباشرة منذ فترة طويلة، وتريد نقل الفوترة والتدقيق والتحكم في الوصول إلى AWS.

الصلاحيات والحصص والمراقبة

لا تكمن معظم العقبات هنا في الشيفرة، بل في سياسات الوصول. يتناول الدليل بالتفصيل أذونات IAM وسياسات SCP، أي السياسات على مستوى المؤسسة. فالملف العالمي يرسل الحركة إلى خارج المنطقة الأصلية. وإذا كانت سياسات SCP في المؤسسة تحصر قائمة المناطق المسموح بها بصرامة، فقد يفشل الاستدعاء بخطأ في الوصول رغم أن الدور (role) مُنح بشكل صحيح. ويجب التحقق من هذه القيود قبل الإطلاق. وفي القطاعات الخاضعة للتنظيم، تمثل المسألة أيضاً قضية امتثال: فقد تنتقل البيانات خلال المعالجة إلى ولاية قضائية أخرى.

وينطبق الأمر نفسه على الحصص. تُحتسب الحدود بناءً على المنطقة الأصلية، لذا ينبغي تحديد حجم الحصة مسبقاً وفق ملف الحركة الفعلي:

• ذروة عدد الطلبات في الدقيقة؛
• متوسط طول الـ prompt والإجابة بالـ tokens؛
• هامش لإعادة المحاولة عند الأخطاء وعند الـ throttling؛
• اختلاف وتيرة استهلاك الحصة بين Sol وLuna وAstra.

يُستحسن مطابقة الحدود الدقيقة لكل نموذج، الواردة في المنشور، مع وثائق Bedrock المحدّثة، فهي تتغير.

وترتبط المراقبة أيضاً بالمنطقة الأصلية. تُجمع مقاييس الاستدعاءات والتأخير والأخطاء في المكان الذي صدر منه الطلب. ولا حاجة إلى البحث بشكل منفصل عن آثار التنفيذ في المناطق الأخرى، وهذا يبسّط التشغيل.

من أين تبدأ عملياً

الأفضل أن تبدأ بتدقيق السياسات، لا بالشيفرة. تحقق من سياسات SCP وأدوار IAM: هل استدعاء ملف الاستدلال العالمي مسموح، وهل تحجب قواعد المؤسسة الحركة خارج المنطقة. ثم قدّر الحمل واطلب حصصاً بهامش كافٍ. ولهذا الغرض، مرّر prompts حقيقية عبر حساب اختباري وسجّل توزيع الـ tokens.

بعد ذلك من المنطقي توزيع المهام على النماذج. تلمّح أسماء Sol وLuna وAstra إلى ملفات مختلفة، لكن المنشور نفسه لا يتضمن بيانات تتيح المقارنة بينها. والأفضل أن يُبنى الاختيار بينها على معايير الأداء (benchmarks) الخاصة بكم: سعر الـ token والتأخير والجودة على بياناتكم. وإذا كان التطبيق مكتوباً أصلاً لـ OpenAI SDK، فأسهل بداية هي واجهة API المتوافقة مع OpenAI، أما للمنصات متعددة النماذج فتناسب Converse.

وأخيراً: قرروا مسبقاً ما إذا كانت معالجة بياناتكم خارج الولاية القضائية الأصلية مقبولة. وإذا لم تكن كذلك، فالملف العالمي لا يناسبكم، وسيتعين النظر في الخيارات الإقليمية.