Amazon SageMaker AI تلغي شرط الرفع إلى S3 في الاستدلال غير المتزامن

حدّثت Amazon منصة SageMaker AI: أصبح الاستدلال غير المتزامن يقبل بيانات الإدخال مباشرة في جسم طلب API، دون الحاجة إلى رفعها مسبقًا إلى Amazon S3.

كيف يعمل الاستدلال غير المتزامن في SageMaker

يُعدّ SageMaker Async Inference وضعًا مخصصًا لمهام ML التي لا يمكن انتظار نتيجتها بضع ثوانٍ فقط. ومن أمثلتها تفريغ المقاطع الصوتية نصيًا، ومعالجة مستندات PDF، وتوليد النصوص الطويلة، والتصنيف الدفعي للصور. في هذه السيناريوهات قد ينتظر المستخدم ردّ النموذج من عشرات الثواني إلى عدة دقائق. ولا يناسب الاستدلال المتزامن هذه الحالات، لأن العميل لا يستطيع إبقاء اتصال HTTP مفتوحًا كل هذه المدة.

يحلّ الوضع غير المتزامن المشكلة عبر قائمة انتظار: يُوضع الطلب في الطابور، ويعمل النموذج في الخلفية، وتُحفظ النتيجة في حاوية S3، ثم يتلقى العميل إشعارًا أو يتحقق دوريًا من جاهزية النتيجة. وهذا نمط معياري في أنظمة ML الإنتاجية التي يتفاوت زمن الاستجابة فيها.

قبل هذا التحديث، كان سير العمل المعتاد يتطلب خطوتين: رفع بيانات الإدخال أولًا إلى S3، ثم تمرير رابط ذلك الكائن إلى `InvokeEndpointAsync`. ولم يكن SageMaker يبدأ العمل إلا بعد ذلك. وهكذا يضيف كل استدعاء عملية كتابة زائدة في التخزين وطلب شبكة إضافيًا.

ما الذي تغيّر

أضافت Amazon دعم inline payloads: يمكن الآن تمرير البيانات مباشرة في جسم طلب `InvokeEndpointAsync`، كما في أي REST API عادي. ولم يعد رفع بيانات الإدخال مسبقًا إلى S3 ضروريًا.

أبرز التغييرات العملية:

• شيفرة أقل: لا حاجة لكتابة منطق إنشاء كائنات S3 وتمرير المفتاح ثم حذف الملفات المؤقتة لاحقًا
• تكاليف تشغيلية أقل: تُحتسب تكلفة على كل عملية PUT في S3، وعند آلاف الاستدعاءات الصغيرة يوميًا يتراكم مبلغ ملموس
• تصحيح أخطاء أسهل: تظهر بيانات الإدخال في الطلب نفسه، فلا حاجة لفتح S3 Console لمعرفة ما أُرسل فعليًا
• نقاط فشل أقل: استدعاء شبكي واحد بدل اثنين يقلّل احتمال حدوث عطل في مرحلة رفع البيانات
• بدء أسرع للمعالجة: يبدأ SageMaker الاستدلال فورًا، دون انتظار جلب البيانات من التخزين

لأي المهام يفيد التحديث

يفيد التحديث بوجه خاص في السيناريوهات التي تكون فيها بيانات الإدخال صغيرة أو متوسطة الحجم وتُولَّد ديناميكيًا.

طلبات ML المضمّنة في التطبيقات: عندما يرسل المستخدم نصًا للتحليل أو صورة للتصنيف، يصبح حفظ كائن وسيط في S3 لمجرد تمريره إلى النموذج جهدًا زائدًا. أما الآن فتنتقل البيانات مباشرة.

الاختبار بعد النشر: في مسارات CI/CD قد يشمل فحص النموذج بعد الإطلاق عشرات طلبات الاختبار. ولم تعد هناك حاجة لإدارة كائنات S3 مؤقتة لكل طلب منها.

أما البيانات الثقيلة، مثل ملفات الفيديو الطويلة والتسجيلات الصوتية الكبيرة ومجموعات المستندات، فيظل المسار عبر S3 الخيار الأمثل، وهو متاح كما كان. ويعمل النهجان بالتوازي، ويختار المطوّر ما يناسب مهمته.

ماذا يعني ذلك

تواصل Amazon إزالة العوائق في البنية التحتية داخل SageMaker. ودعم inline payloads تحسين محدود النطاق لكنه ملموس: خطوات أقل، واعتماديات أقل، وبنية مسار أنظف. وبالنسبة للفرق التي تعتمد على استدلال غير متزامن عالي التكرار، يعني ذلك توفيرًا فعليًا في وقت التطوير وفي التكاليف التشغيلية.