Amazon SageMaker AI أزال الرفع الإلزامي إلى S3 في الاستدلال غير المتزامن

قامت أمازون بتحديث SageMaker AI: الآن يقبل الاستدلال غير المتزامن بيانات الإدخال مباشرة في نص طلب API — بدون الحاجة إلى تحميل مسبق إجباري إلى Amazon S3.

كيف يعمل الاستدلال غير المتزامن في SageMaker

Async Inference هو نمط للمهام التي لا تندرج ضمن نطاق انتظار بضع ثوان. نسخ الصوت، ومعالجة مستندات PDF، وتوليد النصوص الطويلة، وتصنيف الصور على دفعات — كل هذه سيناريوهات حيث يتعين عليك الانتظار من عشرات الثواني إلى عدة دقائق للحصول على استجابة النموذج. الاستدلال المتزامن لا يناسب هذه الحالات: لا يمكن للعميل إبقاء اتصال HTTP مفتوحاً لهذه المدة الطويلة. يحل النمط غير المتزامن هذا من خلال قائمة انتظار: يتم وضع الطلب في المعالجة، والنموذج يعمل في الخلفية، والنتيجة تُحفظ في دلو S3، ويتلقى العميل إخطاراً أو يتحقق دورياً من الجاهزية. هذا هو النمط القياسي لأنظمة ML في الإنتاج مع أوقات استجابة متغيرة.

حتى تحديث اليوم، كان سير العمل القياسي يتطلب خطوتين: تحميل بيانات الإدخال إلى S3 أولاً، ثم تمرير ارتباط لهذا الكائن إلى `InvokeEndpointAsync`. فقط بعد ذلك ستبدأ SageMaker المعالجة. كل استدعاء يعني عملية كتابة إضافية للتخزين وطلب شبكة إضافي.

ما الذي تغير الآن

أضافت أمازون دعم الأحمال المضمنة (inline payloads): يمكن الآن تمرير البيانات مباشرة في نص طلب `InvokeEndpointAsync` — مثل واجهة برمجة تطبيقات REST العادية. لا توجد عد حاجة إلى التحميل المسبق لبيانات الإدخال إلى S3.

التغييرات العملية:

• كود أقل: لا حاجة لكتابة منطق إنشاء كائنات S3 وتمرير المفاتيح وتنظيف الملفات المؤقتة
• تكاليف تشغيلية أقل: كل عملية PUT في S3 تكلف المال — مع آلاف الاستدعاءات الصغيرة يومياً، هذا يتراكم إلى مبلغ كبير
• تصحيح أخطاء أبسط: بيانات الإدخال مرئية مباشرة في الطلب، لا حاجة للذهاب إلى وحدة تحكم S3 لفهم ما تم بالضبط تمريره إلى الإدخال
• نقاط فشل أقل: استدعاء شبكة واحد بدلاً من اثنين يقلل من احتمالية الفشل أثناء مرحلة تحميل البيانات
• بدء المعالجة أسرع: تبدأ SageMaker الاستدلال فوراً، بدون انتظار جلب البيانات من التخزين

السيناريوهات التي يكون هذا التحديث ذا صلة فيها

التحديث مفيد بشكل خاص في السيناريوهات حيث تكون بيانات الإدخال صغيرة إلى متوسطة الحجم وتُنشأ ديناميكياً.

طلبات ML المضمنة من التطبيقات: عندما يرسل المستخدم نصاً للتحليل أو صورة للتصنيف، فإن تخزين كائن وسيط في S3 فقط لتمريره إلى النموذج هو عمل إضافي. الآن تذهب البيانات مباشرة.

الاختبار بعد النشر: في خطوط أنابيب CI/CD، قد تتضمن التحقق من النموذج بعد الإصدار عشرات طلبات الاختبار. إدارة كائنات S3 المؤقتة لكل منها تصبح غير ضرورية.

بالنسبة للبيانات الثقيلة — ملفات الفيديو الطويلة والتسجيلات الصوتية الكبيرة ومجموعات المستندات — المسار عبر S3 يبقى الأمثل والمتاح. يعمل كلا النهجين بالتوازي، ويختار المطور ما يناسب المهمة المحددة.

ماذا يعني هذا

تزيل أمازون بشكل متسق حواجز البنية التحتية في SageMaker. دعم الأحمال المضمنة هو تحسين موجه لكن ملموس: خطوات أقل، تبعيات أقل، معمارية خط أنابيب أنظف. بالنسبة للفرق التي تجري استدلالاً غير متزامن بتكرار عالٍ، هذا توفير حقيقي في وقت التطوير والتكاليف التشغيلية.