Timeweb Cloud تضيف إلى AI Gateway نماذج فيديو وحدودًا بالروبل ونماذج احتياطية

عادةً ما ترتفع فاتورة الذكاء الاصطناعي بهدوء. شخص ما ربط نموذجًا غاليًا بسكربت تجريبي، وآخر نسي إيقاف حلقة تكرارية، وفي نهاية الشهر يتبين أن ميزانية ربع سنة احترقت خلال أسبوعين. ملخص أكتوبر من Timeweb Cloud هو في المقام الأول ملاحظات منتجات كتبها المزود نفسه، ويجب قراءته مع مراعاة ذلك. لكن فيه مجموعة أمور تستهدف هذه المشكلة تحديدًا.

مفتاح واحد للنصوص والصور والفيديو

AI Gateway هي نقطة دخول موحدة إلى نماذج من مطورين مختلفين. وفي أكتوبر أُضيف إليها الفيديو. ويذكر المزود Veo 3.1 من Google (مقطع بصوت مباشرة)، وKling من Kuaishou (مشهد من عدة لقطات ببطل واحد)، وSeedance من ByteDance، وGen-4.5 من Runway لتحريك صورة المنتج، وHailuo من MiniMax للمقاطع العمودية، وWan من Alibaba للفيديوهات الطويلة. أما في الصور فقد أُضيف Seedream 5 وGen-4 Image.

الآلية بسيطة. ترسل prompt وصورة إن لزم، وبعد بضع دقائق تستلم المقطع الجاهز. تصل الصور فورًا، بحد أقصى أربع صور لكل طلب. ولتغيير النموذج يكفي تغيير اسمه في الطلب. ويُحاسَب الفيديو بالثواني للمقطع الجاهز.

تخيّل فريق سوق إلكترونية يحتاج إلى بث الحياة في بطاقات المنتجات. في السابق كان ذلك يعني ست مجموعات SDK مختلفة وستة مفاتيح وست فواتير. أما الآن فهناك كود تكامل واحد، ومقارنة النماذج تقتصر على تغيير سطر في الطلب. وإلى جانب الفيديو، ظهر في الكتالوج 20 نموذجًا آخر: نصية، وembeddings، وrerankers، والتعرف على الكلام وتركيبه. ولكل نموذج بطاقة فيها السعر وآلة حاسبة والسياق ومعلومات عن مكان معالجة البيانات والجهة التي تعالجها.

كيف تتجنب المفاجأة في الفاتورة

الجزء العملي الرئيسي هو التحكم في المصروفات:

• لوحة «النشاط» تجمع المصروفات والطلبات والتوكنات لكل المفاتيح والوكلاء. ويظهر من ينفق أكثر من غيره وأي الطلبات يمكن تحويلها إلى نموذج أرخص.
• سجلات الطلبات تعرض النموذج والتوكنات والتكلفة والحالة لكل استدعاء.
• الحدود اليومية بالروبل تُحدَّد لكل مفتاح أو وكيل، إضافةً إلى حدود منفصلة لكل نموذج. عند بلوغ 80% من الإنفاق يصل إشعار، وعند 100% تتوقف الطلبات الجديدة عن المرور.
• Batch API يقبل حتى 50 000 طلب دفعة واحدة ويعيد الإجابات في ملف خلال 24 ساعة. وتكلفة التوكنات أقل بمرتين.
• النماذج الاحتياطية: يمكن ربط حتى نموذجين احتياطيين بالمفتاح. إذا لم يجب النموذج الأساسي يُحوَّل الطلب إلى التالي، ويُدفع فقط مقابل النموذج الذي أجاب.

مثال من الواقع: وسم 40 000 مراجعة ليلًا لا يتطلب ردًا فوريًا، لذا من المنطقي إرساله عبر Batch وتوفير النصف. أما دردشة الدعم فتبقى على نموذج أساسي سريع مع نموذجين احتياطيين، حتى لا يؤدي تعطل أحد المطورين إلى إسقاط المنتج.

ماذا أيضًا في الملخص

أصبحت لوكلاء الذكاء الاصطناعي ذاكرة طويلة الأمد: يحفظون الحقائق من المحادثات، ويظهر المحتوى في تبويب «الذاكرة» حيث يمكن تعديله أو حذفه. وتقوم App Platform الآن بإنشاء بيئة منفصلة لكل pull request وتحذفها بعد إغلاقه. وفي Kubernetes أُضيفت عناقيد خاصة وموصل يصدر مفتاح AI Gateway ويجدده بنفسه بوصفه secret. وحصلت الخوادم المخصصة على 47 تكوينًا بوحدات GPU، من RTX 4090 إلى H100 وH200، إضافةً إلى نسخ احتياطية إلى S3 الخاص بك مع حماية من الحذف. أما بقية التحديثات، من النطاقات إلى التنقل في اللوحة، فتهم في الغالب العملاء الحاليين.

القيود والخلاصة

انتبهوا إلى ثلاث نقاط. أولًا، هذا وصف ذاتي من المزود: قائمة النماذج والأسعار والتوافر ينبغي التحقق منها في الكتالوج لا من الملخص. ثانيًا، الخدمة موجهة إلى السوق الروسية، مع الدفع بالروبل والبنية التحتية المحلية، ولن تناسب جميع الفرق. ثالثًا، الحد الصارم الذي تتوقف عنده الطلبات عن المرور يحمي الميزانية لكنه قد يوقف الإنتاج. ضعوه بهامش أمان واضبطوا إشعار 80% بالتأكيد.

الخلاصة العملية: إذا كنتم تتعاملون مع عدة نماذج عبر مفاتيح مختلفة، فانظروا إلى البوابة بوصفها طبقة تحكم. السجلات الموحدة والحدود والمعالجة الدفعية والنماذج الاحتياطية مفيدة بغض النظر عن المزود الذي تحصلون عليها منه.