Cloudflare تطلق Auto Router: اختيار النموذج نيابةً عن الموظف وتوفير يصل إلى 30%

أطلقت Cloudflare نسخة بيتا عامة من Auto Router، وهي ميزة في AI Gateway تختار بنفسها النموذج المناسب لكل طلب. يكفي تحديد cloudflare/auto في العميل أو الوكيل (agent)، ثم تقرر البوابة ما إذا كانت المهمة تحتاج إلى نموذج رائد أم يكفيها نموذج أرخص. وعند العمل عبر أداة الوكلاء الداخلية OpenCode، حققت الشركة وفرًا يصل إلى 30% مقارنةً باستخدام النماذج الرائدة وحدها. وفي اختبارها الخاص للمهام المكتبية، كلّف الموجّه $2,10 مقابل $5,91 لـ Claude Opus 5.5، لكنه تراجع عنه في نسبة التنفيذ الناجح.

البوابة تختار النموذج نيابةً عن الموظف

اعتمد المنطق القديم للتحكم في نفقات الذكاء الاصطناعي على الميزانيات والحدود وربط الإنفاق بأشخاص بعينهم. وتصف Cloudflare المسار المعتاد للشركات على النحو التالي. في البداية توزَّع مفاتيح API بحرية ويُختبر كل أداة جديدة. ثم تبقى بضعة حلول رئيسية للبرمجة والمهام غير التقنية وتشغيل الوكلاء. لكن في OpenCode وClaude Code وCodex لا يزال المستخدم نفسه هو من يختار النموذج، وكثيرًا ما يختار نموذجًا أقوى مما يلزم. لا حاجة إلى Opus لتلخيص رسالة بريد أو محادثة في الدردشة. وفي الوقت نفسه، لا يُستحسن حظره عن فريق الأمن.

يرى AI Gateway أصلًا كل طلب من المستخدمين والوكلاء والأدوات، ولذلك يمكنه اتخاذ هذا القرار مركزيًا. وتحصل الشركة على الوفر دون تغيير عادات الموظفين.

مخطط من مرحلتين: مصنِّف ومصفوفة تقييمات

تبدأ البوابة بتكوين مجموعة من النماذج المسموح بها. فتستبعد النماذج التي لا تدعم صيغة الطلب أو نمط التنفيذ، وتراعي المفاتيح وإعدادات الفوترة وسياسات الوصول وحدود الإنفاق. أما النماذج والمزوّدون الذين يعانون من انقطاع في الخدمة فيُستبعدون مؤقتًا ويعودون بعد التعافي.

بعد ذلك يعمل مصنِّف متعدد الرؤوس على Workers AI، منشور على وحدات GPU عبر شبكة Cloudflare الطرفية بأكملها. ينظر المصنِّف إلى مقطع مضغوط من المحادثة مع إعطاء الأولوية للرسائل الأحدث، ويُخرج مجموعتين من الإشارات. الأولى احتمالات لـ 14 فئة من المهام: البرمجة والتخطيط والبحث وتحليل البيانات وغيرها. والثانية تقييمات من 1 إلى 5 على أربعة محاور: التعقيد والالتباس وكلفة الخطأ والاعتماد على السياق السابق.

تصل هذه الإشارات إلى مصفوفة تقييمات مستقلة، تُدمج فيها مع نتائج النماذج في الاختبارات المعيارية. وقد عُدّلت الأوزان على مجموعة أمثلة حُدد مسبقًا النموذج المفضل لكل منها. وتُحتسب النتيجة النهائية بالصيغة utility = الجودة المتوقعة − غرامة تكيفية على التكلفة. في الطلبات البسيطة يزداد وزن السعر ويفوز النموذج الأصغر. ومع ازدياد التعقيد تنخفض الغرامة وتكون الغلبة للنماذج القوية. وفي النهاية يُخرج الموجّه قائمة مرتبة، وتجرّب البوابة النموذج الأول، وإذا رفض المزوّد الطلب تنتقل إلى الذي يليه.

تكمن ميزة المخطط في شفافيته: يمكن الاطلاع على الفئة المتوقعة وتعقيد المهمة، ومعرفة سبب اختيار هذا النموذج تحديدًا. وتُضاف النماذج الجديدة دون إعادة تدريب، إذ يكفي إدخال أوزان نتائجها المعيارية في المصفوفة.

الكاش بوصفه بند إنفاق خفيًّا

في جلسات الوكلاء الطويلة، مثل تنقيح الأخطاء (debugging)، لا تحدد قائمة الأسعار التكلفة، بل قراءة الكاش التي تزداد كلفتها مع طول الجلسة. يؤدي تغيير النموذج إلى مسح الكاش، وعلى النموذج الجديد أن يكتب السياق كاملًا من جديد. لذلك يبقى الموجّه تقريبًا دائمًا على النموذج الحالي داخل الدورة الواحدة (حلقة معالجة إدخال مستخدم واحد). وبين الدورات يطبّق غرامة تبديل تزداد مع عدد التوكنات في السياق. ويُقيَّم النموذج ذو الكاش الحي بتعرفة القراءة، أما بقية المرشحين فبالتكلفة الكاملة لإعادة كتابة السياق.

هناك نفقة خفية ثانية: لا تقرأ معظم النماذج توكنات الاستدلال الخاصة بالنماذج الأخرى. وبعد التبديل قد يعيد النموذج الجديد تنفيذ ما أُنجز سابقًا، ولكن بتعرفة المخرجات. وتريد Cloudflare مستقبلًا أن يفضّل الموجّه عند التبديل نماذج من العائلة نفسها.

ماذا أظهر الاختبار المعياري الداخلي

يحاكي الاختبار مساحة عمل تضم البريد والتقويم وSlack والملفات والرحلات والشؤون المالية. تتطلب كل مهمة تقديم إجابة قابلة للتحقق أو تنفيذ إجراء. المجموع 97 مهمة، بثلاث جولات لكل نموذج، أي 291 محاولة. وحُسبت فترات الثقة 95% بطريقة bootstrap على 10 000 عيّنة.

• cloudflare/auto: 252 من 291 محاولة ناجحة، 86,6% (+6,2/−6,9 نقطة مئوية)، التكلفة الإجمالية $2,10، و$0,0084 لكل نجاح • Anthropic Claude Opus 5.5: 281 من 291، 96,6% (+2,7/−3,8 نقطة مئوية)، $5,91، و$0,0210 لكل نجاح • OpenAI GPT-6 Sol: 245 من 291، 84,2% (+6,5/−6,9 نقطة مئوية)، $2,64، و$0,0108 لكل نجاح

تصف Cloudflare النتيجة بأنها قابلة للمقارنة مع أفضل نماذج الاستخدام اليومي: فالموجّه يكلّف 80% مما يكلّفه Sol و35% مما يكلّفه Opus. لكن الأرقام تستحق قراءة متأنية. فمع Sol يتساوى auto تقريبًا في الجودة وهو أرخص. أما عن Opus فيتأخر بنحو 10 نقاط مئوية، ولا تتقاطع فترات الثقة، ومن ثم فإن التوفير بمقدار 2,5 مرة لكل نجاح جاء على حساب الجودة. وهذه مقايضة مقبولة في التلخيص والطلبات الروتينية، لكنها ليست كذلك في المهام الحرجة. وتشير الشركة بصورة منفصلة إلى أن النموذج الرخيص بحسب قائمة الأسعار قد يستهلك توكنات أكثر بكثير من المتوقع، ولذلك يقلّل الموجّه التكلفة المتوقعة للمسار كاملًا، لا سعر المليون توكن.

كيف تبدأ وما الخطوة التالية

يمكن البدء الآن: Auto Router مجاني في فترة البيتا، ويكفي تحديد cloudflare/auto في إعدادات الوكيل أو العميل. من المنطقي أن تمرَّر عبره أولًا السيناريوهات غير التقنية والبرمجة الروتينية، وأن تبقى المهام ذات كلفة الخطأ العالية على النموذج الرائد. ولتحقيق ذلك ستحتاج إلى اختبار معياري خاص بك على بيانات حقيقية، كما فعلت Cloudflare.

تشمل الخطط: توسيع مجموعة النماذج، ومراعاة متطلبات zero data retention عند التصفية، وأخذ سعة المزوّدين في الحسبان، واختيار مستوى الاستدلال لكل طلب، وإضافة دعم كامل لـ Responses API وWebSockets، إضافةً إلى اختبار نماذج قرار منظَّمة بوصفها مصنِّفًا أوليًا. وفي وقت لاحق سيظهر cloudflare/auto-best، الذي يستخدم المجموعة والمصنِّف نفسيهما، لكنه يختار النموذج ذا أعلى جودة متوقعة دون مراعاة السعر.