ميتا تطلق Muse Ember: مليون رمز إدخال بسعر يبدأ من 0.10 دولار

عندما يقرأ الوكيل عدة ملفات ويختار أداة ويشغّل اختبارًا من أجل تعديل صغير، يُنفق المال على كل خطوة وسيطة. وإذا بلغت هذه الخطوات الآلاف، يصبح اختيار النموذج مسألة تتعلق باقتصاديات المنتج. أطلقت ميتا Muse Ember لهذا النوع من العمل تحديدًا: استدعاء الأدوات واستخراج البيانات وتحليل المستندات والمهام البرمجية الصغيرة.

السيناريو العملي بسيط: يضع نموذج واحد خطة الإصلاح، بينما يتلقى Ember مهمة منفصلة، وهي العثور على الدالة المطلوبة أو إعداد تصحيح صغير. وبالنسبة إلى المطوّر، هذه فرصة للتحقق مما إذا كان بالإمكان خفض تكلفة العمليات المتكررة دون زيادة عدد الأخطاء.

ما الذي يختبئ وراء الرمز الرخيص

في تحليل سايمون ويليسون، تتطابق التعرفات الأساسية لكل من Ember وGPT-6 Luna وClaude Haiku 5.5: 0.10 دولار لكل مليون رمز إدخال و0.50 دولار لكل مليون رمز إخراج. وفي الطلب القصير لا تكفي قائمة الأسعار وحدها لاختيار الفائز.

يظهر الفرق مع نمو السياق. عتبة Ember هي 200 ألف رمز: فوقها يكلف الإدخال 0.30 دولار لكل مليون، والإخراج 1.50 دولار. أما Luna فيبدأ الارتفاع فيه بعد 272 ألفًا، وHaiku بعد 100 ألف. وتدعم النماذج الثلاثة جميعها سياقًا يصل إلى مليون رمز، لكن الدفع مقابله يخضع لقواعد مختلفة.

لنفترض طلبًا يضم 250 ألف رمز إدخال و10 آلاف رمز إخراج، دون تخزين مؤقت. وفق الجدول المعروض، ستكلّف المهمة 0.09 دولار مع Ember، و0.03 دولار مع Luna، و0.15 دولار مع Haiku. هذا حساب لحجم محدد، وليس توقعًا للإنفاق الفعلي، إذ قد تستهلك النماذج أعدادًا مختلفة من الرموز لتنفيذ المهمة نفسها.

لذلك فإن تحميل المستودع بالكامل في طلب واحد ممكن تقنيًا، لكن الجدوى الاقتصادية لهذا القرار تحتاج إلى حساب منفصل. ففي بعض الأحيان يكون من الأجدى اختيار الملفات اللازمة أولًا ثم تمرير هذه الملفات فقط إلى النموذج.

لماذا يغيّر وضع الاستدلال المقارنة

لدى Ember ستة مستويات للاستدلال، من minimal إلى max. قد يستهلك الوضع الأعلى رموزًا أكثر، ولا يعني التسعير المتطابق عندها تكلفة متطابقة للنتيجة. في المنتج، يهم المسار كاملًا: الإجابة الأولى والتحقق والمحاولة المتكررة واحتمال تحويل الحالة المعقدة إلى نموذج آخر.

في الرسوم البيانية الواردة في مادة ويليسون، يقع Ember بين النماذج التي تقدّم أفضل توليفة بين النتيجة وتكلفة المهمة. لكن هذه المقارنة أُجريت على مجموعة محددة من الاختبارات. ونقلها إلى خدمتكم الخاصة دون تحقق سيكون متسرعًا.

وهناك تفصيل مهم في المصدر الأصلي: تصف ميتا تكلفة Ember في الرسم البياني المقارن بأنها تقدير مبني على التعرفات المقترحة. كما يحصل Ember في FrontierCode 2.0-AA على 27.2% مقابل 34.9% لدى Haiku في الوضع الأقصى. أي أن الأفضل يتوقف على المهمة حتى ضمن النتائج المعروضة. وهذه التحفظات مذكورة في إعلان ميتا.

واختبر ويليسون بنفسه مستويات الاستدلال بمهمته المعتادة: رسم pelican يركب دراجة بصيغة SVG. لم يُعِد وضع high ملف SVG كاملًا، ولم يؤدِّ رفع المستوى إلى تحسّن متسق في الصورة. هذه تجربة منفصلة، لكنها تذكير مفيد: الإعداد الأقصى لا يضمن أفضل إجابة لكل مهمة.

ما الذي ينبغي التحقق منه قبل الاعتماد

ابدؤوا بمرحلة متكررة واحدة في وكيلكم، مثل استخراج الحقول من المستندات أو اختيار الأداة بناءً على طلب المستخدم. اجمعوا أمثلة يمكن التحقق من صحة نتيجتها، بما في ذلك المدخلات الطويلة والحالات الملتبسة.

شغّلوا عدة مستويات للاستدلال واحسبوا تكلفة النتيجة المقبولة. وسجّلوا إلى جانبها زمن الاستجابة وأخطاء التنسيق والاستدعاءات المتكررة ونسبة المهام التي اضطُرِرتم إلى تحويلها إلى نموذج أغلى. وفي حالة الشيفرة، أضيفوا نسبة اجتياز الاختبارات وحجم التصحيحات اليدوية.

بالنسبة إلى مدير المنتج، سيجيب هذا الاختبار عن سؤال محدد: كم تكلف معالجة طلب أو إعداد تعديل بالجودة المطلوبة. وبالنسبة إلى المؤسس، هو أساس لإعادة احتساب التكلفة الفعلية للميزة. يستحق Ember مكانًا في هذه المقارنة؛ أما قرار الانتقال فيجب أن تحدده نتائج سير العمل لديكم.