يستهلك Inkling 2 Small نحو 150K توكن لكل مهمة، أي 4 أضعاف سلفه

عند اختيار نموذج لبيئة الإنتاج، يكون أول ما تنظر إليه عادة هو سعر مليون توكن. إنه مقياس مريح، لكنه مضلل. وتوضح البيانات الجديدة من Artificial Analysis السبب جيدًا.

ما الذي أظهرته القياسات

عند تشغيل اختبار Intelligence Index، يولّد نموذج Inkling 2 Small في المتوسط نحو 150 ألف توكن إخراج للمهمة الواحدة. أما Inkling Small السابق، فكان هذا الرقم لديه نحو 37 ألفًا، أي أن الاستهلاك ارتفع قرابة أربعة أضعاف. وللمقارنة، يولّد Gemini 3.8 Flash في وضع high نحو 99 ألف توكن، بينما يولّد Claude Sonnet 5.5 في وضع medium نحو 31 ألفًا.

من المهم أن الحديث هنا يدور عن توكنات الإخراج، أي توكنات الاستدلال والإجابة. وهي عادة أغلى من توكنات الإدخال، كما أنها العامل الذي يحدد مدة الانتظار.

لماذا يهم ذلك عمليًا

تخيل أنك تبني وكيلًا يعالج تذاكر الدعم. النموذج A أرخص بمرتين لكل توكن، لكنه يستهلك أربعة أضعاف عدد التوكنات لكل تذكرة. والنتيجة أنه يكلف الضعف، فضلًا عن أن استجابته أبطأ بشكل ملحوظ. المستخدم لا يرى قائمة الأسعار، بل يرى ثواني الانتظار والفاتورة في نهاية الشهر.

وينطبق الأمر نفسه على الحدود: سلاسل الاستدلال الطويلة تصل بسرعة أكبر إلى حدود نافذة السياق وقيود معدل الاستخدام لدى المزود. أما سيناريوهات الوكلاء، التي يُستدعى فيها النموذج عشرات المرات على التوالي، فتضاعف هذا الأثر مرات عدة.

كيفية التعامل مع ذلك

أولًا: قارنوا النماذج وفق تكلفة المهمة المكتملة، لا وفق سعر التوكن. وتنشر Artificial Analysis هذا النوع من المقارنات بالفعل، لكن الصورة قد تختلف عند استخدام بياناتكم الخاصة.

ثانيًا: تحققوا مما إذا كان من الممكن تقييد ميزانية الاستدلال. إذا كان النموذج يوفر أوضاعًا أو معاملات للتحكم في عمق التفكير، فشغّلوا مهامكم على عدة مستويات وراقبوا النقطة التي تتوقف عندها الجودة عن التحسن.

ثالثًا: أضيفوا إلى المراقبة متوسط عدد توكنات الإخراج وقيمة p95. فمن السهل تفويت قفزة حادة بعد تحديث إصدار النموذج، لكنها ستظهر فورًا في الميزانية.

القيود

لا يتضح من المنشور مقدار تحسن نتيجة Intelligence Index بالتزامن مع ارتفاع استهلاك التوكنات. فإذا كانت الزيادة في الجودة كبيرة، فقد يكون الاستهلاك المضاعف أربع مرات مبررًا للمهام المعقدة. وإن لم تكن كذلك، فهذا مجرد نموذج أكثر إسهابًا. إضافة إلى ذلك، فهذا متوسط على مستوى الاختبار المعياري، وقد تتصرف مهامكم بصورة مختلفة. كما أن المنشور نفسه لم يحصد سوى عدد قليل من المشاهدات، ولا يتضمن سوى الأرقام من دون المنهجية، لذلك ينبغي الرجوع إلى موقع Artificial Analysis للاطلاع على الصورة الكاملة.

الخلاصة

لم يعد سعر التوكن مقياسًا منصفًا بمفرده. وينبغي احتساب كفاءة استخدام التوكنات إلى جانب الجودة وزمن الاستجابة، خصوصًا إذا كنتم تبنون وكلاء أو مسارات معالجة واسعة النطاق. وقبل الانتقال إلى Inkling 2 Small، يُستحسن تشغيل مجموعة مهامكم الخاصة ومقارنة التكلفة النهائية وزمن الاستجابة مع Sonnet 5.5 وGemini 3.8 Flash.