وكيل ذكاء اصطناعي هجين يخفض تكلفة المحادثة إلى 3,8 روبل

تبدو الدردشة الحرة مع LLM طبيعية، لكنها تحمل عادتين مزعجتين في سيناريوهات المنتجات: تستهلك الكثير من التوكنات، وقد تنسى المسار الذي كانت تقود المستخدم عبره من الأساس. أما البوت القائم على سيناريو محدد فهو أقل تكلفة وأكثر قابلية للتنبؤ، لكنه يتعطل بمجرد أن يكتب المستخدم بدلاً من الضغط على زر: «المتدرب يعرف كيف يقدّم القهوة!». لذلك بنى مؤلف المادة نظاماً هجيناً: يتولى الكود التقليدي التحكم في المسار، بينما تُترك للنماذج مهمة فهم الرسائل وصياغة رد طبيعي.

في تجربة شملت 88 مستخدماً، بلغت تكلفة جميع استدعاءات النماذج 169 روبلاً. ووصل متوسط تكلفة المحادثة الواحدة إلى 3,8 روبل. ووفقاً لحسابات المؤلف، كانت المحادثة نفسها ستكلف نحو 16 روبلاً عند استخدام LLM قوية من دون إطار حتمي.

الآلة تقرر، وLLM تشرح

قُسّمت المحادثة إلى حالات: التعارف، والتعلّم، والنهاية، والعرض، والرفض، والتوقف. ولا يستطيع نقل المستخدم بينها سوى الكود. فهو يعرف الانتقالات المسموح بها، ويتحقق من إجابات الاختبارات القصيرة، ويقرر متى يعرض العرض التجاري.

عندما يضغط المستخدم على زر، يتلقى النموذج سياقاً جاهزاً ويكتب الرد. وعند وصول نص حر، يُستدعى أولاً مصنّف منخفض التكلفة. ويختار المصنّف واحداً من الإجراءات المسموح بها: مواصلة الموضوع، أو تقديم شرح أبسط، أو الانتقال إلى جزء آخر من البرنامج، أو الاكتفاء بمواصلة الحوار. تتحقق الآلة من الاختيار، ثم يصوغ النموذج الراوي الرد.

على سبيل المثال، طلب مستخدم شرح الشبكات العصبية بصورة أبسط، ثم أطلق مزحة عن المتدرب والقهوة. في الحالة الأولى، كانت الآلة تعرف الموضوع بدقة واستدعت الراوي فقط. وفي الحالة الثانية، صنّف المصنّف المزحة على أنها استطراد حواري، فاحتفظ الكود بالحالة الحالية، ورد الراوي ثم أعاد الحديث إلى الدرس. وهكذا جرى استدعاء النموذج مرتين بدلاً من منحه السيطرة الكاملة.

من أين يأتي التوفير

لا تنتج النفقات الرئيسية من طول المحادثة نفسه، بل من بنية كل خطوة. في تطبيق المؤلف، كانت تكلفة الضغط على زر نحو 35 كوبيكاً، وتكلفة الرسالة النصية 36 كوبيكاً. وبلغت تكلفة المحادثة المتوسطة 3,8 روبل. عمل النموذج الصغير كمصنّف، بينما تولى النموذج الأقوى دور الراوي.

أظهر التبديل العشوائي بين النموذجين أثناء التجربة بوضوح تكلفة التوجيه الخاطئ. فقد نفّذ النموذج الأعلى تكلفة، حين أُسندت إليه مهمة التصنيف، 31% من الاستدعاءات، لكنه استحوذ على 44% من النفقات. وفي الإعداد الاعتيادي، كان المصنّف مسؤولاً عن نحو 1% من التكلفة. والخلاصة العملية بسيطة: ينبغي وضع النموذج منخفض التكلفة حيث توجد قائمة قصيرة من الخيارات، واستخدام النموذج المكلف حيث تكون جودة النص مطلوبة فعلاً.

لا تعتمد الموثوقية على الموجّهات وحدها. إذ يجري التحقق من الانتقالات والاختبارات القصيرة دون اتصال وبلا نموذج، وتُضاف رسائل المستخدم المعقدة إلى مجموعة اختبارات eval، كما تعيد الآلة التحقق من الإجراء الذي اختاره المصنّف. ولحالات الطوارئ، وُضع حد للإنفاق قدره 40 روبلاً لكل جلسة، وبعد بلوغه تُفعّل الردود الجاهزة.

ما الذي أظهرته التجربة

من بين 88 زائراً، بدأ 86 المحادثة، وأكمل 69 الاستبيان ودخلوا البرنامج التعليمي، لكن سبعة فقط وصلوا إلى نهاية المسار الشخصي. وفي جلسة جماعية، خدم الوكيل 71 شخصاً في الوقت نفسه من دون أعطال. وشاهد 33 مشاركاً العرض التجاري، وضغط عشرة منهم على زر «مهتم».

يمثل ذلك قيداً مهماً على النتيجة: فالتجربة صغيرة، والأرقام صادرة عن المؤلف نفسه، ولم تكن هناك مجموعة ضابطة، كما لا تعرض المادة عمليات شراء فعلية. لذلك من المبكر الحديث عن نمو مثبت في الإيرادات. لكن الفرضية الهندسية تأكدت بوضوح كافٍ: تستطيع آلة الحالات المنتهية إبقاء المستخدم على المسار، بينما تجعل LLM التواصل أقل جموداً.

بالنسبة إلى المطور، يقدم هذا النهج قالباً عملياً واضحاً. خزّن الحالة وقواعد العمل في الكود، وقيّد المصنّف بالانتقالات المسموح بها، ووزّع النماذج وفقاً لتعقيد المهمة، واحسب تكلفة سيناريو المستخدم المكتمل بدلاً من تكلفة التوكن الواحد. بعد ذلك، لا يعود سعر النموذج هو عنق الزجاجة الرئيسي، بل التفاعل: كيف تنقل المستخدم من المزحة الأولى إلى نتيجة مفيدة ثم إلى الشراء.