كيف قلل مطور استهلاك رموز وكيل الذكاء الاصطناعي بمقدار 4.6 مليون يومياً: تحليل التسرب

نشر مطور على منصة Habr تحليلاً لاستهلاك الرموز الفعلي لوكيل ذكاء اصطناعي واكتشف: معظم الميزانية لا تذهب للعمل المفيد، بل لعمليات الخدمة في الخلفية. بعد تعديل إعدادات هذه المهام، قلل الاستهلاك بحوالي 4.6 مليون رمز يومياً.

حيث تسرب الرموز فعلياً

تشير الحدس إلى أن الرموز تذهب حيث يحل الوكيل المهام الصعبة: كتابة التعليمات البرمجية، تحليل المواقع الإلكترونية، إدارة المتصفحات، تحليل السجلات. مهمة معقدة، النموذج يفكر، الأدوات تعمل، السياق ينمو—يبدو منطقياً.

لكن تحليل البيانات الحقيقية يظهر صورة مختلفة. المستهلك الرئيسي للميزانية ليس المهام المعقدة بل عمليات الخدمة التي تعمل باستمرار في الخلفية:

• مهام Cron — التشغيل المنتظم بغض النظر عن وجود عمل حقيقي أم لا
• التشخيص وطلبات الحالة — الوكيل يتحقق باستمرار من حالته، حتى عندما لا يحدث شيء
• قوائم الأدوات الزائدة — يتم تحميل عشرات الأدوات في السياق "للعموم"، بينما تتطلب معظم المهام ثلاثة إلى خمسة فقط
• فحوصات المراقبة — نبضات المراقبة المستمرة، بما في ذلك فترات التعطل الكامل

المفارقة هي أن الوكيل ينفذ عمله بموثوقية من وجهة نظر الكود: يجري الفحوصات، يحتفظ بالأدوات في متناول اليد، ينفذ الجداول الزمنية. لكن لا أي من هذه الإجراءات ينشئ قيمة للمستخدم—لكن كل واحد يضيف إلى الفاتورة. عداد الرموز يبدأ بالدوران قبل حتى أن يرسل المستخدم طلباً واحداً.

لماذا من الصعب ملاحظة هذا التسرب

يصف المؤلف الحالة بقياس مثالي: تخيل حرفياً يستدعى لاستبدال مقبس واحد. قبل أن يمسك بالأدوات، يفرغ من شاحنته كل سوق البناء، حفارتين وخلاطة خرسانة—ويفوتر على كل الوقت، بما في ذلك التفريغ.

كل طلب فردي في الخلفية يبدو رخيصاً: نبضة التشخيص—عشرات الرموز، فحص cron مرة في الدقيقة—أيضاً قليل. لكن على مقياس يومي، مع عدة عمليات متوازية، التأثير التراكمي ضخم—مقارن بآلاف تفاعلات المستخدم الحقيقية.

تتفاقم المشكلة بالنهج القياسي لتصميم أنظمة الوكلاء: كل ما هو مفيد محتملاً يتم تحميله في السياق مسبقاً، الأدوات يتم إرفاقها في حزم، المراقبة تعمل بشكل مستمر. في مرحلة التطوير والتصحيح، هذا مبرر. في الإنتاج يصبح ثقباً دائماً وقابلاً للتنبؤ به في الميزانية. لهذا السبب المشكلة لا تبرز للعيان عند النظر الأول للنفقات: لوحة التحكم تظهر المبلغ لكنها لا تشرح من أين تأتي معظمها.

ما الذي يوفره تدقيق عمليات الخلفية

حدد المطور نقاط تسرب محددة، عدّل إعدادات مهام الخلفية، وقلل الاستهلاك بحوالي 4.6 مليون رمز يومياً. مهم: هذه النتيجة على مهام الخلفية فقط—بدون أي تغييرات في منطق عمل الوكيل الأساسي.

تحسين وكلاء الذكاء الاصطناعي لا يبدأ بجودة الموجهات ولا يتحدد باختيار النموذج. جزء كبير من الميزانية الحقيقية يتحدد بقرارات معمارية—تكرار تشغيل الخلفية، تكوين الأدوات في السياق، منطق المراقبة. هنا حيث توجد غالباً أسرع وأكثر الفرص قابلية للقياس لتحقيق المدخرات. مثل هذا التدقيق مهم بشكل خاص عند التوسع: زيادة عدد الوكلاء أو المهام تضاعف استهلاك الخلفية حتى لو بقي المنطق الأساسي دون تغيير.

ماذا يعني هذا

قبل تحسين جودة إجابات الوكيل، تحقق من عدد الرموز التي يتم إنفاقها قبل أن يبدأ العمل. تدقيق مهام الخلفية ليس إجراءً لمرة واحدة—إنها جزء قياسي من صيانة أنظمة الوكلاء في الإنتاج.