LangChain Deep Agents تخفّض تكلفة نماذج LLM بنسبة 80% عبر التخزين المؤقت للمطالبات

أضافت LangChain التخزين المؤقت التلقائي للمطالبات إلى Deep Agents. وبحسب بيانات الشركة، يخفّض ذلك تكاليف رموز LLM حتى 80% دون أي إعدادات إضافية ودون تغييرات في شيفرة الوكيل.

ما هو prompt caching ولماذا يحتاجه الوكلاء

التخزين المؤقت للمطالبات تقنية يحتفظ فيها مزوّد النموذج بنسخة «مجمّدة» من الأجزاء المتكررة كثيرًا في السياق. وقد تكون هذه الأجزاء مطالبة النظام أو سجل المحادثة أو مجموعة كبيرة من المستندات المحمّلة. وعند الاستدعاء التالي للنموذج، لا يعالج المزوّد هذه الرموز من جديد، بل يسحبها من الذاكرة المؤقتة ويتقاضى عنها مبلغًا أقل بكثير.

في تطبيقات الدردشة العادية يحقق التخزين المؤقت مكسبًا معتدلًا، لأن مطالبة النظام فيها عادةً قصيرة. أما مع الوكلاء فالصورة مختلفة جذريًا. فالوكيل ينفّذ خلال مهمة واحدة عشرات الاستدعاءات المتتالية للنموذج. وفي كل مرة يمرّر التعليمات الطويلة نفسها، وسجل إجراءاته السابقة، والأدوات والمستندات المحمّلة. وبدون التخزين المؤقت تُعالَج كل هذه المدخلات وتُدفع تكلفتها من جديد في كل خطوة، حتى لو لم يتغيّر 90% من المحتوى.

مثال بسيط: وكيل بحثي يقرأ 50 صفحة من الوثائق التقنية، ثم ينفّذ 30 خطوة من الاستدلال واستدعاء الأدوات. وتعيد كل خطوة سحب السياق الكامل إلى النموذج. ومع التخزين المؤقت يُدفع ثمن الاستدعاء الأول كاملًا، أما الاستدعاءات اللاحقة فيُدفع فيها ثمن الرموز الجديدة فقط.

كيف تفعّل Deep Agents التخزين المؤقت تلقائيًا

نفّذت LangChain التخزين المؤقت بحيث يعمل دون تدخل من المطوّر. فلا حاجة لدراسة وثائق كل مزوّد، ولا لوضع أعلام (flags) خاصة، ولا لإعادة بناء بنية الوكيل. يتعرّف الإطار بنفسه على المزوّد المستخدم ويفعّل الآلية المناسبة.

ويدعم الإطار جميع اللاعبين الكبار:

• Anthropic (Claude) — تخزين مؤقت على مستوى مطالبة النظام وأوصاف الأدوات
• OpenAI (GPT-4o، o3) — تخزين مؤقت للمقاطع المتكررة في المدخلات
• Google (Gemini) — تخزين مؤقت للسياق للمستندات الطويلة
• مزوّدون آخرون متوافقون

وهذا يعني أن المطوّر يكتب الشيفرة مرة واحدة على LangChain Deep Agents، ويعمل التخزين المؤقت في كل مكان. وعند تغيير المزوّد لا حاجة لأي إعدادات إضافية.

التوفير الفعلي: حتى 80% من تكلفة الرموز

يمكن بلوغ رقم «حتى 80%» في سيناريوهات محددة: سياق متكرر طويل مع عدد كبير من خطوات الوكيل. وكلما زادت الاستدعاءات للنموذج ضمن مهمة واحدة، وطال الجزء الثابت من المطالبة، ارتفع التوفير. وبالنسبة للفرق التي تشغّل الوكلاء في بيئة الإنتاج، يعني ذلك خفضًا مضاعفًا لفاتورة API.

ويكتسب ذلك أهمية خاصة في سيناريوهات المؤسسات:

• تحليل مجموعات كبيرة من المستندات
• مسارات بحثية متعددة الخطوات
• وكلاء بذاكرة طويلة الأمد وسياق أدوات موسّع
• مولّدات المحتوى التي تعالج مئات الطلبات يوميًا

وتؤكد LangChain أن التخزين المؤقت للمطالبات من أبسط عمليات التحسين وأعلاها عائدًا على الاستثمار (ROI) في تطوير الوكلاء. والمزوّدون أنفسهم مهتمون بتوسيع هذا الدعم: فحوسبة أقل تعني بنية تحتية أرخص لهم.

ماذا يعني ذلك

تصبح أنظمة الوكلاء مكلفة عند التوسّع، والتخزين المؤقت للمطالبات هو الآن من أبرز وسائل ضبط النفقات. وتزيل LangChain الحاجز الهندسي: فلم يعد على المطوّر تنفيذ التخزين المؤقت بنفسه لكل مزوّد. وهذا يخفّض عتبة الدخول إلى تطوير الوكلاء في بيئة الإنتاج، ويجعل تشغيلهم مجديًا اقتصاديًا حتى مع ميزانية محدودة.