MIT: وكلاء الذكاء الاصطناعي يتبادلون KV-cache بدل النص ويعملون أسرع بـ4 مرات

عندما يتقاسم عدة وكلاء ذكاء اصطناعي مهمة واحدة، يتعين عليهم تمرير السياق بعضهم إلى بعض. ينهي أحدهم جزءه، ويجب على الآخر أن يواصل. عادةً يكتب الأول ملخصًا نصيًا، ويقرأه الثاني من الصفر. اقترح باحثون من MIT مسارًا مختلفًا. فبنية SwaT (Swarm Telepathy) لا تنقل بين النماذج ملخصًا، بل KV-cache، أي سياقًا جرت معالجته بالفعل. وبالمقارنة مع الملخصات النصية، وعند دمج SwaT مع ضغط الكاش، ارتفعت جودة الإجابات في المتوسط بنسبة 40%، وزادت السرعة أربعة أضعاف.

لماذا يكلّف الملخص ثمنًا باهظًا

يبدو أسلوب الملخصات بسيطًا، لكن ثمنه يُدفع مرتين.

الثمن الأول هو الحوسبة. فالوكيل المرسِل يستهلك وقتًا ورموزًا (توكنات) لكتابة الملخص. ثم يعالج الوكيل المستقبِل هذا النص من جديد كأنه يراه للمرة الأولى.

الثمن الثاني هو الفاقد. فالملخص أقصر من الأصل دائمًا. وقد يحتاج المستقبِل بعد خطوتين إلى تفصيل صغير بدا للمرسِل غير مهم، ولا يمكن استعادته بعد ذلك.

وفي السلاسل الطويلة من الوكلاء يتراكم هذا الأثر. فكلما زاد عدد عمليات التسليم، زاد العمل الزائد، وتشوّهت الصورة الأصلية أكثر.

ماذا يُنقل بدل النص

KV-cache هو الذاكرة الداخلية للنموذج اللغوي عمّا قرأه بالفعل. فأثناء معالجة النص، يحفظ النموذج لكل توكن بيانات وسيطة هي المفاتيح والقيم (key وvalue). وبفضلها لا يحتاج إلى إعادة حساب السياق كله عند توليد كل كلمة جديدة. إنه في جوهره «مذكرة» أعدّها النموذج لنفسه.

فكرة SwaT هي تسليم هذه المذكرة مباشرةً إلى الوكيل التالي. عندها لا يحتاج المستقبِل إلى إعادة قراءة النص، ولا يضيع شيء في مرحلة الملخص المقروء للبشر.

لكن هناك صعوبة. فلكل نموذج صيغته الداخلية الخاصة: عدد الطبقات، والأبعاد، وطريقة تمثيل التوكنات. ولذلك لا يمكن ببساطة أخذ كاش نموذج ما ووضعه في نموذج آخر. وبحسب ما يذكره المؤلفون، يتعامل SwaT مع ذلك حتى بين نماذج من عائلات مختلفة. وهذا أكثر أجزاء العمل تعقيدًا، وهو ما يجعل الطريقة قابلة للتطبيق على فرق وكلاء مختلطة.

إضافةً إلى ذلك، يُستخدم ضغط الكاش. فالكاش الكامل يشغل ذاكرة كبيرة، ولذلك يجري تكثيفه. والنتائج التي يوردها المؤلفون جرى الحصول عليها بهذا الدمج تحديدًا.

ماذا أظهرت التجارب

جرت المقارنة مع الأسلوب الأكثر شيوعًا لتمرير السياق، وهو الملخصات النصية. النتائج على المعايير (بنشمارك):

• جودة الإجابات: أعلى بنسبة 40% في المتوسط مقارنةً بتمرير الملخصات النصية. • السرعة: أعلى بنحو أربعة أضعاف. • العمل بين عائلات نماذج مختلفة: ليس من الضروري أن يكون المستقبِل بالبنية نفسها التي يعتمدها المرسِل. • نقل الرؤية: أمكن نقل المعلومات من VLM (نموذج يعالج الصور مع النص) إلى نموذج نصي عادي لا يرى الصور بنفسه.

البند الأخير هو الأكثر إثارة للاهتمام على الأرجح. فالنموذج النصي لم يتلقَّ وصفًا للصورة، بل التمثيل الداخلي الذي بناه الـVLM. وهذا يفتح الباب أمام فكرة التخصص: نموذج ينظر إلى الصور، وآخر يستدل على النتيجة بكلفة منخفضة، ولا يهدر أيٌّ منهما موارده في ترجمة ما رآه إلى كلمات.

ماذا يعني هذا للمهندسين

بالنسبة إلى مطوري الأنظمة القائمة على الوكلاء، الفكرة بسيطة: الملخص بين الوكلاء ليس الخيار الوحيد، وغالبًا ليس الأفضل. فإذا كانت منظومة الوكلاء تعمل على نماذج يمكن الوصول إلى حالاتها الداخلية، فقد يقلّل تبادل الكاش زمن التأخير وتكاليف الحوسبة.

وهناك تحفظات. فهذا عمل علمي منشور على arXiv (2610.15095)، وليس منتجًا جاهزًا. والأرقام محسوبة كمتوسط على مجموعة من المعايير، وقد تختلف النتيجة في مهمتك. كما أن KV-cache عادةً لا يتوفر عبر واجهات API العامة للنماذج المغلقة. لذلك يكون تطبيق هذا النهج أسهل ما يكون مع النماذج المفتوحة التي تشغّلها بنفسك.

ومع ذلك، فالاتجاه واضح. فإذا تبادلت الوكلاء ذاكرة النموذج لا الكلمات، فستغدو الأنظمة متعددة الوكلاء أسرع وأدق. وربما تظهر قاعدة جديدة: فرق من نماذج مختلفة، لكلٍّ منها تخصصه، تعمل كأنها كيان واحد.