آبل تسرّع البحث المتجهي في RAG حتى 8 مرات مع استدعاء بنسبة 99%

يسأل المستخدم كيف يسترد أمواله، فيعيد البحث في قاعدة الدعم مقالات عن الدفع. يتلقى النموذج اللغوي سياقًا غير مناسب، ولا تفيد الإجابة الجميلة كثيرًا بعد ذلك. اقترح باحثو آبل تدريب شبكات مستقلة على معرفة مكان البحث عن المطابقات في قاعدة بعينها. وللفريق الذي يملك أرشيفًا ضخمًا، هذه فرصة لمعرفة حجم الموارد التي يستهلكها البحث نفسه، وهل يمكن تقليل عدد المستندات التي تُفحص.

الشبكة تتعلم اختيار مكان البحث

في RAG تُحوَّل المستندات أولًا إلى متجهات رقمية تمثّل محتواها. ويخضع سؤال المستخدم لمعالجة مشابهة. بعد ذلك يبحث النظام عن المستندات التي تتطابق متجهاتها أكثر مع متجه السؤال، ويمرّر المقاطع التي عثر عليها إلى النموذج اللغوي.

مقارنة الاستعلام بكل مستند مكلفة. لذلك يمكن تقسيم القاعدة إلى مجموعات: اختيار عدة مجموعات مناسبة أولًا ثم البحث داخلها. لهذا الاختصار ثمن: فالخطأ في اختيار المجموعة قد يُبقي أفضل نتيجة خارج نطاق البحث.

يصف عمل آبل طريقتين لتدريب هذه المرحلة. تقدّر SupportNet مدى جودة المطابقة التي يمكن العثور عليها داخل كل مجموعة. أما KeyNet فتتنبأ بمتجه أفضل مطابقة وتمرّره إلى فهرس البحث المعتاد بدلًا من متجه السؤال الأصلي. ويمكن استخدام هذين النموذجين بشكل منفصل.

لنتخيل قاعدة معرفة لمتجر إلكتروني. يكتب المشتري: «ألغيت الطلب، متى تصل الأموال؟» وقد يكون عنوان التعليمات المطلوبة «مواعيد إعادة الأموال بعد الإلغاء». في مثالنا الافتراضي يجب أن توجّه KeyNet البحث إلى متجه هذه التعليمات. فهي تعمل بالأرقام: ولا حاجة لتوليد نص الإجابة المفترضة.

تُعدّ أمثلة التدريب مسبقًا. لكل سؤال تُحسب أفضل مطابقة بالبحث الشامل، ثم تُدرَّب الشبكة على إعادة إنتاج هذه المطابقة. تنتقل التكلفة إلى مرحلة تجهيز النظام؛ وتظهر الفائدة عندما تخدم الشبكة المدرَّبة كثيرًا من الاستعلامات اللاحقة.

ماذا يعني التسريع حتى ثماني مرات

في تحليل التجربة استخدمت آبل نحو 2.6 مليون مقطع من Natural Questions. ومع أكبر نسخة من KeyNet جرى اختبارها، استغرق بلوغ استدعاء بحث 99% نحو 0.23 مللي ثانية مقابل 1.8 مللي ثانية للاستعلام الأصلي. ويشمل القياس تحويل الاستعلام والبحث في الفهرس. ولبلوغ الاستدعاء نفسه كان يلزم فحص عدد أقل من المتجهات بنحو 11 مرة.

من السهل هنا قراءة النتيجة قراءة خاطئة. استدعاء 99% يعني استعادة أفضل مطابقة وفق مقياس المتجهات المختار. وهذا ليس وعدًا بإجابة صحيحة للمستخدم في 99% من الحالات: فقد تعكس التمثيلات الأصلية للمستندات معنى السؤال بشكل سيئ.

تعطي SupportNet نتيجة مختلفة: عند استدعاء توجيه بنسبة 95% بلغ زمن الاستجابة 1.74 مللي ثانية بدلًا من 3.36 مللي ثانية. ولا يجوز جمع هذين التسريعين، فهما قياسان منفصلان لنسختين مختلفتين من البحث.

وللمنتج أهمية أيضًا للوفر المطلق. فالانخفاض من 1.8 إلى 0.23 مللي ثانية يوفّر نحو مللي ثانية ونصف في هذه المرحلة. وإذا كان الانتظار الأكبر في توليد الإجابة، فقد لا يلاحظ المستخدم الفرق تقريبًا. ومع تدفق كبير من الاستعلامات، يبقى على الفريق تقدير الأثر على تكاليف الحوسبة.

كيف تختبر الفائدة على قاعدتك

يمكن البدء من المستودع الرسمي لـ AMIPS. والادعاء الوارد في المنشور الأصلي بأن آبل لم تنشر الشيفرة غير صحيح: فهناك نصوص لتجهيز المتجهات وحساب أهداف التدريب وتدريب النماذج، إضافة إلى مثال للتشغيل على مجموعة FIQA صغيرة.

ينبغي بناء التجربة العملية حول حمل العمل الخاص بك. خذ عينة منفصلة من الأسئلة الحقيقية، وثبّت الاستدعاء وزمن الاستجابة الحاليين، ثم قارنهما بالنسخة المدرَّبة. واحسب بشكل منفصل زمن التجهيز والذاكرة وتكلفة التحديث. وإلا فقد يضيع مكسب الاستعلامات بسهولة عند تشغيل النظام وصيانته.

صُممت الطريقة لقاعدة ثابتة وأنواع استعلامات مألوفة. لذلك من المنطقي أن يُختار للتجربة التجريبية دليل مرجعي مستقر نسبيًا. وعند تحديث المستندات أو تغيّر الأسئلة سيلزم إعادة فحص الجودة وتقرير ما إذا كانت إعادة التدريب ضرورية. ومعيار التبنّي الرئيسي بسيط: هل يتكرر البحث في هذه القاعدة بما يكفي لتعويض كلفة التدريب الإضافي والصيانة؟