Box تدمج Nvidia Nemotron في البحث للوكلاء: أسرع 4 مرات وبعدد رموز أقل بنسبة 90%

إذا سبق لك بناء وكلاء فوق ملفات الشركات، فأنت تعرف هذه المعاناة: يتلقى الوكيل سؤالا، ويدخل إلى مخزن الملفات، ثم يسحب نصف مستند إلى السياق كي يعثر على فقرة واحدة. هذه العملية بطيئة ومكلفة ومعرضة للأخطاء. قررت Box معالجة المشكلة على مستوى المنصة، وربطت تضمينات Nvidia Nemotron بالنواة الأساسية لمنتجها.

ما الذي تم عرضه

قدمت Box خلال مؤتمرها للمطورين ميزة Box Content Retrieval. وهي لا ترسل المستندات كاملة إلى الوكلاء، بل تمنحهم المقاطع الأكثر صلة بطلب أو مهمة محددة. ووصف الرئيس التنفيذي Aaron Levie الفكرة على النحو التالي: لم يعد الوكيل بحاجة إلى «قراءة كل مستند»، إذ تعاد إليه المقاطع المطلوبة.

الأرقام المعلنة صادرة عن Nvidia. وتتوقع Kari Briski، نائبة الرئيس للذكاء الاصطناعي التوليدي، إجابات أسرع أربع مرات، وأخطاء أقل بنسبة 20%، وانخفاضا بنسبة 90% في عدد الرموز المستهلكة. وستصبح الميزة متاحة لجميع عملاء خطة Enterprise Advance في بداية العام المقبل.

كيف يعمل ذلك في مثال عملي

تخيل محاميا يطلب من وكيل العثور على جميع بنود تحديد المسؤولية ضمن مئة عقد. قد يفوّت البحث التقليدي بالكلمات المفتاحية الصياغات التي تستخدم كلمات مختلفة أو لغة أخرى. تعمل التضمينات بطريقة مختلفة، إذ تحول النص إلى تمثيل عددي للمعنى. وبذلك يمكن العثور على البنود المتقاربة دلاليا حتى عندما تكون مكتوبة بصياغات مختلفة.

Nemotron Embed عبارة عن مجموعة من النماذج ذات الأوزان المفتوحة، تستخدم نماذج LLM في المعالجة المسبقة للبيانات. ثم يستخدم الوكيل ناتج هذه المعالجة أثناء البحث. ووفقا للمقال، تصدر إصدار Nemotron المنشور في يوليو معيار RTEB، الذي يقيس جودة الاسترجاع. وكثيرا ما قللت المختبرات الكبرى من أهمية هذه النماذج، بينما وضعت Nvidia رهانا بارزا عليها.

ويبدو توفير الرموز هنا منطقيا تماما. فعندما يصل إلى السياق مقطع واحد ذو صلة بدلا من ملف طويل، يقرأ النموذج نصا أقل. وهذا يحقق مكاسب في السرعة والتكلفة، كما أن تقليل الضوضاء داخل السياق يعني عادة أخطاء أقل.

القيود والمخاطر

النماذج وحدها لا تكفي. فرغم أن Nemotron متاح مجانا، تعتمد Box على بياناتها الوصفية الخاصة ونظام صلاحيات الوصول لديها، ولن يكون إنشاء حل مماثل من الصفر سهلا. ويقول Levie إن نحو خمس تقنيات مختلفة جرى تجميعها داخل API بسيط واحد. يمثل ذلك خندقا دفاعيا لـBox، وتحذيرا للفرق التي تبني نظاما مشابها داخليا بشأن حجم العمل المطلوب.

وهناك تحفظ يتعلق بالأرقام أيضا. فوعود الأداء البالغة 4x، وتقليل الأخطاء بنسبة −20%، والرموز بنسبة −90%، صادرة عن Nvidia وعن المورّد نفسه، بينما لم يُطرح المنتج بعد. ولا تزال ظروف القياس مجهولة، لذا سيتعين التحقق من النتائج باستخدام البيانات الخاصة بكل جهة. وإضافة إلى ذلك، لن تتوفر الميزة إلا ضمن الخطة الأعلى، ما يعني أنها لا تزال خيارا مستقبليا لبقية عملاء Box.

ما الذي ينبغي فعله عمليا

أولا، إذا كنت تبني وكلاء يمكنهم الوصول إلى المستندات، فانظر إلى الاسترجاع بوصفه طبقة مستقلة، لا تفصيلا صغيرا بجانب النموذج. ففي أغلب الأحيان، هو الذي يحدد فاتورة الرموز وجودة الإجابات معا.

ثانيا، يمكن تجربة نماذج التضمين المفتوحة Nemotron الآن على مجموعة بياناتك الخاصة، ومقارنتها بما تستخدمه حاليا. ويجدر إيلاء اهتمام خاص للبيانات متعددة اللغات، حيث تخفق الكلمات المفتاحية في كثير من الحالات.

ثالثا، ينبغي لفرق المنتجات أن تتذكر أن صلاحيات الوصول والبيانات الوصفية جزء من جودة البحث. فالوكيل الذي يعثر على المعلومة المطلوبة، لكنه لا يراعي من يُسمح له برؤيتها، عديم الفائدة للشركات. وهذا تحديدا هو الجانب الذي تعتبره Box ميزتها، وهو أيضا ما ينبغي تقييمه عند الاختيار بين منصة جاهزة وحل يجري بناؤه داخليا.