تضمينات ساكنة عالجت 32.9 مليون نص على حاسوب محمول في 35 دقيقة

كل من بنى بحثاً متجهياً على مجموعة نصوص كبيرة يعرف هذه اللحظة جيداً. البيانات جُمعت، وقاعدة المتجهات جاهزة، ثم يتضح أن تحويل النصوص إلى تضمينات يستغرق أياماً. نماذج المحوّلات تلتقط المعنى ببراعة، لكنها ثقيلة على المعالج (CPU). ولا يبقى سوى الانتظار أو دفع تكاليف وحدات GPU. فريق Qdrant يعرض طريقاً ثالثاً: عدم تشغيل أي شبكة عصبية أصلاً.

كيف يعمل نموذج بلا شبكة عصبية

النموذج الساكن بسيط إلى حد يثير الابتسام. إنه قاموس يرتبط فيه كل رمز من مفردات النموذج بمتجه محدد مسبقاً. ولكي نحصل على تضمين نص ما، نحتاج إلى ثلاث خطوات:

1. تقسيم النص إلى رموز.
2. استخراج متجه كل رمز من الجدول.
3. حساب متوسط هذه المتجهات.

لا توجد طبقات انتباه ولا عمليات ضرب مصفوفات مع كل استعلام، ولذلك يقتصر العمل كله على عمليات سريعة في الذاكرة. ومن هنا تأتي السرعة التي تنتمي إلى رتبة مختلفة تماماً.

أرقام التجربة. باستخدام النموذج potion-base-8M، حوّل المؤلفون 32.9 مليون مقطع نصي إلى متجهات على معالج حاسوب محمول عادي في 35 دقيقة. أما نموذج المحوّل فكان سيحتاج إلى نحو 53 يوماً. وبحساب النسبة، يبلغ الفرق نحو 2000 مرة. ما كان يتطلب في السابق عنقوداً من الخوادم أو استئجار بطاقات رسوميات، يمكن اليوم إنجازه خلال استراحة الغداء.

أين تكمن المشكلة

لا توجد وجبات مجانية، ويسمّي المؤلفون الثمن صراحةً: تنخفض جودة البحث. والسبب كامن في بنية النموذج نفسها. ففي المحوّل «ينظر» كل رمز إلى جيرانه، ويتوقف متجه الكلمة على السياق. أما في النموذج الساكن فللكلمة متجه واحد لكل الحالات.

مثال بسيط. كلمة «ключ» (التي تعني «مفتاح») في الاستعلامين «ключ от квартиры» (مفتاح الشقة) و«ключ API» (مفتاح API) ستحصل على المتجه نفسه. المحوّل كان سيميّز بين المعنيين من خلال المحيط، أما حساب المتوسط فلا. ومشكلة أخرى: حساب المتوسط يُضيّع ترتيب الكلمات. فالجملتان «أقرض البنك العميل قرضاً» و«أقرض العميل البنك قرضاً» تصبحان شبه متطابقتين.

لا يورد المقال أرقاماً محددة لفقدان الجودة، فهي غير موجودة في المقطع المصدر. لذلك لا يصح الاطمئنان الأعمى إلى أن «هذا يكفي». يجب القياس على بياناتك واستعلاماتك أنت.

ماذا نفعل عملياً

لا تحل التضمينات الساكنة محل المحوّلات في كل مكان، لكنها تغطي جيداً عدة حالات شائعة:

• النماذج الأولية والتجارب. عندما تريد اختبار فكرة بحث على ملايين الوثائق بسرعة بدلاً من انتظار أسبوع، فإن التحويل الرخيص إلى متجهات يوفر الوقت والمال.
• المجموعات النصية الضخمة بميزانية محدودة. إذا لم تكن وحدات GPU متاحة أو لم يكن استخدامها مجدياً اقتصادياً، يمكن الحصول على فهرس عملي على عتاد عادي.
• البحث على مرحلتين. يختار نموذج ساكن سريع المرشحين، ثم يرتّب معيد ترتيب (reranker) ثقيل أو محوّل القائمة القصيرة. وهكذا تُعوَّض فظاظة المرحلة الأولى بالمرحلة الثانية.
• إعادة الفهرسة المتكررة. إذا كانت المجموعة تتحدّث باستمرار، تصبح السرعة شرطاً لا ميزة إضافية.

والخوارزمية العملية هي التالية. خذ عينة ممثِّلة من الاستعلامات ذات الإجابات الصحيحة المعروفة. مرّرها عبر النموذج الساكن ونموذج المحوّل وقارن مقاييس البحث. إذا كان الفارق مقبولاً لمنتجك، فسيعوّض الربح في التكلفة والسرعة عنه. وإن لم يكن كذلك، فاستخدم المتجهات الساكنة كمرحلة أولى لا كمرحلة نهائية.

الخلاصة الرئيسية: لا حاجة دائماً إلى نموذج «ذكي» في كل خطوة من خطوات خط المعالجة. يمكن إسناد جزء من العمل إلى أبسط جدول وتوفير أيام من الحوسبة، والأهم أن تقيس بأمانة ما تدفعه مقابل ذلك.