في RAG: BM25 الكلاسيكي وجد الإجابة في 72% من الاستعلامات، والبحث العصبي في 49,7%
عندما يفشل روبوت RAG في العثور على قضية برقمها أو على شخص باسم عائلته، يكون البحث العصبي هو السبب في كثير من الأحيان. فهو يلتقط المعنى لكنه يخلط بين الكلمات النادرة. في اختبار EntityQuestions، الذي يضم أسئلة عن أسماء بعينها، وجد BM25 (البحث الكلاسيكي بالكلمات) الإجابة في 72% من الحالات، بينما وجدها البحث العصبي في 49,7%. لذلك يُنصح في بيئة الإنتاج بإبقاء BM25 إلى جانب التضمينات (embeddings) ودمج تقييماتهما بمجموع موزون.
معالج بواسطة الذكاء الاصطناعي من Raft؛ بتحرير Hamidun News
تخيّلوا روبوت RAG للوثائق القانونية: يبحث أولًا في القاعدة عن المقاطع المناسبة، ثم يعتمد عليها في الرد على المستخدم. تسألونه عن قضية محددة برقمها، أو عن شخص باسم عائلته، فيعيد البحث الشعاعي (العصبي) نصوصًا «مشابهة في المعنى» لكنها ليست النصوص المطلوبة. أما خوارزمية BM25 الكلاسيكية، التي تبحث بمطابقة الكلمات وتزن ندرتها، فتتعامل مع مثل هذه الاستعلامات بشكل أفضل. في اختبار EntityQuestions، الذي يطرح أسئلة عن أسماء وكيانات محددة، وجد BM25 الإجابة الصحيحة في 72% من الحالات، بينما لم يجدها البحث العصبي إلا في 49,7%. يعرض تحليل هندسي كتبه مهندس معماري في الذكاء الاصطناعي سبق أن طوّر بحثًا في الوثائق القانونية (مشروع «НейроЮрист») كيف يمكن التعامل مع BM25 بوصفه بنية بيانات، وما الذي ينبغي فعله به في بيئة الإنتاج.
BM25 كجدول محسوب مسبقًا
تخيّلوا أن كل كلمة في كل وثيقة لها تقييم محدد مسبقًا يبيّن مدى أهمية هذه الكلمة لهذا النص. عندها يختزل البحث في جمع التقييمات الجاهزة لكلمات الاستعلام. وهذا بالضبط ما يجعل BM25 سريعًا إلى هذا الحد.
من الناحية التقنية، يعتمد وزن الزوج «كلمة — وثيقة» على تكرار الكلمة في الوثيقة وطول الوثيقة والعدّادات العامة للمدوّنة، لكنه لا يعتمد على الاستعلام. وهذا يعني أنه يمكن حسابه أثناء الفهرسة وتخزينه في مصفوفة متناثرة. يتحول البحث إلى اختيار أعمدة المصفوفة وفق رموز الاستعلام (tokens) ثم جمعها. تورد المقالة مثالًا بسيطًا بلغة Python باستخدام numpy وscipy: نحو 20 سطرًا، مع صيغة IDF (تقييم ندرة الكلمة) المأخوذة من Lucene، واختيار أفضل النتائج عبر argpartition.
لهذه البنية عيب واحد، لكنه مزعج: التقييمات تعتمد على المجموعة كلها. فإذا أضفتم وثيقة أو حذفتم أخرى، تغيّرت شكليًا أوزان جميع الوثائق الأخرى. وعليكم عندها إما إعادة بناء المصفوفة، أو القبول عن وعي بانجراف الإحصاءات، مثل متوسط طول الوثيقة. وفي الأنظمة الموزعة تُضاف مشكلة التجزئة (sharding): إحصاءات الشظية المحلية تختلف عن الإحصاءات العامة، فتُدمج التقييمات القادمة من عقد مختلفة بشكل غير صحيح. يعالج Elasticsearch ذلك بالوضع dfs_query_then_fetch على حساب جولة شبكية إضافية، لكن إذا كانت المدوّنة تتسع في عقدة واحدة، فمن الأسهل الاكتفاء بشظية واحدة.
«BM25» ليست صيغة واحدة
لا يوجد معيار موحد. فقد قارن Kamphuis وزملاؤه (ECIR 2020) ثمانية متغيرات شائعة: صيغة Robertson الكلاسيكية، وLucene، وATIRE، وBM25L، وBM25+ وغيرها. وهي تختلف في حساب IDF، وفي تطبيع تكرار الكلمة، وفي طريقة التعامل مع القيم السالبة (التي تظهر عندما تردّ الكلمة في أكثر من نصف الوثائق).
النتائج العملية لذلك:
- ستحصل الوثائق نفسها على أرقام مختلفة في مكتبات مختلفة، ولا معنى لمقارنة هذه الأرقام بين الأنظمة.
- في Lucene، اعتبارًا من الإصدار 8، أُزيل المضروب (k1+1) من البسط. لا يتغير ترتيب الوثائق داخل الاستعلام الواحد، لكن الدرجات المطلقة تتغير، وهذا يفسد المقارنة بين الإصدارات.
- درجة BM25 ليست احتمالًا: فهي غير محدودة من الأعلى وتزداد مع طول الاستعلام. وأي عتبة صارمة من نوع «أعلى من 12 يعني وثيقة ذات صلة» ستفشل حتمًا. استخدموا عتبات نسبية: نسبة من الدرجة القصوى أو قيمة مطبَّعة.
- في المضمِّنات المتناثرة (sparse embedders) التي تحوّل الكلمات إلى فهارس عبر التجزئة (hashing)، تظهر تصادمات في المعاجم الكبيرة التي تضم أرقام القضايا والبيانات التعريفية: إذ تُدمج كلمات مختلفة في إحداثية واحدة. ومن الأفضل في مثل هذه المجالات الانتقال مباشرة إلى معجم صريح.
ماذا تُظهر المقاييس المرجعية وكيف يُدمج BM25 مع الشبكة العصبية
الأرقام ذُكرت أعلاه: في EntityQuestions وجد BM25 الإجابة الصحيحة في 72% من الحالات، والبحث العصبي في 49,7%. تتعامل الشبكات العصبية بشكل سيئ مع النادر (أسماء العائلات، أرقام القضايا، أرقام الأصناف)، و«تفضّل» المقاطع القصيرة، وينخفض أداؤها على النصوص الطويلة.
لبناء نظام هجين يوصي المؤلف بدمج BM25 والشبكة العصبية بمجموع موزون للتقييمات، لا بالرتب (أسلوب RRF الذي يأخذ في الحسبان موضع الوثيقة في القائمة فقط). وهناك تحفظ مهم: إذا أجريتم تدريبًا إضافيًا (fine-tuning) للمضمِّن على بياناتكم، فقد يسوء المزيج إلى أن تُضبط الأوزان من جديد. لذلك يجب إعادة حساب الأوزان بعد كل تغيير للنموذج، لا نقلها من النسخة القديمة.
واستنتاج آخر: جودة البحث تعتمد في المقام الأول على إعداد النص: الصرف، والتجزئة إلى رموز (tokenization)، والتقطيع إلى مقاطع. أما المتغيرات الغريبة للصيغة مثل BM25L وBM25+ فتعطي مكاسب أقل بكثير. وفي اللغة الروسية بحالاتها الإعرابية يبدو ذلك أوضح: فإذا لم تُردّ الكلمات إلى صيغتها الأصلية، ستكون «договора» و«договору» كلمتين مختلفتين بالنسبة إلى الفهرس.
ماذا نفعل عمليًا
- اختاروا مكتبة BM25 واحدة وثبّتوا إصدارها، واضبطوا العتبات وأوزان النظام الهجين داخلها.
- اضبطوا المعامل k1 والإعدادات الأخرى كلًّا على حدة، وإلا قارنتم نموذجًا مضبوطًا بنموذج غير مضبوط.
- حسّنوا أولًا التجزئة إلى رموز والتقطيع إلى مقاطع، ثم فكّروا في متغيرات الصيغة.
- خطّطوا لإعادة بناء الفهرس، أو اقبلوا بانجراف الإحصاءات عند كثرة التحديثات.
- أعيدوا حساب أوزان النظام الهجين بعد التدريب الإضافي للمضمِّن.
حدود المادة: هذه وجهة نظر ممارس واحد في مجال محدد هو النصوص القانونية، وأرقام EntityQuestions لا تغني عن الاختبار على مجموعتكم الخاصة. لكن بوصفه قائمة مراجعة لما ينكسر عند الانتقال من الدفتر التجريبي إلى بيئة الإنتاج، يفيد هذا التحليل أي فريق يفقد نظام RAG لديه المعرّفات الدقيقة.
- 7 يوليو 2026VK تطلق محرك البحث العصبي Discovery AI لقاعدة محتوى تضم مليارات العناصر في Dzen وVK Video
- 12 نوفمبر 2026Elasticsearch 8.13 يسرّع البحث المتجهي ويضيف إعادة الترتيب عبر LTR
- 27 أكتوبر 2026Qdrant 1.20 يبحث بالكلمات دون تضمينات ويسرّع الفلاتر المتداخلة من 7 إلى 38 مرة
- 30 أبريل 2026OpenAI وGrok يتراجعان أمام RAG مخصص في تحدي Agentic RAG Legal Challenge القانوني
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول BM25 كجدول محسوب مسبقًا؟
تخيّلوا أن كل كلمة في كل وثيقة لها تقييم محدد مسبقًا يبيّن مدى أهمية هذه الكلمة لهذا النص. عندها يختزل البحث في جمع التقييمات الجاهزة لكلمات الاستعلام. وهذا بالضبط ما يجعل BM25 سريعًا إلى هذا الحد. من الناحية التقنية، يعتمد وزن الزوج «كلمة — وثيقة» على تكرار الكلمة في الوثيقة وطول الوثيقة والعدّادات العامة للمدوّنة، لكنه لا يعتمد على الاستعلام. وهذا يعني أنه يمكن حسابه أثناء الفهرسة وتخزينه في مصفوفة متناثرة. يتحول البحث إلى اختيار أعمدة المصفوفة وفق رموز الاستعلام (tokens) ثم جمعها.
ما أبرز التفاصيل حول «BM25» ليست صيغة واحدة؟
لا يوجد معيار موحد. فقد قارن Kamphuis وزملاؤه (ECIR 2020) ثمانية متغيرات شائعة: صيغة Robertson الكلاسيكية، وLucene، وATIRE، وBM25L، وBM25+ وغيرها. وهي تختلف في حساب IDF، وفي تطبيع تكرار الكلمة، وفي طريقة التعامل مع القيم السالبة (التي تظهر عندما تردّ الكلمة في أكثر من نصف الوثائق). النتائج العملية لذلك: ستحصل الوثائق نفسها على أرقام مختلفة في مكتبات مختلفة، ولا معنى لمقارنة هذه الأرقام بين الأنظمة. في Lucene، اعتبارًا من الإصدار 8، أُزيل المضروب (k1+1) من البسط.
ما أبرز التفاصيل حول ماذا تُظهر المقاييس المرجعية وكيف يُدمج BM25 مع الشبكة العصبية؟
الأرقام ذُكرت أعلاه: في EntityQuestions وجد BM25 الإجابة الصحيحة في 72% من الحالات، والبحث العصبي في 49,7%. تتعامل الشبكات العصبية بشكل سيئ مع النادر (أسماء العائلات، أرقام القضايا، أرقام الأصناف)، و«تفضّل» المقاطع القصيرة، وينخفض أداؤها على النصوص الطويلة. لبناء نظام هجين يوصي المؤلف بدمج BM25 والشبكة العصبية بمجموع موزون للتقييمات، لا بالرتب (أسلوب RRF الذي يأخذ في الحسبان موضع الوثيقة في القائمة فقط).
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.