مطوّر يستبدل إعادة شرح السياق للنموذج العصبي بسير عمل LLM Wiki

عرض كاتب في مدوّنة تقنية على Habr سير عمل LLM Wiki: فبدلًا من أن يشرح للنموذج العصبي السياق من جديد مع كل طلب، يُثري النموذج قاعدة المعرفة ويرتّبها تدريجيًا داخل مخزن Obsidian. واستُخدمت في التغذية عدة مقالات من Habr نفسه، فيما تقوم معالجة المهام على Codex.

مم يتكوّن سير العمل

يعتمد النظام على مجموعة من الأدوات وثلاث عمليات متتابعة نفّذها المؤلف بنفسه فوق vault جاهز في Obsidian.

• مخزن المعرفة — vault في Obsidian
• معالجة الطلبات والتوليد — عبر Codex
• مصادر تغذية القاعدة — عدة مقالات من Habr
• ثلاث عمليات في المسار: ingest (تحميل المواد)، وquery (الاستعلام من القاعدة)، وlint (فحص الجودة)
• احتسب المؤلف تكلفة ingest على نموذج Yandex Foundation Models

يتيح بناء سير العمل حول ثلاث عمليات منفصلة — ingest وquery وlint — توزيعَ المسؤوليات: فتحميل المواد الجديدة، والرجوع إلى المعارف المتراكمة، وفحص جودتها، كلها خطوات مستقلة وليست عملية واحدة متراصّة.

ما الفرق عن RAG التقليدي؟

يبحث نهج RAG التقليدي مع كل طلب من جديد عن المقاطع ذات الصلة في قاعدة المستندات ويضعها في الـ prompt، فلا يتذكّر النموذج شيئًا بين الجلسات، ويضطر المستخدم إلى إعادة بناء السياق من الصفر في كل مرة. أما في LLM Wiki فيحدث العكس: يُكمل النموذج الـ vault ويُنظّمه تدريجيًا، ونتيجة كل طلب لا تجيب المستخدم فحسب، بل تستقر أيضًا في قاعدة المعرفة على شكل طبقة wiki مستقلة يمكن إعادة استخدامها في الطلبات اللاحقة دون إعادة شرح السياق.

يعرض المؤلف في مقاله بنية الـ vault نفسها وأمثلة على شكل طبقة wiki هذه عمليًا، ويقارن النهج الناتج بـ RAG التقليدي من حيث سهولة الاستخدام والتكلفة. وبحسب وصفه، لا يكمن الفرق الجوهري في المصدر الذي يستمد منه النموذج الحقائق، بل فيما يحدث للإجابة بعد الحصول عليها: ففي RAG التقليدي تضيع الإجابة بانتهاء الجلسة، أما في LLM Wiki فتبقى جزءًا من القاعدة للرجوع إليها لاحقًا.

ما مخاطر هذا النهج؟

يتناول المؤلف على نحو مستقل المخاطر التي تظهر سريعًا عند تطبيق هذا النهج، ومنها تكلفة ingest المستمر للمواد الجديدة، والحاجة إلى عملية lint منفصلة كي لا تتدهور قاعدة المعرفة ولا تتراكم فيها سجلات متناقضة مع نموّها.

وقد احتسب المؤلف تكلفة ingest على نموذج بعينه — Yandex Foundation Models — لا بصورة مجرّدة، وهو ما يدل على محاولة لتقدير اقتصاديات النهج عمليًا، لا الاكتفاء بوصف بنيته نظريًا.

ماذا يعني ذلك

يقدّم سير عمل LLM Wiki بديلًا عن RAG التقليدي: فبدلًا من إعادة بناء السياق في كل مرة من مستندات خام، يحافظ النموذج على قاعدة معرفة حيّة تُحدَّث باستمرار. وقد يقلّل ذلك عدد الرموز (tokens) التي تُنفق على شرح السياق، لكنه يتطلب رقابة جودة منفصلة عبر lint كي تبقى القاعدة موثوقة.

وبالنسبة إلى من يعملون مع LLM على مجموعات كبيرة من الأسئلة المتكررة — سواء كانت قاعدة معرفة شخصية في Obsidian أو وثائق مؤسسية — يُظهر هذا النهج طريقًا عمليًا لخفض تكاليف تكرار السياق نفسه في الـ prompts.