كيف تبني روبوت RAG على معالج T4 لكتب التربية الاجتماعية: Qwen يحل محل البحث على الويب

نموذج صغير مزوَّد بسياق بدلًا من نموذج كبير متصل بالإنترنت

تعمل روسيا على إدخال كتب مدرسية موحدة على مستوى الدولة، وقرر أحد المتحمسين بناء مساعد لهذه الكتب. لا يبحث روبوت RAG عن إجابات أسئلة التربية الاجتماعية على الإنترنت ولا في أوزان النموذج العامة، بل في كتابين مدرسيين محمَّلين للصفين التاسع والعاشر.

لماذا هذا ضروري؟ في الدرس، تُمنح الدرجة على إجابة تطابق كتابًا محددًا، ولا تُمنح على إجابة فلسفية مستمدة من معرفة عامة. يقدم نموذج كبير تقليدي متصل بالإنترنت تفسيرًا صحيحًا، لكنه غير متطابق مع الكتاب المدرسي. لذلك هناك حاجة إلى بنية مختلفة: نموذج صغير يحصل على سياق قصير وضيق ولا ينجرف إلى استنتاجات عامة. تساعد درجة حرارة التوليد المنخفضة والتعليمة النظامية (system prompt) على البقاء قريبًا من النص. السياق المحدود لا يحرم النموذج من معرفته الأساسية، لكنه يحوّله إلى وضع البحث في مادة محددة بدلًا من التفكير في الموضوع بشكل عام.

خط المعالجة: من ملف PDF إلى الإجابة

المكدس التقني بسيط. تحلل أداة pymupdf4llm ملف PDF صفحة بصفحة وتحوّله إلى صيغة Markdown مع الحفاظ على الجداول والقوائم. تتعامل أداة MarkdownHeaderTextSplitter مع ثلاثة مستويات: الفصل (#) ← الفقرة (##) ← القسم الفرعي (###). يحتفظ كل جزء نصي بميتاداتا: الصف، رقم الفقرة، رقم الصفحة.

في تمرير ثانٍ، تقوم أداة RecursiveCharacterTextSplitter بضبط حجم القطعة عند 1000 وتراكب القطع عند 150، لتقسيم الأقسام الطويلة إلى قطع قابلة للمعالجة. تُرمّز متجهات intfloat/multilingual-e5-large النص، وتعمل قاعدة FAISS (faiss-cpu) في الذاكرة داخل Colab.

عندما يكتب المستخدم «أعطني إجابات أسئلة الفقرة 13 من الصف العاشر»، يستخرج تعبير نمطي (regular expression) الصف والرقم. تتحقق دالة smart_filter من تطابق الميتاداتا مع الطلب. تُعيد FAISS حتى أربعة أجزاء ذات صلة. وإذا لم يجد الفلتر الصارم شيئًا، يكرر الكود البحث بالاعتماد على الصف فقط — وقد يأتي السياق من فقرة أخرى.

تُجمَّع الأجزاء المسترجعة في سياق مصحوب بميتاداتا على الشكل [الصف العاشر | § 13 | الصفحة 45]، وتُرسَل إلى Qwen2.5-3B-Instruct مع تعليمة نظامية: الإجابة حصرًا بالاستناد إلى النص المقدَّم، وكتابة رقم الصفحة في النهاية. يعمل النموذج بدرجة حرارة توليد 0.1. وبعد كل إجابة، يُستدعى torch.cuda.empty_cache() لتحرير الذاكرة المخزَّنة مؤقتًا.

البنية التحتية، المشكلات، والخطط

النموذج: Qwen2.5-3B-Instruct (3 مليارات معامل). التكميم: 4 بت بصيغة NF4 عبر مكتبة bitsandbytes — وهذا ما يسمح للنموذج بالعمل ضمن ذاكرة معالج T4. المتجهات: intfloat/multilingual-e5-large. قاعدة البيانات المتجهية: FAISS (faiss-cpu) في الذاكرة الحية. البنية التحتية: Google Colab مع معالج T4 المجاني. يعمل كل هذا على جهاز واحد.

تنسيق الإجابات يظهر كصيغة Markdown خام (تبقى علامات ** ظاهرة). تُفقَد ميتاداتا الفقرة في الصفحات التي لا تحتوي عنوانًا: فإذا بدأت فقرة في الصفحة 139 واستمرت في الصفحة 140، تبقى أجزاء الصفحة الثانية دون ميتاداتا ولا تظهر في نتائج البحث عن تلك الفقرة بالتحديد. لا توجد مراجعة واقعية (fact-checking): لا يتحقق الروبوت من أن الجملة الواردة في الإجابة تطابق فعلًا السياق المسترجع. لا يُحفظ صف المستخدم بين الرسائل. قد يختلف رقم صفحة الملف عن الرقم المطبوع في النسخة الورقية.

يخطط الكاتب لتوسيع المشروع ليشمل التاريخ والأحياء. وفي السبرنتات (sprints) القادمة: ضبط تنسيق الإجابات، تنفيذ حفظ حالة الجلسة، إضافة تحقق من الإجابات قبل إرسالها، وحل مشكلة الميتاداتا المفقودة في الفقرات التي تمتد على عدة صفحات.