مطوّر هاوٍ يبني على T4 روبوت RAG يجيب من كتب الدراسات الاجتماعية للصفين 9 و10

مع العام الدراسي الجديد تنتقل المدارس إلى كتب موحدة لمادة الدراسات الاجتماعية، ويُراجَع جواب الطالب على نص الكتاب لا على المنطق السليم العام. وتناسب هذا النمط بنية RAG الكلاسيكية: فالروبوت لا يجيب «من عنده»، بل يستخرج مقاطع من الكتاب ويجيب بالاستناد إليها. وقد بنى كاتب منشور على هابر نموذجًا أوليًا كهذا لكتب الصفين 9 و10. يذكر النموذج الصفحة التي أُخذت منها الإجابة، ويعمل على بطاقة الرسوميات المجانية Nvidia T4 بذاكرة 16 غيغابايت.

مكوّنات النموذج الأولي

المنظومة مفتوحة المصدر بالكامل وتتسع لمسرّع واحد. يتولى pymupdf4llm تحليل ملفات PDF، فيحوّل الصفحات إلى Markdown منظَّم ويحافظ على بنية العناوين والفقرات. وهذا مهم في الكتاب المدرسي، فالدروس والتعريفات والمربعات الجانبية تحمل المعنى، وإذا قُطِّع النص دون مراعاتها بدأ البحث يُرجع أجزاءً مبتورة.

بعد ذلك تعمل الحلقة المعتادة. يحسب multilingual-e5-large التضمينات، ويتولى FAISS بناء الفهرس والبحث عن أقرب المقاطع. أما صياغة الإجابة فتعود إلى Qwen2.5-3B، وهو نموذج صغير من Alibaba بحجم 3 مليارات معامل.

• تحليل PDF: pymupdf4llm
• البحث المتجهي: FAISS
• التضمينات: multilingual-e5-large (نحو 560 مليون معامل، ومتجه بأبعاد 1024)
• التوليد: Qwen2.5-3B
• العتاد: Nvidia T4 بذاكرة رسوميات 16 غيغابايت، عبر الباقة المجانية من الدفاتر السحابية
• المدونة: كتب الدراسات الاجتماعية للصفين 9 و10

لماذا الإحالة إلى الصفحة تحديدًا

وظيفة الروبوت الرئيسية ليست التلخيص بل نسبة المعلومة إلى مصدرها. فإذا كان التقييم يعتمد على صياغات كتاب بعينه، فالطالب والمعلم لا يحتاجان إلى جواب «معقول»، بل إلى جواب يمكن التحقق منه. ويحوّل رقم الصفحة مخرجات النموذج إلى إرشاد يمكن فتحه ومقارنته بالكتاب في ثوانٍ. وبالنسبة إلى نموذج بـ 3 مليارات معامل، فهذا أيضًا شبكة أمان. فمثل هذه النماذج تخلط التفاصيل وتختلق ما ينقصها بوتيرة أعلى بوضوح عندما يقل السياق. والربط الصارم بالمقاطع المسترجعة يقلل هذا الخطر، لكنه لا يزيله تمامًا.

اختيار النموذج مفهوم أيضًا. يشغل Qwen2.5-3B بنصف الدقة نحو 6 غيغابايت، ويحتاج نموذج التضمين إلى نحو 1 غيغابايت إضافية، فيتسع الاثنان على T4 مع هامش للسياق. ولا يزال E5 متعدد اللغات خيارًا شائعًا للغة الروسية بين نماذج التضمين المفتوحة. وهو يتطلب بادئتَي query وpassage، وبدونهما تتراجع جودة البحث.

ولا تتضمن المادة المنشورة أي قياسات: لا نسبة للإجابات الصحيحة، ولا دقة البحث، ولا سرعة التوليد. لذلك ينبغي تقييم النموذج الأولي حاليًا بوصفه منظومة عاملة، لا منتجًا جرى التحقق منه.

كيف تكرر التجربة وما الذي تراقبه

إذا أردت بناء منظومة مشابهة على موادك التعليمية، فالترتيب كالتالي:

• حوّل PDF إلى Markdown وافحص يدويًا عدة صفحات تحتوي على جداول ومخططات وهوامش. فهناك تتعطل أدوات التحليل في أغلب الأحيان.
• قطّع النص وفق الكتل ذات المعنى (الدرس، البند) لا وفق عدد ثابت من الأحرف، واحفظ رقم الصفحة في البيانات الوصفية. بدون ذلك يستحيل الاستشهاد بالمصدر.
• أعدّ مجموعة صغيرة من أسئلة الاختبار، مثلًا 50–100 سؤال، مع الصفحات المرجعية. وبها يسهل قياس ما إذا كان المقطع المطلوب يقع ضمن أفضل 3 أو أفضل 5 نتائج، وذلك قبل ربط مرحلة التوليد.
• اطلب في الموجّه (prompt) أن يجيب النموذج فقط بالاعتماد على السياق المسترجع، وأن يصرّح بصدق: «هذا غير موجود في الكتاب». ففي السيناريو المدرسي يكون الامتناع عن الإجابة أفضل من صياغة مختلقة.
• إذا لم تكفِ جودة نموذج 3B، فالخطوة التالية واضحة: نموذج بحجم 7–8 مليارات معامل بتكميم 4 بت يتسع هو أيضًا على T4.

التحليل الكامل مع الشيفرة متاح في المقال الأصلي على هابر. والفكرة نفسها لافتة. فالدافع إلى استخدام RAG هنا ليس الموضة، بل تغيّر قواعد التقييم: عندما يجب أن يطابق الجواب نصًا محددًا، تأتي الحاجة إلى البحث في المصدر قبل الحاجة إلى توليد «ذكي».