لماذا تكذب نماذج LLM وتنسى الحقائق: تحليل لآليات الذاكرة في النماذج اللغوية

تبدو النماذج اللغوية أكثر فأكثر كخبراء واثقين من أنفسهم، وتتبيّن أكثر فأكثر أخطاؤها في التفاصيل. لماذا يحدث ذلك؟ وأين يكمن جذر المشكلة في بنية LLM؟ وهل يمكن إصلاحها؟

يتعامل معظم المستخدمين مع النموذج اللغوي على أنه قاعدة معرفة بداخلها محرك بحث: يطرحون سؤالًا فيحصلون على إجابة من مخزن المعلومات. لكن الواقع مختلف تمامًا. فالنموذج اللغوي آلة إحصائية تتنبأ بالرمز (التوكن) التالي. هو لا يحفظ الحقائق بالمعنى المعتاد، فالمعرفة مُرمَّزة في أوزان الشبكة العصبية، مضغوطة وممزوجة بمليارات البيانات الأخرى. وحين يجيب النموذج، فهو لا يستخرج سجلًّا محددًا من جدول، بل يولّد نصًا هو الأكثر معقولية وفق الإحصاءات التي تدرّب عليها.

من هذا الاختلاف الجوهري تنبع أربعة أسباب رئيسية للأخطاء.

السبب الأول هو ضغط المعلومات أثناء التدريب. تخيّلوا أنكم قرأتم آلاف المقالات ثم أعدتم سردها من الذاكرة بعد عام. ستضيع الأرقام والأسماء الدقيقة ويبقى المعنى العام. والنموذج يفعل شيئًا مشابهًا، لكن على نطاق مئات المليارات من المعاملات. فقد لا تُرمَّز حقيقة محددة، كتاريخ دقيق أو اسم شخصية ثانوية، بوضوح كافٍ، وعندها يضع النموذج عند التوليد قيمة قريبة إحصائيًا لكنها خاطئة. هذا ليس خداعًا، بل حدّ لدقة الذاكرة.

السبب الثاني هو محدودية نافذة السياق. كل ما يراه النموذج لحظة الإجابة هو المحادثة الحالية مضافًا إليه ما استوعبته النافذة. تتراوح نوافذ النماذج الحديثة بين 8 و200 ألف توكن، وهذا يبدو كثيرًا، لكنها تمتلئ بسرعة في الحوارات الطويلة والمستندات الضخمة والمهام ذات السجل الممتد. وحين تخرج المعلومات القديمة عن حدود النافذة، لا يراها النموذج ببساطة. فهو لا ينسى بالمعنى البشري، بل لم يعرف أصلًا ما ليس موجودًا في النافذة الآن.

السبب الثالث هو غياب الذاكرة الخارجية افتراضيًا. فنموذج LLM التقليدي، دون أدوات إضافية، لا يستطيع الرجوع إلى قاعدة بيانات أو محرك بحث أو محادثاتكم السابقة معه. كل محادثة جديدة صفحة بيضاء. ولهذا فإن النموذج الذي أخبرتموه بشيء مهم قبل أسبوع لن يتذكره اليوم. وتعالج أنظمة RAG (التوليد المعزَّز بالاسترجاع) المشكلة جزئيًا: فهي تجلب قبل توليد الإجابة مستندات ذات صلة من مخزن خارجي وتمرّرها إلى السياق. لكن هذه إضافة معمارية، وليست خاصية أساسية في النموذج اللغوي.

السبب الرابع هو الأخطاء والتناقضات في بيانات التدريب. فالإنترنت مليء بالمعلومات غير الدقيقة والبيانات القديمة والمصادر المتناقضة. يتدرّب النموذج على هذا الكمّ فيكتسب المعارف والمغالطات معًا. وحين تظهر الحقيقة الصحيحة في البيانات بوتيرة أقل من الخاطئة، يعيد النموذج على الأرجح إنتاج المغالطة الشائعة. وأكثر ما يتأثر بذلك التواريخ التاريخية وأسماء المؤسسات والمصطلحات المتخصصة، إذ تحتوي بيانات التدريب فيها على أخطاء أكثر من غيرها.

ماذا يعني ذلك للمستخدم؟ أولًا، لا يجوز اعتماد النموذج اللغوي مصدرًا نهائيًا للادعاءات الواقعية، خصوصًا ما يتعلق بالتواريخ والأسماء والأرقام والبيانات القانونية والطبية. ثانيًا، كلما كان طلبكم أدق وأكثر تفصيلًا وسياقًا، ضاقت المساحة المتاحة أمام النموذج للتخمين. ثالثًا، يجب على المنتجات المبنية على LLM التي تتطلب دقة عالية أن تعتمد RAG أو أدوات تصل إلى بيانات محدّثة، وبدون ذلك يبقى خطر الأخطاء المنهجية قائمًا بنيويًا.

فهم هذه الآليات لا يقلّل من فائدة نماذج LLM، بل يجعلكم مستخدمين أكثر وعيًا. فالنموذج لا يكذب عن عمد. هو ببساطة يولّد ما هو معقول إحصائيًا بناءً على الأوزان التي تدرّب عليها. والمعقول ليس هو الصحيح.