أزمة الحقيقة في عصر LLM: لماذا يُعدّ مساعدك الذكي كاذبًا مرضيًّا

تخيّل أن صديقك الأذكى والأوسع اطلاعًا بدأ فجأة يخبرك بثقة مطلقة أن القمر مصنوع من الجبن السويسري، وأن نابليون انتصر في واترلو. والأسوأ أنه يفعل ذلك بإقناع يجعلك تشكّ في معارفك أنت. هذا بالضبط هو الموقف الذي وجدت فيه صناعة الذكاء الاصطناعي الحديثة نفسها. فقد واجهنا ما يسميه الخبراء «أزمة الحقيقة»، وهي أخطر بكثير من مجرد أخطاء في الأبحاث المدرسية.

لوقت طويل نظرنا إلى هلوسات الشبكات العصبية بوصفها مرض نمو مؤقتًا. بدا أن زيادة عدد المعلمات (parameters) وتغذية النموذج بمزيد من النصوص الجيدة كفيلة بأن تجعله يتوقف عن الكذب. لكن الواقع كان أقسى. فطبيعة النماذج اللغوية الكبيرة (LLM) نفسها تستبعد مفهوم «الحقيقة» بمعناها الإنساني. هذه الأنظمة آلات حاسبة إحصائية تتقن التلاعب بالرموز (tokens). فهي لا تعرف ما الجاذبية ولا ما التاريخ، وكل ما تعرفه هو أي الكلمات تقع عادةً بجوار بعضها. والنتيجة أداة تقدّم قابلية التصديق على الصدق.

وتتداخل هذه الأزمة مع القيود المادية لعالمنا. ففي غابات ميشيغان العليا، تقترب المنجم الوحيد العامل للنيكل في الولايات المتحدة من أيامه الأخيرة. والنيكل عنصر حيوي لإنتاج البطاريات والبنية التحتية التي تغذي مراكز البيانات نفسها التي تعيش فيها الشبكات العصبية. وكأننا نعصر الكوكب حتى آخر قطرة لنُبقي عاملةً أنظمةً تدسّ لنا بشكل متزايد نفايات رقمية بدل الحقائق. ويزداد التباين إثارة للقلق بين شحّ الموارد الحقيقية ووفرة المحتوى المشكوك فيه.

لماذا يهم هذا الآن تحديدًا؟ لأن الذكاء الاصطناعي لم يعد لعبة في روبوت محادثة. فـ Google تدمج AI Overviews مباشرة في البحث، وتطلق OpenAI منتج SearchGPT، وتأتمن الشركات الشبكات العصبية على صياغة الوثائق القانونية والتقارير الطبية. وعندما يخطئ الذكاء الاصطناعي في وصفة فطيرة فالأمر طريف. أما عندما يهلوس في سابقة قضائية أو في تشخيص مريض فالأمر كارثة. إننا نفوّض مهمة التحقق من الواقع إلى خوارزميات لا تستطيع، بحكم تعريفها، التمييز بين الحقيقة والخيال.

يحاول المطورون تصحيح الوضع عبر RAG (التوليد المعزَّز بالاسترجاع)، إذ يُجبرون الذكاء الاصطناعي على مطابقة إجاباته مع مصادر خارجية. لكن هنا أيضًا فخًّا: فالإنترنت يمتلئ بسرعة بنصوص ولّدها ذكاء اصطناعي آخر. وينشأ ما يشبه الأفعى التي تعضّ ذيلها. إذ تبدأ النماذج بالتعلم من هلوسات سابقاتها، مما يؤدي إلى تدهور الجودة وإلى طمس نهائي للقاعدة الواقعية. وإذا كنا في السابق نخشى الأخبار الزائفة التي يروّج لها دعاة من البشر، فإننا نخشى اليوم تشويهًا منهجيًا للواقع على مستوى الشيفرة.

وفي نهاية المطاف، تدفعنا أزمة الحقيقة إلى إعادة النظر في علاقتنا بالتكنولوجيا. فقد اعتدنا أن الحاسوب آلة حاسبة تعطي دائمًا «2+2=4». لكن النماذج اللغوية الكبيرة ليست آلات حاسبة، بل مرتجِلون. وإلى أن تجد الصناعة وسيلة لتزويد الشبكات العصبية بآلية تحقق موضوعي، سيتعين علينا العودة إلى عادتنا القديمة الجيدة: ألّا نصدّق أي كلام لمجرد قوله، حتى لو نطقت به أكثر الخوارزميات تطورًا في تاريخ البشرية.

الخلاصة: الهلوسات ليست خطأً تقنيًا، بل سمة جوهرية في البنية الحالية للذكاء الاصطناعي. فهل سنتمكن من الوثوق ببحث يولّد إجاباته استنادًا إلى الاحتمال لا إلى الوقائع، أم ينتظرنا العودة إلى عصر التحقق اليدوي من كل كلمة؟