Habr AI: لماذا تشبه هلوسات LLM خللًا بشريًا في التفكير لا خطأً رياضيًا
يقترح المقال النظر إلى هلوسات LLM لا بوصفها خطأً رياضيًا فحسب، بل أيضًا انعكاسًا لأخطاء التفكير البشرية المألوفة. ويدور النص حول مثال يخرج فيه الإنسان نفسه عن إطار مهمة بسيطة ويقدم بثقة، وبشكل شبه تلقائي، إجابة خاطئة. والخلاصة عملية: لا تُعالَج المشكلة بتقنية RAG والمرشِّحات وحدها، بل أيضًا بالقدرة على توضيح الطلب في الوقت المناسب حين يتفكك السياق.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
نشر Habr AI مقالًا يرى أن هلوسات النماذج لا ينبغي التعامل معها كعيب هندسي فحسب، بل كانعكاس لأخطاء التفكير البشرية المألوفة. وينظر الكاتب إلى المشكلة بعين الطبيب الإكلينيكي: فبدل الاستياء، يقترح تحليل الموضع الذي يفقد فيه النظام إطار المهمة، وسبب تقديمه إجابة خاطئة بثقة.
لماذا يثير هذا كل هذا الانزعاج
يكون رد الفعل على هلوسات LLM حادًا عادةً: يتوقع المستخدم أن يلتزم النموذج بالسياق، فيحصل على صياغة واثقة لكنها خاطئة. وقد احتمى المطورون طويلًا بمجموعة التفسيرات التقليدية مثل GIGO وRTFM، ثم بدأوا بتعزيز منتجاتهم عبر RAG وقيود إضافية. لكن الشكوى نفسها لم تختفِ: فالمرء يتوقع من الآلة سلوك محاور «سليم» لا يفقد خيط الحديث ولا يختلق الوقائع أثناء الكلام.
يقلب المقال هذا المنطق. يكتب المؤلف أن أولى إخفاقات الشبكة العصبية لم تدهشه، لأن التعامل مع اضطرابات التفكير جزء معتاد من عمله في الممارسة الإكلينيكية. ومن هنا الفرضية الأساسية: ينشأ الانزعاج لا من الخطأ بحد ذاته فحسب، بل من توقع مبالغ فيه بأن يفكر الذكاء الاصطناعي بصورة أنقى وأكثر انضباطًا من الإنسان.
- يتوقع المستخدم اتباعًا حرفيًا للتعليمات
- يذكّر المهندس بجودة بيانات الإدخال
- تضيف فرق المنتج RAG والمرشِّحات وآليات التحقق
- لكن النموذج نفسه يظل يرث أنماط الأخطاء المألوفة
خلل في «الشبكة العصبية البروتينية»
أقوى جزء في النص مثال من الحياة اليومية يخطئ فيه الإنسان لا النموذج. يعرض الكاتب مقدمة بسيطة: «في جواز السفر أنا أولغا. وفي البيت يسمونني أليونا. اختر واحدًا من الاسمين». رسميًا لا يوجد سوى خيارين، لكن «الشبكة العصبية البروتينية» كثيرًا ما تجيب: «أنت لينا». وهكذا، في رأي الكاتب، يبدو عطل هندسة الأوامر (prompt engineering) البشرية في مهمة بالغة البساطة.
مغزى المثال أن الدماغ لا يحب الاحتفاظ طويلًا بقيود متناقضة. فبدل الاختيار الصارم من مجموعة محددة، ينجرف سريعًا إلى التداعيات: أليونا، يلينا، لينا، ويضع الإجابة المعتادة إحصائيًا. لا ينشأ الخطأ عن سوء نية ولا عن عدم فهم تام للغة، بل عن الرغبة في اختصار الطريق إلى استنتاج «معقول». ولذلك فإن الاتهام القائل إن «الشبكة العصبية تتجاهل السياق» يعود، بمعنى ما، إلى الإنسان أيضًا.
ما الذي ينكسر في الرأس
يصف المؤلف هذا الخلل بأنه constraint violation، أي انتهاك لمعطيات المهمة. فإذا نظرنا إليه من زاوية علم النفس، يتخلص الدماغ من الأمر الأصلي (prompt)، ويستخرج أسهل خيار ترابطي، ويقدمه بثقة تامة. وبمصطلحات التحيزات المعرفية، يذكّر هذا بـjumping to conclusions، أي القفز إلى النتيجة دون التحقق الكافي من الشروط. وبالنسبة لقارئ من صناعة الذكاء الاصطناعي، يبدو هذا قريبًا من خلل مألوف في LLM: كان القيد موجودًا، لكن النظام لم يحتفظ به حتى نهاية التوليد.
«الذكاء الاصطناعي ليس معطوبًا. ربما أعدنا ببساطة إنتاج عطلنا الخاص».
الاستنتاج العملي لدى الكاتب واقعي على نحو غير متوقع. فبعض هذه الأخطاء لا يُعالَج بحيل معمارية جديدة فحسب، بل بانضباط سليم في التفاعل. وإذا كانت المهمة غير واضحة، فالأفضل ألا يخمّن المرء بل يعيد السؤال. وهذا المنطق ينطبق على البشر والنماذج معًا: كلما كانت الأطر محددة بشكل أفضل، قل احتمال أن تنحرف الإجابة إلى ارتجال واثق. ولهذا بالذات لا يصح اختزال الجدل حول الهلوسات في سؤال «هل في النظام بيانات كافية».
ماذا يعني هذا
تكمن فائدة المقال في أنه ينزع عن الموضوع دراما زائدة. فهلوسات LLM تبقى مشكلة منتجية جدية، لكن المنظور الإكلينيكي يبيّن أن جزءًا من طبيعتها قد يكون أقرب إلى الاختصارات المعرفية (cognitive shortcuts) البشرية منه إلى «جنون» غامض للآلة. وهذه حجة للمطورين لا لتحسين النماذج وآليات الاسترجاع (retrieval) فحسب، بل لتصميم واجهات يكون فيها توضيح الطلب أسهل على النظام من الوقوع في خطأ أنيق. أما بالنسبة للمستخدمين، فهو تذكير بأن النبرة الواثقة لا تعني الفهم.
- 29 أبريل 2026Saiga Llama 3 8B على 10 غيغابايت من VRAM: كيف حقق مستخدمو Habr دقة 93% في تلخيص «الحرب والسلم»
- 30 أبريل 2026ChatGPT 5.4 من OpenAI يتفوق على Claude Opus 4.6 وGemini 3.1 Pro في مقارنة نُشرت على Habr
- 2 مايو 2026ما هو RAG: كيف يتوقف ChatGPT والشبكات العصبية عن ارتكاب الأخطاء
- 30 أبريل 2026كاتب على Habr AI يقترح بناء ذكاء اصطناعي حتمي على MacBook Air بدلًا من سباق وحدات GPU
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول لماذا يثير هذا كل هذا الانزعاج؟
يكون رد الفعل على هلوسات LLM حادًا عادةً: يتوقع المستخدم أن يلتزم النموذج بالسياق، فيحصل على صياغة واثقة لكنها خاطئة. وقد احتمى المطورون طويلًا بمجموعة التفسيرات التقليدية مثل GIGO وRTFM، ثم بدأوا بتعزيز منتجاتهم عبر RAG وقيود إضافية. لكن الشكوى نفسها لم تختفِ: فالمرء يتوقع من الآلة سلوك محاور «سليم» لا يفقد خيط الحديث ولا يختلق الوقائع أثناء الكلام. يقلب المقال هذا المنطق. يكتب المؤلف أن أولى إخفاقات الشبكة العصبية لم تدهشه، لأن التعامل مع اضطرابات التفكير جزء معتاد من عمله في الممارسة الإكلينيكية.
ما أبرز التفاصيل حول خلل في «الشبكة العصبية البروتينية»؟
أقوى جزء في النص مثال من الحياة اليومية يخطئ فيه الإنسان لا النموذج. يعرض الكاتب مقدمة بسيطة: «في جواز السفر أنا أولغا. وفي البيت يسمونني أليونا. اختر واحدًا من الاسمين». رسميًا لا يوجد سوى خيارين، لكن «الشبكة العصبية البروتينية» كثيرًا ما تجيب: «أنت لينا». وهكذا، في رأي الكاتب، يبدو عطل هندسة الأوامر (prompt engineering) البشرية في مهمة بالغة البساطة. مغزى المثال أن الدماغ لا يحب الاحتفاظ طويلًا بقيود متناقضة.
ما أبرز التفاصيل حول ما الذي ينكسر في الرأس؟
يصف المؤلف هذا الخلل بأنه constraint violation، أي انتهاك لمعطيات المهمة. فإذا نظرنا إليه من زاوية علم النفس، يتخلص الدماغ من الأمر الأصلي (prompt)، ويستخرج أسهل خيار ترابطي، ويقدمه بثقة تامة. وبمصطلحات التحيزات المعرفية، يذكّر هذا بـjumping to conclusions، أي القفز إلى النتيجة دون التحقق الكافي من الشروط. وبالنسبة لقارئ من صناعة الذكاء الاصطناعي، يبدو هذا قريبًا من خلل مألوف في LLM: كان القيد موجودًا، لكن النظام لم يحتفظ به حتى نهاية التوليد. «الذكاء الاصطناعي ليس معطوبًا. ربما أعدنا ببساطة إنتاج عطلنا الخاص».
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.