ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

Habr AI: لماذا تشبه هلوسات LLM خللًا بشريًا في التفكير لا خطأً رياضيًا

يقترح المقال النظر إلى هلوسات LLM لا بوصفها خطأً رياضيًا فحسب، بل أيضًا انعكاسًا لأخطاء التفكير البشرية المألوفة. ويدور النص حول مثال يخرج فيه الإنسان نفسه عن إطار مهمة بسيطة ويقدم بثقة، وبشكل شبه تلقائي، إجابة خاطئة. والخلاصة عملية: لا تُعالَج المشكلة بتقنية RAG والمرشِّحات وحدها، بل أيضًا بالقدرة على توضيح الطلب في الوقت المناسب حين يتفكك السياق.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
Habr AI: لماذا تشبه هلوسات LLM خللًا بشريًا في التفكير لا خطأً رياضيًا
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1يتوقع المستخدم اتباعًا حرفيًا للتعليمات
حقيقة رئيسية #2يذكّر المهندس بجودة بيانات الإدخال
حقيقة رئيسية #3تضيف فرق المنتج RAG والمرشِّحات وآليات التحقق

نشر Habr AI مقالًا يرى أن هلوسات النماذج لا ينبغي التعامل معها كعيب هندسي فحسب، بل كانعكاس لأخطاء التفكير البشرية المألوفة. وينظر الكاتب إلى المشكلة بعين الطبيب الإكلينيكي: فبدل الاستياء، يقترح تحليل الموضع الذي يفقد فيه النظام إطار المهمة، وسبب تقديمه إجابة خاطئة بثقة.

لماذا يثير هذا كل هذا الانزعاج

يكون رد الفعل على هلوسات LLM حادًا عادةً: يتوقع المستخدم أن يلتزم النموذج بالسياق، فيحصل على صياغة واثقة لكنها خاطئة. وقد احتمى المطورون طويلًا بمجموعة التفسيرات التقليدية مثل GIGO وRTFM، ثم بدأوا بتعزيز منتجاتهم عبر RAG وقيود إضافية. لكن الشكوى نفسها لم تختفِ: فالمرء يتوقع من الآلة سلوك محاور «سليم» لا يفقد خيط الحديث ولا يختلق الوقائع أثناء الكلام.

يقلب المقال هذا المنطق. يكتب المؤلف أن أولى إخفاقات الشبكة العصبية لم تدهشه، لأن التعامل مع اضطرابات التفكير جزء معتاد من عمله في الممارسة الإكلينيكية. ومن هنا الفرضية الأساسية: ينشأ الانزعاج لا من الخطأ بحد ذاته فحسب، بل من توقع مبالغ فيه بأن يفكر الذكاء الاصطناعي بصورة أنقى وأكثر انضباطًا من الإنسان.

  • يتوقع المستخدم اتباعًا حرفيًا للتعليمات
  • يذكّر المهندس بجودة بيانات الإدخال
  • تضيف فرق المنتج RAG والمرشِّحات وآليات التحقق
  • لكن النموذج نفسه يظل يرث أنماط الأخطاء المألوفة

خلل في «الشبكة العصبية البروتينية»

أقوى جزء في النص مثال من الحياة اليومية يخطئ فيه الإنسان لا النموذج. يعرض الكاتب مقدمة بسيطة: «في جواز السفر أنا أولغا. وفي البيت يسمونني أليونا. اختر واحدًا من الاسمين». رسميًا لا يوجد سوى خيارين، لكن «الشبكة العصبية البروتينية» كثيرًا ما تجيب: «أنت لينا». وهكذا، في رأي الكاتب، يبدو عطل هندسة الأوامر (prompt engineering) البشرية في مهمة بالغة البساطة.

مغزى المثال أن الدماغ لا يحب الاحتفاظ طويلًا بقيود متناقضة. فبدل الاختيار الصارم من مجموعة محددة، ينجرف سريعًا إلى التداعيات: أليونا، يلينا، لينا، ويضع الإجابة المعتادة إحصائيًا. لا ينشأ الخطأ عن سوء نية ولا عن عدم فهم تام للغة، بل عن الرغبة في اختصار الطريق إلى استنتاج «معقول». ولذلك فإن الاتهام القائل إن «الشبكة العصبية تتجاهل السياق» يعود، بمعنى ما، إلى الإنسان أيضًا.

ما الذي ينكسر في الرأس

يصف المؤلف هذا الخلل بأنه constraint violation، أي انتهاك لمعطيات المهمة. فإذا نظرنا إليه من زاوية علم النفس، يتخلص الدماغ من الأمر الأصلي (prompt)، ويستخرج أسهل خيار ترابطي، ويقدمه بثقة تامة. وبمصطلحات التحيزات المعرفية، يذكّر هذا بـjumping to conclusions، أي القفز إلى النتيجة دون التحقق الكافي من الشروط. وبالنسبة لقارئ من صناعة الذكاء الاصطناعي، يبدو هذا قريبًا من خلل مألوف في LLM: كان القيد موجودًا، لكن النظام لم يحتفظ به حتى نهاية التوليد.

«الذكاء الاصطناعي ليس معطوبًا. ربما أعدنا ببساطة إنتاج عطلنا الخاص».

الاستنتاج العملي لدى الكاتب واقعي على نحو غير متوقع. فبعض هذه الأخطاء لا يُعالَج بحيل معمارية جديدة فحسب، بل بانضباط سليم في التفاعل. وإذا كانت المهمة غير واضحة، فالأفضل ألا يخمّن المرء بل يعيد السؤال. وهذا المنطق ينطبق على البشر والنماذج معًا: كلما كانت الأطر محددة بشكل أفضل، قل احتمال أن تنحرف الإجابة إلى ارتجال واثق. ولهذا بالذات لا يصح اختزال الجدل حول الهلوسات في سؤال «هل في النظام بيانات كافية».

ماذا يعني هذا

تكمن فائدة المقال في أنه ينزع عن الموضوع دراما زائدة. فهلوسات LLM تبقى مشكلة منتجية جدية، لكن المنظور الإكلينيكي يبيّن أن جزءًا من طبيعتها قد يكون أقرب إلى الاختصارات المعرفية (cognitive shortcuts) البشرية منه إلى «جنون» غامض للآلة. وهذه حجة للمطورين لا لتحسين النماذج وآليات الاسترجاع (retrieval) فحسب، بل لتصميم واجهات يكون فيها توضيح الطلب أسهل على النظام من الوقوع في خطأ أنيق. أما بالنسبة للمستخدمين، فهو تذكير بأن النبرة الواثقة لا تعني الفهم.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول لماذا يثير هذا كل هذا الانزعاج؟

يكون رد الفعل على هلوسات LLM حادًا عادةً: يتوقع المستخدم أن يلتزم النموذج بالسياق، فيحصل على صياغة واثقة لكنها خاطئة. وقد احتمى المطورون طويلًا بمجموعة التفسيرات التقليدية مثل GIGO وRTFM، ثم بدأوا بتعزيز منتجاتهم عبر RAG وقيود إضافية. لكن الشكوى نفسها لم تختفِ: فالمرء يتوقع من الآلة سلوك محاور «سليم» لا يفقد خيط الحديث ولا يختلق الوقائع أثناء الكلام. يقلب المقال هذا المنطق. يكتب المؤلف أن أولى إخفاقات الشبكة العصبية لم تدهشه، لأن التعامل مع اضطرابات التفكير جزء معتاد من عمله في الممارسة الإكلينيكية.

ما أبرز التفاصيل حول خلل في «الشبكة العصبية البروتينية»؟

أقوى جزء في النص مثال من الحياة اليومية يخطئ فيه الإنسان لا النموذج. يعرض الكاتب مقدمة بسيطة: «في جواز السفر أنا أولغا. وفي البيت يسمونني أليونا. اختر واحدًا من الاسمين». رسميًا لا يوجد سوى خيارين، لكن «الشبكة العصبية البروتينية» كثيرًا ما تجيب: «أنت لينا». وهكذا، في رأي الكاتب، يبدو عطل هندسة الأوامر (prompt engineering) البشرية في مهمة بالغة البساطة. مغزى المثال أن الدماغ لا يحب الاحتفاظ طويلًا بقيود متناقضة.

ما أبرز التفاصيل حول ما الذي ينكسر في الرأس؟

يصف المؤلف هذا الخلل بأنه constraint violation، أي انتهاك لمعطيات المهمة. فإذا نظرنا إليه من زاوية علم النفس، يتخلص الدماغ من الأمر الأصلي (prompt)، ويستخرج أسهل خيار ترابطي، ويقدمه بثقة تامة. وبمصطلحات التحيزات المعرفية، يذكّر هذا بـjumping to conclusions، أي القفز إلى النتيجة دون التحقق الكافي من الشروط. وبالنسبة لقارئ من صناعة الذكاء الاصطناعي، يبدو هذا قريبًا من خلل مألوف في LLM: كان القيد موجودًا، لكن النظام لم يحتفظ به حتى نهاية التوليد. «الذكاء الاصطناعي ليس معطوبًا. ربما أعدنا ببساطة إنتاج عطلنا الخاص».

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…