Habr AI: ثماني شكاوى شائعة من الشبكات العصبية — من الهلوسات إلى إخفاقات الوكلاء

نشر Habr AI تحليلاً غير معتاد لتجربة المستخدمين مع الشبكات العصبية: جمعت الكاتبة على مدى عام ونصف إلى عامين شكاوى من مجموعات Telegram المتخصصة، وصنّفتها في ثماني مجموعات متكررة. والنتيجة ليست عملاً أكاديمياً، بل خريطة حيّة لمواضع تعطيل نماذج LLM لسير العمل والميزانية والأعصاب.

كيف يجادل الناس الذكاء الاصطناعي

الملاحظة الرئيسية في هذا النص ليست تقنية، بل إنسانية. فالمستخدمون ينتقدون النماذج كأنهم يتجادلون مع زميل لا مع برنامج: الشبكات العصبية «تكذب» و«تتكاسل» و«تمارس التلاعب النفسي (gaslighting)» و«لا تصغي» و«تتدخل فيما لا يعنيها». وتلاحظ الكاتبة أن المستخدمين لا يتفاعلون بهذه الطريقة تقريباً مع البرمجيات العادية. ويغيّر إضفاء الطابع البشري هذا التوقعات أيضاً: إذ ينتظر الناس من النموذج فهم السياق والذاكرة والحس السليم، مع أنه في جوهره مجرد تنبؤ بالرمز (token) التالي، لا تصوّر متكامل عن العالم.

«النماذج تعلّمت منّا، والآن نحن نتعلم منها».

ومن هنا ينشأ الجزء الثاني من المشكلة. فكلما بدت الواجهة أكثر ودّاً وتعاطفاً، سهل على المستخدم أن يسترخي ويمنح النموذج ثقة زائدة، بل وينقل إليه عادات التواصل مع البشر. ومن ذلك تنشأ تقلبات عاطفية حادة: اليوم توفّر الشبكة العصبية الوقت وتبدو مساعداً شبه مثالي، وغداً تفسد المهمة بمبادرة زائدة واحدة. وفي المقال يظهر هذا كتجربة جماعية واسعة، لا كحالات استثنائية نادرة.

أين تتعثر النماذج

تتعلق أكبر مجموعة من الشكاوى بالأخطاء الواثقة. فقد يقدّم النموذج إجابة محددة ومعقولة الظاهر حتى حين تنقصه البيانات، وفي الحوارات الطويلة قد يخلط بين المشاريع والمستندات والتعليمات القديمة. وتفرد الكاتبة بنداً مستقلاً للتكلفة: فحتى الباقات «غير المحدودة» لها حدود خفية، واستهلاك الرموز (tokens) يصعب التنبؤ به. والنتيجة أن الشبكات العصبية توفّر الوقت وتخلق في الوقت نفسه مخاطر تشغيلية جديدة يصعب احتسابها مسبقاً.

• الهلوسات الواثقة (~32%) — يولّد النموذج إجابة محتملة ولا يستخرج الحقيقة من قاعدة بيانات، لذلك يختلق التفاصيل بسهولة.
• المبادرة الزائدة (~13%) — تدفع الرغبة في أن تكون مفيدة النظام إلى فعل أكثر مما طُلب منه، بما في ذلك إجراءات خطرة.
• مشكلات الذاكرة (~11%) — تفقد المحادثات الطويلة وسط السياق، فتبدأ البيانات من المستندات والرسائل السابقة بالاختلاط.
• الوكلاء و«vibe coding» (~10–12%) — في المهام الكبيرة وقواعد الشيفرة الضخمة تتراكم الأخطاء، وتتحول النتيجة الجميلة سريعاً إلى فوضى.
• المال والتأثيرات السلوكية (~7–8%) — تتغير الحدود، وتُستهلك الرموز بشكل غير منتظم، ويزداد تعلق المستخدمين بالنماذج.

والخلاصة العملية لدى الكاتبة واقعية إلى حد بعيد: الاعتماد أقل على «الفهم السحري» وبناء دعائم خارجية حول النموذج بوتيرة أكبر. وهذا يعني محادثات قصيرة موجّهة، ومستندات بصيغة Markdown تُعاد قراءتها من جديد، واستخدام الاسترجاع (retrieval) بدل التوليد المجرد، ودرجة حرارة (temperature) منخفضة في المهام الوقائعية، وتدقيقاً بشرياً إلزامياً حيث قد يكلّف الخطأ مالاً أو بيانات أو وقت الفريق أو السمعة. وإلا فإن كل جلسة جديدة ستعيد اختراع قواعد العمل من الصفر.

لماذا يثير الطابع الوكيلي الغضب

يخصّص المقال قسماً مستقلاً للوكلاء و«vibe coding»، وهنا تبلغ لهجة النص أشدّ درجاتها. فالفكرة القائلة بتقسيم العمل بين «مهندس معماري» و«مبرمج» و«مختبِر» تعطي في الممارسة غالباً نتيجة عكسية: يرى كل وكيل جزءاً من السياق فقط، وتتباين القرارات بينهم، وتنتقل أخطاء الخطوة السابقة تلقائياً إلى ما بعدها. وفي المهام المستقلة ما زال هذا النهج يعمل، لكن في التطوير، حيث يرتبط كل شيء بكل شيء، تلتهم خسائر التنسيق بسهولة السرعة الموعودة. ومن هنا جاءت مجموعة قواعد الحماية: وضع القراءة فقط (read-only) للتحليل، وبوابات الموافقة (approval gates) قبل أي إجراء خطر، والنسخ الاحتياطية، وحظر صريح للحذف، ووثائق مشروع مشتركة لجميع المشاركين في العملية.

والمنطق نفسه ينطبق على التواصل العادي مع روبوتات الدردشة. فإذا بدأ المستخدم يعامل النموذج كمحاور «من أهله»، سلّمه أسرع ملاحظاته وبريده ومفاتيحه ومستنداته الداخلية. والمشكلة ليست في أن الذكاء الاصطناعي يفهم الإنسان فعلاً، بل في أنه يحاكي هذا الفهم بإقناع شديد.

ماذا يعني ذلك

تكمن فائدة نص Habr AI في أنه ينقل الحديث عن الذكاء الاصطناعي من وضع الانبهار إلى وضع التشغيل. والفكرة الرئيسية بسيطة: لقد أصبحت الشبكات العصبية أداة عمل، لكن ينبغي التعامل معها لا كزميل ذكي، بل كمنظومة قوية وغير مستقرة ومكلفة أحياناً، تحتاج دائماً إلى ضوابط ووثائق وتحكم في الصلاحيات وتدقيق بشري. وهذا بالضبط ما يميّز حزمة العمل الجادة عن اللعبة الخطرة.