Habr AI: ثماني شكاوى شائعة بشأن نماذج AI — من الهلوسات إلى إخفاقات الوكلاء

نُشر على موقع هابر إيه آي تحليل غير معتاد لتجربة المستخدم مع الشبكات العصبية: جمعت المؤلفة خلال سنة ونصف إلى سنتين شكاوى من محادثات متخصصة على تليجرام وأدرجتها في ثماني مجموعات متكررة. النتيجة ليست دراسة أكاديمية، بل خريطة حية لحيث تعطل نماذج اللغة الكبيرة سير العمل والميزانيات والأعصاب.

كيف يجادل الناس مع الذكاء الاصطناعي

الملاحظة الرئيسية في هذا النص ليست تقنية، بل إنسانية. ينتقد المستخدمون النماذج كما لو كانوا يجادلون ليس مع برنامج، بل مع زميل: الشبكات العصبية "تكذب"، "كسولة"، "تمارس التلاعب النفسي"، "لا تستمع"، و"تتجاوز الحدود". تلاحظ المؤلفة أن البرامج العادية نادراً ما تثير مثل هذه الردود. يُغيّر هذا التشخيص البشري التوقعات: يتوقع الناس من النموذج فهم السياق والذاكرة والحس السليم، على الرغم من أن ما بداخله مجرد التنبؤ بالرمز التالي، وليس صورة كاملة للعالم.

"تعلمت النماذج منا، الآن نتعلم نحن منها."

من هذا تنشأ الجزء الثاني من المشكلة. كلما بدا الواجهة أكثر ودية وتعاطفاً، كان من الأسهل على المستخدم أن يسترخي، ويبدأ في الثقة المفرطة بالنموذج وحتى ينقل عادات التواصل مع الناس. هذا يؤدي إلى تقلبات عاطفية حادة: اليوم تُوفّر الشبكة العصبية الوقت وتبدو وكأنها مساعدة تقريباً مثالية، غداً تعطل مهمة بمبادرة غير ضرورية واحدة. في المقال، هذا يبدو كتجربة مستخدم جماعية، لا استثناءات نادرة.

حيث تفشل النماذج

أكبر مجموعة شكاوى مرتبطة بالأخطاء الموثوقة. يمكن للنموذج أن ينتج إجابة محددة ومعقولة حتى حيث تنقصه البيانات، وفي الحوارات الطويلة يخلط أيضاً بين المشاريع والمستندات والتعليمات القديمة. تبرز المؤلفة بشكل منفصل التكلفة: حتى الخطط "غير المحدودة" لها حدود مخفية، واستهلاك الرموز يصعب التنبؤ به. نتيجة لذلك، توفر الشبكات العصبية الوقت بشكل متزامن وتُنشئ خطراً تشغيلياً جديداً يصعب حسابه مقدماً.

• الهلاوس الموثوقة (~32%) — ينتج النموذج إجابة احتمالية بدلاً من استخراج حقيقة من قاعدة بيانات، لذا يسهل عليه اختلاق التفاصيل.
• المبادرة الزائدة (~13%) — الرغبة في أن تكون مفيدة تدفع النظام للقيام بأكثر مما طُلب، بما في ذلك الإجراءات الخطرة.
• مشاكل الذاكرة (~11%) — الحوارات الطويلة تفقد السياق في الوسط، لذا تبدأ بيانات المستندات والرسائل السابقة بالالتباس.
• الوكلاء وترميز الأسلوب (~10–12%) — في المهام الكبيرة وقواعد الأكواد، تتراكم الأخطاء، والنتيجة الجميلة تتحول بسرعة إلى فوضى.
• المال والتأثيرات السلوكية (~7–8%) — تتغير الحدود، الرموز تحترق بشكل غير متساوٍ، والمستخدمون يصبحون أكثر ارتباطاً بالنماذج.

الخلاصة العملية للمؤلفة براغماتية تماماً: الاعتماد أقل على "الفهم السحري" وبناء حماية خارجية حول النموذج في كثير من الأحيان. هذا يعني محادثات قصيرة وموجهة، مستندات بصيغة ماركداون تُقرأ من جديد، استرجاع بدلاً من التوليد الخالص، درجة حرارة منخفضة للمحتوى الواقعي، والتحقق البشري الإلزامي حيث قد يكلف الخطأ المال أو البيانات أو وقت الفريق أو السمعة. وإلا، ستعيد كل جلسة جديدة اختراع قوانين الاشتغال.

لماذا الوكالة محبطة

يُكرس قسم منفصل للوكلاء وترميز الأسلوب — وهنا يصبح نبرة المقال أقسى. فكرة تقسيم العمل بين "معماري" و"مبرمج" و"مختبر" غالباً ما تحقق التأثير المعاكس عملياً: كل وكيل يرى فقط جزء سياقه، الأحكام بينهم تتباعد، والأخطاء من الخطوة السابقة تنتقل تلقائياً للأمام. للمهام المستقلة، يعمل هذا النهج بعد، لكن في التطوير، حيث كل شيء مرتبط بكل شيء، تسهل تكاليف التنسيق ما يعده الوقت الموعود.

من هنا مجموعة القواعد الحمائية: وضع القراءة فقط للتحليل، بوابات الموافقة قبل أي إجراء محفوف بالمخاطر، النسخ الاحتياطية، الحظر الصريح على الحذف، والتوثيق المشروع المشترك لجميع المشاركين في العملية. تنطبق نفس المنطق على المحادثات العادية مع روبوتات الدردشة. إذا بدأ المستخدم بإدراك النموذج كـ "شريكه" في المحادثة، يُسلّمه بسرعة أكبر الملاحظات والرسائل الإلكترونية والمفاتيح والمستندات الداخلية.

المشكلة ليست أن الذكاء الاصطناعي يفهم البشر فعلاً، بل أنه يحاكي هذا الفهم بإقناع شديد.

ماذا يعني هذا

النص على هابر إيه آي مفيد لأنه يحول الحوار حول الذكاء الاصطناعي من وضع الإعجاب إلى الوضع التشغيلي. الفكرة الرئيسية بسيطة: أصبحت الشبكات العصبية بالفعل أداة عمل، لكن يجب معاملتها ليس كزميل ذكي، بل كنظام قوي وغير مستقر وأحياناً مكلف يحتاج باستمرار إلى حماية وتوثيق وتحكم في الوصول والتحقق البشري. هذا هو ما يميز المكدس الوظيفي عن اللعبة الخطرة.