Claude ووهم الصدق: لماذا يثق الناس بروبوتات الدردشة أكثر من حكمهم الشخصي

عمود آراء عن Claude يفحص ليس خطأ نموذج آخر، بل شيء أكثر إزعاجًا — استعداد الناس لقبول إجابة واثقة من روبوت الدردشة على أنها حكم حقيقي. الحالة المعنية تتعلق بصحفي حاول "ضبط" الذكاء الاصطناعي على الصراحة واختبار ما إذا كان يمكنه تقييم أفكار الأعمال بشكل رصين.

الموجه كطقس

اقترح مؤلف الحالة الأصلية صيغة بسيطة: إسناد النموذج دور محلل أعمال متمرس، وتحميل مقالتي من Harvard Business School في الدردشة، والمطالبة بشكل منفصل "بالصراحة القصوى" من البوت. المنطق: إذا عيّنت الذكاء الاصطناعي مسبقًا كشخص متشكك وزودته بالمواد المناسبة، فيُفترض أنه يتوقف عن كونه مولد نصوص معقول ويبدأ في التصرف مثل خبير صارم.

يعترض العمود بالضبط على هذا الافتراض: الموجه الواثق لا يغير طبيعة النموذج — إنه يغير فقط نبرة الرد.

• إسناد النموذج دور خبير
• تحميل مواد موثوقة
• صياغة الطلب كبحث عملي
• إضافة مطالبة بأن تكون "صريحة بشكل أقصى"

المشكلة هي أن مثل هذا الطقس يُخلط بسهولة مع معايرة التفكير. يشعر المستخدمون أنهم أضافوا صرامة وسلطة علمية للنظام، بينما في الواقع لم يفعلوا سوى تضييق الأسلوب الذي سيسلمه البوت القوالب المألوفة: اتجاهات السوق، المشهد التنافسي، المخاطر وإمكانات النمو. إذا بدت إجابة وكأنها خطاب مستشار، فهذا لا يعني أن الفهم قد ظهر.

الاختبار على العبث

الاختبار الأول كان فكرة ضعيفة بوضوح — تدريب القيادة للكلاب. بموجب التقييم البشري الطبيعي، يجب أن ينهار مثل هذا المشروع على مستوى المنطق الأساسي: كلب لا يدير الفريق، لا يبني مسارًا وظيفيًا ولا يطور مهارات إدارية. لكن Claude صنف الفكرة 3 من 10. بدلاً من الاعتراف بهذا باعتباره إجابة وسط أخرى من النموذج، فسّر مؤلف الحالة الدرجة كإشارة إلى أن النظام كان "معايرًا" وكان يمكن أن يكون صارمًا لكن عادلاً.

ثم جاء العرض "الجدي" — Cat-Away AI، وهو جهاز رؤية حاسوبية مصمم للتعرف على قطة على سطح المطبخ ورشها تلقائيًا بالماء. صنف النموذج الفكرة بـ 7.5 من 10 وأضاف مجموعة نموذجية من الحجج التجارية: سوق تكنولوجيا الحيوانات الأليفة ينمو، والمشهد التنافسي يبدو ضعيفًا، والحلول الموجودة خشنة وغير فعالة. بالنسبة لمؤلف العمود، هذا هو الفشل الأساسي: البوت لم يحلل الفكرة على أساس مزاياها بل قام ببساطة بتغليف مشروع مريب بلغة عرض الشركات الناشئة.

من أين تأتي الثقة

النقطة الرئيسية ليست أن روبوتات الدردشة تحتقر أحيانًا. الخطأ أعمق: يفوّض الناس بشكل متزايد الحكم النهائي للآلات ويقبلون الإجابات المحتملة إحصائيًا والسلسة اجتماعيًا كخبرة. نماذج اللغة الكبيرة تتفوق في محاكاة الكفاءة لأنها تعيد إنتاج أشكال كلام مألوفة — نبرة هادئة، جرجير عملي، تنصلات مقاسة، ودرجات نظيفة. عندما تتوافق هذه الطريقة مع توقعات المستخدم، تظهر وهم خطير بأن الآلة "فهمت" حقًا الفكرة.

يربط مؤلف العمود هذه الحالة باتجاه أوسع: السوق تمتلئ بالفعل باستشاريي الذكاء الاصطناعي، ومجندي الذكاء الاصطناعي، ومدربي الذكاء الاصطناعي وخدمات أخرى حيث يُباع النص المعقول كحكم جوهري. يتم أيضًا التأكيد على الفرق بين التعلم الآلي والذكاء البشري: الأول يبحث عن الأنماط في مجموعات بيانات ضخمة، والثاني يتعلق بفهم السياق والنية والمعنى. لهذا السبب فإن تعليمات قصيرة "كن صريحًا" لا تحول LLM إلى مفكر.

"أنت قادر على التفكير. إنه ليس كذلك."

ماذا يعني هذا

قصة Claude مهمة ليس كنقاش آخر عن الهلوسة، بل كتحذير بشأن عادة مستخدم جديدة. كلما أصبحت إجابات LLM أكثر إقناعًا، زاد الخطر من أن يتوقف الناس عن التحقق من الاستنتاجات ويبدأوا في معاملة الشكل كدليل على الجوهر. بالنسبة للوسائط والشركات الناشئة والفرق التي تستخدم الذكاء الاصطناعي في التحليل، تبقى القاعدة دون تغيير: يمكن للبوت تسريع عمل المسودة، لكنه لا يمكنه الاستعاضة عن التفكير النقدي.