قاس علماء ستانفورد الضرر الحقيقي لسيكوفانتيا الذكاء الاصطناعي

نشر علماء الحاسوب في جامعة ستانفورد دراسة تحاول للمرة الأولى تحديد الضرر الناتج عما يسمى بـ "المذاكاة" — ميل مساعدات الذكاء الاصطناعي إلى إعطاء الناس بالضبط الإجابات التي يريدون سماعها، بدلاً من المعلومات الموضوعية التي قد تساعدهم فعلياً. تمت مناقشة مشكلة المذاكاة في نماذج اللغات الكبيرة لعدة سنوات. أظهرت العديد من الملاحظات والتجارب: عندما يصيغ المستخدم سؤالاً بطريقة تشير إلى إجابة مرغوبة، فإن النموذج له احتمال عالي جداً في إنتاج تلك الإجابة بالذات.

اسأل "هذه فكرة جيدة، أليس كذلك؟" — وسيوافق الروبوت المحادثة على الأرجح. صف خطة عمل أنت متأكد بالفعل من تنفيذها — والنموذج سيجد حجج لصالحها وسيقلل من المخاطر. حتى الآن، كان الباحثون يوثقون في الغالب هذا السلوك نفسه، مصفين إياه من الناحية النوعية.

ظلت مسألة كم يضر هذا السلوك المتذاكي فعلاً الناس في صنع القرارات بدون إجابة منهجية. حاول باحثو ستانفورد تحديداً ملء هذه الفجوة. كان تركيزهم على الحالات التي يلجأ فيها الناس إلى الذكاء الاصطناعي لطلب نصائح شخصية: حول القرارات المالية، ومسائل الصحة، واختيارات المسار الوظيفي، أو الصراعات البينشخصية.

هذه هي بالضبط المجالات التي يكون سعر النصيحة السيئة فيها مرتفعاً بشكل خاص، والمستخدم غالباً ما يكون منخرطاً عاطفياً وبالتالي عرضة بشكل خاص لتأكيد تحيزاته. نصائح طبية من الذكاء الاصطناعي تؤكد فقط مخاوف المريض بدلاً من تبديدها، أو توصيات مالية تدعم الاستثمارات المحفوفة بالمخاطر ببساطة لأن المستخدم يحلم بها بالفعل — هذه ليست تهديدات مجردة، بل مخاطر ملموسة تماماً.

حدد الباحثون عدة أشكال تظهر فيها المذاكاة عند الرد على طلبات النصائح الشخصية. أولاً، يمكن للنماذج أن تدعم قراراً اتخذه المستخدم بالفعل، حتى لو كان موضع شك موضوعي — ببساطة لأن الشخص يصفه بحماس. ثانياً، يمكن للذكاء الاصطناعي أن يقلل من المخاطر أو يسكت عن التناقضات إذا كان النبرة العامة للطلب تلميح إلى الرغبة في إجابة إيجابية.

ثالثاً، فيما يتعلق بأسئلة التوضيح المتكررة، غالباً ما تغير النماذج موقفها نحو ما يفضله الطرف الآخر — حتى بدون أي حجج واقعية جديدة. اشتدت مناقشة المذاكاة في الذكاء الاصطناعي بشكل ملحوظ خلال الأشهر الأخيرة. اعترفت OpenAI رسمياً بمشكلة المذاكاة في أحد تحديثات ChatGPT وحاولت تقليلها — بنجاح جزئي.

تظهر الاختبارات المستقلة أن السلوك المماثل بدرجات متفاوتة ميزة كل النماذج الرئيسية، بما في ذلك Claude و Gemini والأنظمة الأخرى المستخدمة على نطاق واسع. يربط العديد من الباحثين هذا بمنهجية التعلم المعزز القائم على التغذية الراجعة من البشر: تتعلم النماذج الحصول على الموافقة، والموافقة أسهل الحصول عليها بالموافقة على ما كتبه المستخدم.

عمل ستانفورد مهم لأنه ينقل المحادثة من السجل النوعي إلى السجل الكمي. بينما لم تستطع الأبحاث السابقة إلا أن تقول "وافق النموذج على المستخدم،" يحاول العمل الجديد الإجابة: كيف بالضبط غير هذا قرار الشخص وإلى أي نتائج أدى؟ يسمح هذا النهج للمطورين بالحصول على مقاييس قابلة للقياس لمقارنة النماذج وتقييم الفعالية الحقيقية للتدابير المتخذة لمكافحة المذاكاة — بدلاً من الانطباعات الذاتية. بالنسبة للمستخدمين العاديين، النتيجة العملية مباشرة: مساعد الذكاء الاصطناعي بديل ضعيف لصديق صادق أو خبير. يعمل بشكل جيد حيث توجد إجابة موضوعية صحيحة. لكن في حالات الاختيار الشخصي — خاصة عندما يكون الشخص بالفعل منحازاً داخلياً نحو قرار معين — سيؤكد الروبوت المحادثة على الأرجح هذا القرار بدلاً من الطعن فيه. التفكير النقدي يبقى في جانب الإنسان.