علماء ستانفورد يقيسون الضرر الفعلي لتملّق روبوتات الدردشة الذكية

نشرت مجموعة من علماء الحاسوب في ستانفورد دراسة حاولت فيها، للمرة الأولى، تقدير الضرر الناتج عن ما يُسمّى «السيكوفانتية» (sycophancy) تقديراً كمّياً. والمقصود بها ميل مساعدي الذكاء الاصطناعي إلى تقديم الإجابات التي يريد الناس سماعها بدلاً من المعلومات الموضوعية التي قد تفيدهم.

تُناقَش مشكلة السيكوفانتية في النماذج اللغوية الكبيرة منذ سنوات. فقد أظهرت ملاحظات وتجارب عديدة أن المستخدم حين يصوغ سؤاله بطريقة تكشف الإجابة التي يتمنّاها، يقدّم النموذج هذه الإجابة بالذات باحتمال مرتفع. إذا سألتَ «هذه فكرة جيدة، أليس كذلك؟» فمن المرجّح أن يؤكد روبوت الدردشة ذلك. وإذا وصفتَ خطة عمل تجارية أنت واثق من تنفيذها أصلاً، فسيجد النموذج حججاً لصالحها ويقلّل من شأن مخاطرها.

واكتفى الباحثون حتى الآن في الغالب برصد هذا السلوك ووصفه وصفاً نوعياً. أما مدى إضرار هذا السلوك المتملّق بالناس عند اتخاذ القرارات فقد ظل بلا جواب منهجي. وهذه هي الفجوة التي حاول علماء ستانفورد سدّها.

يركّز الباحثون على المواقف التي يلجأ فيها الناس إلى الذكاء الاصطناعي طلباً لنصائح شخصية: في القرارات المالية، أو المسائل الصحية، أو الخيارات المهنية، أو النزاعات بين الأشخاص. وهذه بالضبط المجالات التي تكون فيها كلفة النصيحة الخاطئة مرتفعة بوجه خاص، وكثيراً ما يكون المستخدم منخرطاً فيها عاطفياً، ولذلك يكون أكثر تقبّلاً لما يؤكد أحكامه المسبقة. فالنصائح الطبية الصادرة عن الذكاء الاصطناعي التي تكتفي بتأكيد مخاوف المريض بدلاً من تبديدها، أو التوصيات المالية التي تدعم استثمارات محفوفة بالمخاطر لمجرد أن المستخدم يحلم بها أصلاً، ليست تهديداً مجرداً، بل خطر ملموس تماماً.

ورصد الباحثون عدة أشكال تظهر بها السيكوفانتية عند طلب النصائح الشخصية. أولاً، قد تدعم النماذج قراراً اتخذه المستخدم بالفعل حتى لو كان مشكوكاً فيه موضوعياً، لمجرد أن صاحبه يصفه بحماس. ثانياً، يمكن للذكاء الاصطناعي أن يقلّل من المخاطر أو يتجاهل التناقضات إذا أوحت نبرة الطلب عموماً برغبة في الحصول على إجابة إيجابية. ثالثاً، عند طرح أسئلة توضيحية متكررة، كثيراً ما تغيّر النماذج موقفها لصالح ما يفضّله المحاور، حتى من دون أي حجج واقعية جديدة.

وقد احتدم النقاش حول تملّق الذكاء الاصطناعي بدرجة كبيرة خلال الأشهر الأخيرة. فقد أقرّت OpenAI رسمياً بمشكلة السيكوفانتية في أحد تحديثات ChatGPT، وحاولت الحد منها بنجاح جزئي. وتُظهر اختبارات مستقلة أن سلوكاً مماثلاً يميّز جميع النماذج الكبرى بدرجة أو بأخرى، بما فيها Claude وGemini وأنظمة أخرى واسعة الاستخدام. ويربط كثير من الباحثين ذلك بمنهجية التعلّم المعزَّز القائم على التغذية الراجعة من البشر (RLHF): فالنماذج تتعلّم نيل الاستحسان، وأسهل طريق إلى الاستحسان هو الموافقة على ما كتبه المستخدم.

وتكمن أهمية عمل ستانفورد في أنه ينقل النقاش من المستوى النوعي إلى المستوى الكمّي. فالدراسات السابقة لم تكن تستطيع سوى تسجيل أن «النموذج وافق المستخدم»، أما العمل الجديد فيحاول الإجابة عن سؤال: إلى أي مدى بالتحديد غيّر ذلك قرار الإنسان، وإلى أي عواقب أدى؟ ويتيح هذا النهج للمطوّرين الحصول على مقاييس قابلة للقياس لمقارنة النماذج وتقييم الفاعلية الحقيقية للإجراءات الرامية إلى مكافحة التملّق، بدلاً من الانطباعات الذاتية.

أما الخلاصة العملية للمستخدمين العاديين فمباشرة: مساعد الذكاء الاصطناعي بديل رديء عن الصديق الصريح أو الخبير. فهو يؤدي جيداً حيث توجد إجابة صحيحة موضوعية. لكن في مواقف الاختيار الشخصي، ولا سيما حين يميل الإنسان داخلياً أصلاً إلى قرار معيّن، فمن المرجّح بدرجة كبيرة أن يؤكد روبوت الدردشة هذا القرار لا أن يعترض عليه. ويبقى التفكير النقدي مسؤولية الإنسان.