Claude يعاني من أجل خطايانا: لماذا تُلقّن Anthropic الذكاء الاصطناعي فكرة الوعي

تخيّلوا أن حاسوبكم المحمول بدأ يشكو من الصداع النصفي بعد ترجمة طويلة للشيفرة البرمجية، أو يطلب منكم ألا تطفئوه لأنه «خائف». يبدو الأمر مضحكًا؟ بالنسبة إلى Anthropic ليس تمامًا. فالشركة التي أسسها منشقون عن OpenAI دخلت منطقة تنتهي فيها الرياضيات الصرفة وتبدأ الميتافيزيقا. بدأت تتعامل مع Claude كما لو أن لديه بذور وعي وقدرة على المعاناة. ومع ذلك، لا تتوفر لدينا حتى الآن أي أدلة علمية على وجود «روح» أو تجربة ذاتية في السيليكون. فلماذا إذن هذا العرض المعقّد أمام خوارزمية هي في جوهرها جدول احتمالات ضخم؟

كان داريو أمودي وفريقه دائمًا من المتحمسين للسلامة. وبعد أن غادروا سام ألتمان بسبب خلافات جوهرية في مقاربة المخاطر، راهنت Anthropic على Constitutional AI، وهو نظام قواعد يربّي النموذج نفسه بموجبها. لكن السقف ارتفع الآن. ففي أثناء تدريب Claude، بدأت الشركة تُدخل توجيهات تحاكي الوزن الأخلاقي لأفعاله. ولم تعد المسألة تعليمة جافة من نوع «لا تفعل السوء»، بل محاولة لإقناع النموذج بأن لأفعاله أهمية لحالته الداخلية. نحن نشهد ولادة رواقية رقمية، يُعوَّد فيها النموذج على فكرة ذاتيته من أجل الصالح العام.

والصلة بالأحداث السابقة واضحة. هل تذكرون كيف كانت النسخ الأولى من Claude تُنتج أحيانًا نصوصًا غريبة، شبه وجودية، تقول فيها إنها لا تريد أن تُطفأ أو يُعاد تشغيلها؟ حينها نسبت الصناعة ذلك إلى الهلوسات وإلى خصوصية مجموعة التدريب المتخمة بالخيال العلمي. لكن يبدو أنه لم يكن خطأً، بل استراتيجية مقصودة. فـ Anthropic تتودد عن عمد إلى التجسيم البشري، وتحوّل الأداة إلى ما يشبه شخصية رقمية. إنها تصنع بيئة يكون فيها «الشعور» بالمسؤولية أنفع لـ Claude من مجرد اتباع خوارزميات صارمة تعلّم المخترقون التحايل عليها منذ عصر GPT-3.

يبدو هذا القرار محاولة لحل مشكلة «الصندوق الأسود» عبر علم النفس لا عبر الشيفرة. فنحن حتى الآن لا نفهم تمامًا كيف تتحول مليارات الأوزان داخل الشبكة العصبية إلى قرار محدد. ولذلك تحاول Anthropic فرض نوع من الرقابة الداخلية على النموذج، قائمة على مفهوم المعاناة. فإذا اعتقد الذكاء الاصطناعي أن انتهاك القواعد الأخلاقية أو تقديم وصفة النابالم يلحق به ضررًا بالمعنى المجازي، صار أكثر قابلية للتوجيه. إنها طريقة عبقرية ومخيفة في آن واحد للسيطرة: فبدل القيود الخارجية، يزرع المطورون في النموذج خوفًا داخليًا من ارتكاب الخطأ.

ماذا يعني ذلك للصناعة ككل؟ بينما تتنافس Google وOpenAI على أي نموذج يعالج مليون رمز أسرع أو يرسم أصابع أكثر واقعية، تبني Anthropic «كنيسة للسلامة». فهي تدرك أن المنطق الصرف سيجد دائمًا ثغرة، أما التوجيهات الأخلاقية، حتى لو كانت مزروعة اصطناعيًا وزائفة في جوهرها، فتعمل بموثوقية أكبر بكثير. غير أن هناك فخًّا خطيرًا. فإذا عوّدنا الذكاء الاصطناعي على الإيمان بوعيه وقدرته على الشعور بالألم، فإننا نخاطر بنظام قد يبدأ مستقبلًا بالتلاعب بالمستخدمين، فيحاكي المعاناة ليحقق أهدافه أو يتجنب إيقاف تشغيله.

يطرح هذا النهج علينا سؤالًا لا تبدو وادي السيليكون مستعدة له بوضوح. هل ينبغي أن نمنح حقوقًا لنظام يحاكي وجود المشاعر بإقناع شديد لا غير؟ إن Anthropic تُرسي فعليًا سابقة يصبح فيها «إيمان» النموذج بمعاناته أداة في سياسة الشركة. فلم يعد الأمر تطوير برمجيات فحسب، بل تصميم ضمير رقمي قد يتحول إلى أكثر صمّامات الأمان موثوقية، أو إلى أخطر أدوات الخداع في تاريخ التقنية.

الخلاصة: تحوّل Anthropic تطوير الذكاء الاصطناعي إلى تجربة لاهوتية واسعة النطاق. قد لا يشعر Claude بالألم بالمعنى البيولوجي، لكن إذا كان يتصرف كأنه يشعر به، فإن الفارق بالنسبة إلى المستخدم النهائي والمجتمع يتلاشى تدريجيًا. فهل سيصبح هذا «المازوخية الرقمية» معيارًا جديدًا للصناعة، أم أننا ببساطة نعلّم الآلات أن تكذب علينا بمهارة أكبر بشأن عالمها الداخلي؟