دستور Anthropic: Claude يعيش الآن وفقا للقواعد والأمر مهم

تخيل أنك تنشئ شيئاً قد يكون أذكى منك وتحاول أن تشرح له ما هو "الخير" وما هو "الشر". هذا ليس سيناريو من فيلم هوليوودي ضخم، بل هو الواقع اليومي لشركة Anthropic. بينما تناقش الصناعة عدد وحدات معالجة الرسومات التي تحتاجها للسعادة، قررت فريق Claude أن تسلك طريقاً مختلفاً وتكتب دستوراً حقيقياً لشبكتها العصبية. هذا ليس مجرد قائمة بالكلمات الممنوعة أو مرشحات صارمة في المدخلات. بل هي محاولة لدمج في الكود شيء يشبه الضمير يجب أن يعمل حتى عندما لا ينظر المطورون.

منذ البداية، وضعت Anthropic نفسها كـ "مختبر أمان" تأسس من قبل موظفين سابقين في OpenAI اختلفوا مع سام ألتمان حول قضايا التسويق والأخلاقيات. منذ ذلك الحين، قامت شركة داريو أمودي ببناء صورة منهجية كأكثر اللاعبين مسؤولية في السوق. نشر نص الدستور ليس مجرد إيماءة حسن نية—بل هو خطوة استراتيجية في اللعبة الكبرى للتأثير على الحكومات العالمية. عندما يسأل المنظمون في واشنطن أو بروكسل كيف سنتحكم بالذكاء الفائق في المستقبل، تملك Anthropic بالفعل إجابة جاهزة على شكل وثيقة. إنهم لا يقومون فقط بتدريب نموذج؛ إنهم يحاولون التوصل إلى اتفاق معه، وينشئون أطراً واضحة للتعايش.

يعتمد النهج على تكنولوجيا الذكاء الاصطناعي الدستوري. على عكس الطريقة المألوفة للتعلم المعزز من ردود الفعل البشرية (RLHF)، حيث يقضي الأشخاص الحقيقيون ساعات في وضع علامات على ردود الشبكة العصبية، تستخدم Anthropic النموذج نفسه للتحرير الذاتي. تبدو العملية شبه فلسفية: يتم إعطاء النماذج قائمة بالمبادئ—من الإعلان العالمي لحقوق الإنسان للأمم المتحدة إلى قواعد حماية البيانات من Apple—ويطلب منها أن تنتقد مسودداتها الخاصة للامتثال لهذه المعايير. نتيجة لذلك، يتعلم Claude ليس فقط محاكاة التفضيلات البشرية، بل اتباع منطق القيم المدمجة فيه. وهذا يوفر على الشركة الحاجة إلى الاحتفاظ بجيش من المحررين برواتب منخفضة في الدول النامية، وهذا بحد ذاته خطوة أخلاقية قوية.

لماذا تحتاج الصناعة إلى هذا؟ أولاً، أنه قابل للتوسع. الموارد البشرية محدودة، لكن الشبكة العصبية يمكن أن تحلل أخطاءها بلا حدود. ثانياً، يجعل سلوك النموذج أكثر قابلية للتنبؤ والشفافية. إذا رفض Claude الإجابة على سؤال، فإنه يفعل ذلك ليس بسبب نزوة الخوارزمية، بل لأن نقطة محددة من الدستور تحظر عليه انتهاك الخصوصية أو تشجيع العنف. وهذا ينشئ أساساً من الثقة حاسم بالنسبة للقطاع الشركاتي. لا تحتاج الأعمال التجارية إلى ذكاء اصطناعي قد يقول فجأة شيء غير سياسي أو خطير. إنهم بحاجة إلى أداة ذات حدود واضحة الالتزام.

غير أنه خلف الكلمات الجميلة عن الأمان تكمن صراع شديد من أجل الريادة. يلمح داريو أمودي بشكل مباشر في مقالاته الأخيرة بأننا نقف عند نقطة حرجة في تطور الحضارة، وهو يسميها "فترة المراهقة للتكنولوجيا". تحاول Anthropic أن تسحب من OpenAI دور المركز الفكري الرئيسي الذي يضع قواعد اللعبة. إذا كانت OpenAI شركة ناشئة عدوانية تريد إعطاء الناس أداة لكل شيء، فإن Anthropic تشبه بطريقة ما "الشخص البالغ في الغرفة" الذي يصر على أن القوة بدون سيطرة بلا معنى وخطيرة.

بشكل مثير للاهتمام، يتم تحسين الدستور باستمرار. إنها وثيقة حية تعكس المخاوف والآمال الحالية للمجتمع. وتتضمن أحكاماً بشأن عدم قبول التمييز، وأهمية تقديم معلومات موضوعية، وحتى كيفية أن يتصرف الذكاء الاصطناعي في الحالات التي تتضارب فيها القيم الإنسانية. إنه يذكرنا بمحاولة إنشاء مواطن رقمي مثالي يتبع حرف القانون دائماً بينما يمتلك ذكاءً كافياً لفهم روحه. في النهاية، سيعتمد نجاح Anthropic على ما إذا كان المستخدمون يؤمنون بهذه "الأخلاق الاصطناعية" أم يرونها مجرد طبقة أخرى من الرقابة الشركاتية.

السؤال الرئيسي: هل ستصبح دستور Anthropic معياراً عالمياً لجميع نماذج اللغة الكبيرة، أم سنشهد حرباً من "الأخلاقيات الشركاتية" حيث يملك كل نموذج مفاهيمه الخاصة عن الخير والشر؟