Claude في مواجهة الapocalypse: Anthropic تعلّم نموذجها الذكي أن يكون أكثر حكمة من صانعيه

بينما يتباهى قادة السوق بعدد المعاملات (parameters) وسرعة توليد النصوص، تنشغل Anthropic في مكاتبها بأمور أكثر هلامية بكثير. فالشركة التي أسّسها قبل سنوات موظفون سابقون في OpenAI بسبب خلافات حول مسائل الأمان، قررت الآن أن تخوض مجازفة كبرى. رهانها الجديد ليس مجرد «أسوار» حول النموذج، بل محاولة تعليم Claude شيئًا يشبه الحكمة. يبدو ذلك كأنه مطلع رواية خيال علمي، لكنه في الواقع حسابٌ عملي: إذا أصبح الذكاء الاصطناعي أذكى منا، فعليه أن يفهم بنفسه لماذا لا ينبغي تحويل الكوكب إلى مستودع لدبابيس الورق.

ولفهم أهمية ذلك الآن تحديدًا، لا بد من استذكار كيف كان أمان الذكاء الاصطناعي يعمل حتى هذه اللحظة. كان الأمر عادةً قائمة لا تنتهي من المحظورات: لا تتحدث في هذا، لا تكتب عن ذاك، لا تساعد في وصفات خطرة. المشكلة أن القراصنة والمستخدمين الفضوليين يجدون «الثغرات» في هذه القواعد أسرع مما يستطيع المهندسون سدّها. أما Anthropic فتروّج لفكرة «الذكاء الاصطناعي الدستوري» (Constitutional AI)، حيث يملك النموذج مجموعة من المبادئ الأساسية. والآن يتطور هذا النهج نحو فهم أعمق للسياق. ويريد المطورون أن يدرك Claude عواقب أفعاله كما يفعل إنسان ناضج.

ولم يأتِ هذا التحول في الاستراتيجية من فراغ. فبعد أن أظهر GPT-4 ونماذج أخرى أنها قادرة على تجاوز القيود البرمجية عبر ألعاب أدوار معقدة، اتضح أن الأساليب القديمة لا تجدي. وتحاول Anthropic بناء منظومة تملك عمودًا أخلاقيًا داخليًا. وهذا بالغ الأهمية عشية ظهور وكلاء (agents) فائقي القوة بحق، سيكون بمقدورهم تنفيذ أفعال في الإنترنت بشكل مستقل، والتصرف بالأموال، وإدارة البنى التحتية. وبدون «الحكمة»، يتحول مثل هذا الوكيل إلى آلة دمار بالغة الكفاءة لكنها خالية تمامًا من العقل.

والمنتقدون، بطبيعة الحال، يسخرون. فمن السهل الحديث عن حكمة الخوارزمية حين تُقدَّر شركتك بمليارات الدولارات وتحتاج إلى التميّز بطريقة ما في مواجهة عمالقة مثل Google. لكن إذا وضعنا الشكوك جانبًا، فإن Anthropic تطرح سؤالًا جوهريًا: هل يمكننا أصلًا التحكم في ذكاء يتفوق على ذكائنا بقواعد خارجية؟ جواب الشركة: لا، فالتحكم يجب أن يكون داخليًا. وهذا يجعل Claude نوعًا من «الفيلسوف» بين النماذج الذكية، يهدر دورات حاسوبية ثمينة في التأمل في الخير والشر.

ماذا يعني ذلك للصناعة؟ أولًا، ترسي Anthropic معيارًا جديدًا لعلامة «آمنة» تجاريًا. فبينما يبرّر الآخرون الهلوسات والردود السامة، يبني فريق داريو أمودي صورة اللاعب الأكثر مسؤولية. وثانيًا، يخلق ذلك ضغطًا على المنافسين. فإذا تبيّن فعلًا أن Claude أكثر استقرارًا وقابلية للتنبؤ في السيناريوهات المعقدة، فسيكون اختياره أسهل على قطاع الشركات من بدائل أقوى لكنها «جامحة». وهكذا يتحول الأمان من قسم مملّ في الوثائق الفنية إلى ميزة سوقية رئيسية.

وفي نهاية المطاف، نحن نراقب تجربة هائلة. فهل تستطيع مجموعة من الدوال الرياضية أن تدرك مفهوم المسؤولية؟ أم ستبقى «حكمة» Claude مجرد محاكاة عالية الجودة تتهاوى عند أول اصطدام بموقف غير نمطي حقًا؟ تؤمن Anthropic بأنه لا طريق آخر أمام البشرية. فإما أن نعلّم الذكاء الاصطناعي أن يفهمنا، وإما أن نصبح بالنسبة له مجرد مجموعة بيانات من الماضي.

الخلاصة: تحاول Anthropic تحويل Claude إلى أول وكيل «أخلاقي» يفهم لا حروف القواعد فحسب، بل روحها أيضًا. فهل يمكن للمنافسة على «أحكم ذكاء اصطناعي» أن تحل محل السباق نحو «أقوى ذكاء اصطناعي»؟