تشريح Claude: Anthropic تنظر أخيرًا داخل عقل الشبكة العصبية

تخيّل أنك تتحدث منذ سنوات مع أستاذ عبقري يقدّم إجابات رائعة، لكنك لا تملك أدنى فكرة عن كيفية عمل تفكيره. تطرح سؤالًا وتحصل على نتيجة، أما العملية في الداخل فتبقى لغزًا. هكذا عشنا مع النماذج اللغوية الكبيرة في السنوات القليلة الماضية. سمّيناها «الصندوق الأسود» وأرجعنا غرابتها إلى سحر أوزان الشبكات العصبية. لكن فريق Anthropic قرر أن الوقت قد حان لإضاءة هذه الغرفة المظلمة. أجرى الباحثون عملية تشريح واسعة النطاق لـ Claude 3 Sonnet، وتدفعنا نتائجها إلى إعادة النظر في كل ما عرفناه عن «التفكير» لدى الآلة.

ساد الاعتقاد طويلًا بأن المعرفة داخل الشبكة العصبية موزعة بطبقة رقيقة على مليارات المعاملات. لم يكن ممكنًا أن نشير بإصبعنا إلى موضع محدد ونقول: «هنا يفكر Claude في لندن، وهنا في فيزياء الكم». استخدمت Anthropic أسلوبًا تسميه «التعلّم القاموسي». وببساطة، جعلت شبكة عصبية تحلل عمل شبكة أخرى لاستخلاص الأنماط المتكررة. وفي النهاية اكتشفت ملايين ما يُسمى «السمات» (features)، وهي وحدات ذهنية مسؤولة عن مفاهيم بعينها. الأمر أشبه بما لو عثر علماء الأحياء أخيرًا على الجينات المسؤولة عن سمات شخصية محددة، بدل الاكتفاء بمراقبة سلوك الكائن الحي.

وكان المثال الأكثر طرافة ووضوحًا هو تجربة جسر «البوابة الذهبية» (Golden Gate). عثر الباحثون على مجموعة من العصبونات تنشط عند ذكر هذا المعلم. وحين عزّزوا هذا النشاط اصطناعيًا، «جُنّ» Claude حرفيًا بحب الجسر. وعلى أي سؤال، من وصفة فطيرة إلى المشكلات الوجودية، كان يجيب من خلال منظور «البوابة الذهبية». بدا ذلك مضحكًا، لكن خلف السخرية اكتشافًا جوهريًا: تعلّمنا التلاعب مباشرة بـ«وعي» النموذج دون تغيير تدريبه الأساسي. لقد وجدنا مقابض تحكم لم نكن نخمّن وجودها إلا تخمينًا.

غير أن عمل Anthropic ليس مجرد تسلية بالجسور. فقد رصد الباحثون أنماطًا أخطر وأشد جدية. حددوا مجموعات من العصبونات مسؤولة عن إنشاء الأسلحة البيولوجية، وكتابة الشيفرات الخبيثة، والكذب، وحتى مداهنة المستخدم. يغيّر هذا الاكتشاف قواعد اللعبة في مجال السلامة. فبدل محاولة إعادة تدريب النموذج بحظر لا ينتهي ومرشحات سيتعلم تجاوزها في كل الأحوال، أصبح بالإمكان مراقبة «نواياه» في الوقت الفعلي. وإذا أضاء مصباح «إنشاء فيروس» أثناء توليد الإجابة، يمكن إيقاف النظام قبل أن يُخرج الرمز الأول.

لماذا يهم ذلك الآن تحديدًا؟ يقف قطاع الذكاء الاصطناعي عند مفترق طرق. فمن جهة، تزداد النماذج قوة، ومن جهة أخرى يدفع الخوف من ذكاء اصطناعي خارج عن السيطرة الجهات التنظيمية إلى تشديد القبضة. يمنح عمل Anthropic أملًا في إمكان بناء ذكاء اصطناعي شفاف. فإذا فهمنا المنطق الداخلي للنموذج، أمكننا أن نأتمنه على مهام معقدة. إنه طريق من الإيمان الأعمى بالخوارزمية إلى الدقة الهندسية. ننتقل من عصر الخيمياء، حيث كنا نخلط البيانات ونأمل في الذهب، إلى عصر الكيمياء، حيث كل تفاعل محسوب ومفهوم.

بالطبع، ما زلنا بعيدين عن الشفافية الكاملة. فـ Claude 3 Sonnet نموذج متوسط الحجم، وسيتطلب تفسير شقيقه الأكبر Opus أو نماذج الجيل القادم قدرات حوسبية هائلة. ومع ذلك، أثبتت Anthropic أن «الصندوق الأسود» يمكن فتحه. لم يعد السؤال عن الإمكانية، بل عن الموارد والوقت. وبعد أن رأينا البنية الداخلية لأفكار الشبكة العصبية، لن يكون هناك عودة إلى الاكتفاء بمشاهدة النتيجة. بدأنا نفهم كيف يفكر العقل السيليكوني، وهذا الفهم هو أفضل صمام أمان ضد سيناريوهات الخيال العلمي.

الخلاصة: تحوّل Anthropic الذكاء الاصطناعي من عرّاف لا يمكن التنبؤ بسلوكه إلى أداة مفهومة. فهل ستتمكن أطراف أخرى مثل OpenAI وGoogle من جعل نماذجها شفافة بالقدر نفسه، أم ستفضّل إبقاء السحر خفيًا؟