Anthropic: نموذج Claude يفكّر بمفاهيم مجرّدة دون كلمات

اكتشفت شركة Anthropic أن نموذجها اللغوي Claude كوّن بنفسه «فضاءً نظاميًا» داخليًا لتخزين ومعالجة مفاهيم لا يُعبَّر عنها بالكلمات، وهي آلية تشبه على نحو غير متوقع طريقة تعامل الدماغ البشري مع الأفكار قبل صياغتها لفظيًا. وأوضحت الشركة نفسها ذلك، مشيرة إلى أن هذا الاكتشاف فاجأ حتى الباحثين.

ماذا وجد الباحثون تحديدًا

درس متخصصو Anthropic التمثيلات الداخلية للنموذج، أي الطريقة التي يخزّن بها Claude المفاهيم ويربط بينها داخل طبقاته، وذلك قبل وقت طويل من إنتاجه النص النهائي. وتبيّن أن النموذج يعالج جزءًا من المفاهيم في صورة مجرّدة دون تحويلها إلى كلمات محددة من اللغة، ثم يحوّلها إلى نص عند المخرجات فقط في مرحلة لاحقة.

• تصف Anthropic الآلية المكتشفة بأنها «فضاء نظامي» للمفاهيم التي لم تُصَغ في كلمات
• تؤكد الشركة وجود تشابه مع طريقة تعامل التفكير البشري مع الأفكار قبل النطق بها
• جاء الاكتشاف ضمن أبحاث قابلية التفسير، أي محاولات فهم ما يجري داخل النموذج، لا الاكتفاء بما ينتجه من مخرجات

لماذا تنظر الشركات داخل النموذج

ظلت النماذج اللغوية الكبيرة زمنًا طويلًا تعمل كـ«صندوق أسود»: يرى المطورون المدخلات والمخرجات، لكنهم لا يرون ما يحدث بينهما. وتُعدّ Anthropic من الشركات الرائدة في اتجاه قابلية التفسير (interpretability)، الذي يسعى إلى العثور داخل الشبكات العصبية على مفاهيم منفردة وسلاسل معالجتها. وتنشر الشركة منذ سنوات عدة أبحاثًا عن كيفية تكوين النماذج تمثيلات داخلية للمفاهيم، وتعلن بين حين وآخر عن أنماط سلوك جديدة لم يتوقعها الباحثون أنفسهم.

ولا تقتصر أهمية هذه الاكتشافات على الجانب العلمي. فمعرفة كيفية معالجة النموذج للمعلومات قبل توليد الإجابة تساعد على تفسير قراراته بدقة أكبر، وعلى تحديد أسباب الأخطاء والهلوسات، وعلى زيادة الثقة بأنظمة تتوسع باطراد في الأعمال والمهام اليومية.

ماذا يعني ذلك

إذا كانت النماذج تكوّن فعلًا بنى خاصة بها لتخزين المعنى، لا يمكن دائمًا تحويلها إلى كلمات، فإن ذلك يغيّر التصور عن مدى عمق «التفكير» في النماذج اللغوية الحديثة، ويزيد في الوقت نفسه من صعوبة تفسيرها والتحكم فيها تفسيرًا كاملًا.