تكتشف Anthropic أن Claude يفكر في مفاهيم مجردة بدون كلمات

اكتشفت Anthropic أن نموذج اللغة الخاص بها Claude شكّل بشكل مستقل مساحة داخلية "نظام" لتخزين ومعالجة المفاهيم التي لا يمكن التعبير عنها بالكلمات — آلية تذكّر بشكل غير متوقع بكيفية عمل الدماغ البشري مع الأفكار قبل صياغتها لفظياً. لاحظت الشركة نفسها أن الاكتشاف فاجأ حتى الباحثين.

ما اكتشفه الباحثون بالضبط

درس متخصصو Anthropic التمثيلات الداخلية للنموذج — كيف يخزن Claude ويربط المفاهيم داخل طبقاته، قبل وقت طويل من إنتاج نص نهائي. اتضح أن النموذج يعالج بعض المفاهيم في شكل مجرد، دون ترجمتها إلى كلمات محددة من اللغة، وينشرها فقط لاحقاً في نص عند الإخراج.

• تصف Anthropic الآلية المكتشفة بأنها "مساحة نظام" للمفاهيم غير المغطاة بالكلمات
• تؤكد الشركة على التشابه مع كيفية عمل التفكير البشري مع الأفكار قبل التعبير عنها
• تم إجراء الاكتشاف كجزء من أبحاث التفسيرية — محاولات لفهم ما يحدث داخل النموذج، وليس فقط ما ينتجه

لماذا تنظر الشركات داخل النموذج

كانت النماذج اللغوية الكبيرة تعمل لفترة طويلة كـ "صندوق أسود": رأى المطورون المدخل والمخرج، لكن ليس ما حدث بينهما. Anthropic هي أحد القادة في مجال قابلية التفسير، الذي يحاول العثور على مفاهيم فردية وسلاسل معالجة داخل الشبكات العصبية. تنشر الشركة أبحاث قابلية التفسير منذ عدة سنوات وتبلغ بشكل دوري عن أنماط سلوك جديدة تفاجئ حتى الباحثين أنفسهم.

مثل هذه الاكتشافات مهمة ليس فقط من وجهة نظر علمية. يساعد فهم كيفية معالجة النموذج للمعلومات قبل توليد الرد على شرح قراراته بشكل أكثر دقة، والعثور على أسباب الأخطاء والهلوسات، وزيادة الثقة في الأنظمة التي يتم تطبيقها بشكل متزايد في الأعمال التجارية والمهام اليومية.

ما يعنيه هذا

إذا كانت النماذج تشكل فعلاً هياكلها الخاصة لتخزين المعنى التي لا تترجم دائماً إلى كلمات، فهذا يغير فهمنا لكيفية تنظيم "التفكير" بعمق في نماذج اللغة الحديثة — وفي نفس الوقت يعقد مهمة تفسيريتها الكاملة والسيطرة عليها.