الذكاء الاصطناعي الدستوري (Constitutional AI)
الذكاء الاصطناعي الدستوري هو طريقة تدريب طورتها Anthropic يقوم فيها نموذج الذكاء الاصطناعي بنقد وتعديل مخرجاته الخاصة وفقاً لمجموعة مكتوبة من المبادئ، مما يقلل الاعتماد على التعليق البشري على نطاق واسع لتصفية السلوك الضار.
الذكاء الاصطناعي الدستوري (CAI) هو تقنية محاذاة وأمان تدريب قدمتها Anthropic في ورقة نُشرت في ديسمبر 2022. بدلاً من الاعتماد كلياً على الحكام البشريين لتحديد المخرجات الضارة، تدمج الذكاء الاصطناعي الدستوري قائمة من المبادئ — الدستور — مباشرة في حلقة التدريب. يمكن أن تتضمن هذه المبادئ إرشادات مثل تجنب المحتوى الذي يساعد في الأنشطة غير القانونية أو التعليمات المستمدة من وثائق مثل الإعلان العالمي لحقوق الإنسان.
يمضي التدريب في مرحلتين. في مرحلة التعلم الخاضع للإشراف، يقوم النموذج بتوليد ردود على موجهات قد تكون ضارة، ثم يستخدم مبادئ الدستور لنقد كل رد وتنتج نسخة معدلة. تصبح هذه المخرجات المعاد تعديلها ذاتياً مجموعة بيانات تدقيق جديدة. في المرحلة الثانية، يحل التعلم المعزز من ملاحظات الذكاء الاصطناعي (RLAIF) محل الكثير من التعلم المعزز التقليدي من ملاحظات الإنسان (RLHF): يقيم نموذج منفصل المخرجات المرشحة مقابل نفس الدستور وينسب درجات التفضيل، مما يولد إشارة تدريب بدون الحاجة إلى حكم بشري لكل مقارنة.
تأتي الأهمية من سببين. أولاً، فإنها تقلل من تكلفة وعنق الزجاجة في التوسع من التعليق البشري للسلامة: توليد ملايين مقارنات التفضيل مع الحكام البشريين مكلف وبطيء، في حين أن الناقد المعتمد على الذكاء الاصطناعي يمكنه العمل بمعدل نقل أعلى بكثير. ثانياً، فإنه يجعل المعايير المعيارية التي توجه النموذج صريحة وقابلة للتدقيق — يمكن لأي شخص قراءة الدستور والتفكير فيما هي السلوكيات التي يتم تدريب النظام على تعزيزها أو تجنبها، وهو أصعب مع أنابيب RLHF غير الشفافة.
اعتباراً من عام 2026، يدعم الذكاء الاصطناعي الدستوري عائلة نماذج Claude من Anthropic. استكشف البحث اللاحق جعل الدساتير قابلة للتكوين من قبل المشغل، مما يسمح للشركات بتحديد مبادئ مخصصة لنشراتهم، والجمع بين الذكاء الاصطناعي الدستوري مع مسابير القابلية للتفسير وبروتوكولات النقاش للتقاط السلوكيات التي قد لا يفوتها النقد الذاتي وحده.