باحث يقترح أربع درجات للمعنى في الذكاء الاصطناعي: من الأسماء إلى المواثيق

نشر صاحب مدونة Tiled with Pentagons على AI Alignment Forum نصاً يصفه بنفسه بأنه «برج مفاهيمي شُيّد نصفه، وملاطه لا يزال رطباً». يبلغ طوله في نسخته المختصرة نحو 12 ألف كلمة. والمسألة التي يعالجها هي كيف يمكن لوكيلين يستدلان بنموذجين داخليين مختلفين للعالم، لكنهما يصلان إلى تنبؤات متقاربة، أن يفهم أحدهما الآخر على أربعة مستويات من اللغة، من تسمية الأشياء إلى الالتزامات المشتركة. ويحذّر المؤلف بصراحة من أنه لا يملك بعد الرياضيات اللازمة لنظرية حقيقية. وهو يعدّ بعض استنتاجاته صحيحة تقريباً، وبعضها مجرد إيحاء، ويرجّح أن كثيراً منها خاطئ. وقد عُرضت النسخة الأساسية من المحاضرة في بيركلي، في فضاء Lighthaven.

سلّم من أربع درجات

نقطة الانطلاق هنا فكرة جون وينتورث عن الدلالات القابلة للتشغيل البيني. فإذا تطابقت تنبؤات وكيلين بايزيَّين، أمكنهما على الأقل الاتفاق على الأسماء بوصفها عناقيد في فضاء الأشياء، حتى لو اختلف بناؤهما الداخلي. والجديد أن المؤلف يضيف فوق ذلك ثلاثة مستويات أخرى:

• الأسماء: عناقيد في فضاء الأشياء، وهي المستوى الأساسي للاتفاق.
• الأفعال: عمليات وتغيّرات تستند إلى أسماء سبق الاتفاق عليها.
• القواعد: قيود على مجموعات كاملة من المسارات.
• المواثيق: مجموعات قواعد يلتزم بها عدة وكلاء في آن واحد.

لكل درجة مشغِّلاتها الخاصة. وتتحدد الدرجة بالأنواع التي يجب أن يفهمها الوكلاء بصورة مشتركة أصلاً كي يترجم كل منهم رسائل الآخر. أما الفرضية المحورية، التي رصد المؤلف مكافآت لمن يدحضها أو يثبتها، فهي أن آلية أي درجة لا تعمل من دون الدرجات التي تحتها.

موريشيوس وX-Men والتحايل على المواصفات

يوضّح المؤلف دافعه بقضية قضائية من عام 2003. فقد حاجّت Marvel أمام محكمة التجارة الدولية الأمريكية بأن شخصيات X-Men ليست بشراً. كان القانون يفرض تعرفة أعلى على «الدمى»، أي مجسّمات البشر، وتعرفة أدنى على سائر الألعاب. وسعياً إلى توفير الضرائب، قوّضت الشركة الإطار نفسه الذي تقوم عليه قصصها المصوّرة. ويصوغ المؤلف الأمر هكذا: حين التقى المال الجامح بصنف الأسماء الثابت، تحرّك الصنف.

ثم تأتي الخطوة الأساسية. استبدل بجدول التعرفة دالةَ مكافأة، فتحصل على التحايل على المواصفات (specification gaming): إعادة رسم الفئات من أعلى بصورة عدائية على يد من لديهم رهانات ونفوذ. ويعد المؤلف بتفصيل ذلك في منشور لاحق. أما شاهده التاريخي فمختلف: مدرسة الأسماء في الصين قبل نحو 2300 عام. فقد ظل أتباعها عقوداً يتجادلون في ما إذا كان الحصان الأبيض حصاناً. وسخرت منهم جميع مدارس عصر الدول المتحاربة، وتقول الرواية المتوارثة إن مخطوطاتهم أُحرقت في عهد تشين شي هوانغ.

ما الذي يمكن التحقق منه هنا

يشير المؤلف إلى أثر تجريبي. فحيث تتماس درجتان، ينبغي أن يوجد في لغات العالم (أو في تقنيات معرفية قريبة مثل قانون العقود) صنف ضبابي من الكلمات يسدّ الفجوة بينهما. ومن المراجع التي يذكرها أعمال غاردنفورس وتارسكي وجنتنر، إضافة إلى الموهيين المتأخرين. ولا يعرف هو نفسه ما إذا كان ينبغي عدّ هذا التجاور علامة إنذار أم خندقاً يعبره بسهولة غير معتادة. ويشير النص أيضاً إلى «تلون» عند بورخيس، وإلى عوالم من الموجات تسبق فيها الأفعال الأسماء.

ويُختصر الجزء المتعلق بمواءمة الذكاء الاصطناعي (alignment) في أطروحة واحدة: القيم التي نودّ نقلها إلى الذكاء الاصطناعي لا يمكن التعبير عنها إلا في صورة قواعد ومواثيق. وفي المقابل، لا توجد نظرية تحدد متى يكون مفهومك عن «القتل» دالة لمفهومي.

كيف يمكن التعامل مع هذا

هذا ليس منهجاً جاهزاً، بل برنامج بحثي ما زالت أسئلته مفتوحة. وثمة فكرتان مفيدتان للممارسين الذين يبنون أنظمة متعددة الوكلاء أو يكتبون مواصفات لسلوك النماذج. الأولى أن أخطاء صياغة القواعد ينبغي البحث عنها في الدرجات الدنيا: فإذا لم يتفق الوكلاء على الأسماء والأفعال، كان أي ميثاق مبني فوقها هشاً. والثانية أن التحايل على المواصفات يوصَف بطبيعة الحال بأنه مراجعة للفئات من أعلى، لا خلل في دالة مكافأة بعينها. ويدعو المؤلف من لديهم تأهيل رياضي صراحةً إلى تفكيك هذا البناء والعودة بإصلاح له، وقد رُصدت مكافآت لذلك. وقبل بناء أدوات على هذا الأساس، يحسن انتظار نسخة صورية منه، فهي غير موجودة حتى الآن.