الباحثون ينشئون شركة Sequent الناشئة: محاذاة الذكاء الاصطناعي لا تسير وفقاً للخطة

أسس مجموعة من باحثي الذكاء الاصطناعي شركة ناشئة تُدعى Sequent مع إعلان عام صريح: العمل على مواءمة الذكاء الاصطناعي مع القيم الإنسانية لا يسير وفقاً للخطة. هذه واحدة من الحالات النادرة التي يتحدث فيها أشخاص من داخل النظام بصراحة عن أوجه قصوره النظامية.

لماذا ظهرت Sequent

يقدم مؤسسو الشركة الناشئة — الخريجون من معهد المملكة المتحدة لأمان الذكاء الاصطناعي وعدد من منظمات البحث الأخرى — تشخيصاً مباشراً: المجتمع الأكاديمي والمختبرات التجارية الكبرى يقللون من الاستثمار بشكل منهجي في الاتجاهات الرئيسية لأبحاث السلامة. المشكلة ليست افتقاراً إلى إعلانات الأمان — جميع اللاعبين الكبار لديهم تلك الإعلانات —. المشكلة أعمق من ذلك: المال والاهتمام يتجهان نحو المجالات التي توجد فيها بالفعل نتائج قابلة للقياس وآفاق نشر واضحة، بدلاً من المجالات التي لن تظهر فيها النتائج دون استثمار.

معهد المملكة المتحدة لأمان الذكاء الاصطناعي هو أحد المؤسسات الحكومية القليلة في العالم التي تم إنشاؤها خصيصاً لتقييم مخاطر الأنظمة المتقدمة للذكاء الاصطناعي. أن يقوم خريجوه بتأسيس شركة ناشئة مستقلة يقول شيئاً مهماً: حتى داخل الاستجابة المؤسسية لمشكلة المواءمة، يرى الناس قيوداً هيكلية لا يمكن تجاوزها من الداخل.

تعلن Sequent عن نهج مختلف بشكل جذري. ستدعم الشركة الناشئة «محفظة من الرهانات البحثية الممولة بشكل ناقص» — اتجاهات ذات مخاطر عالية، آفاق طويلة، أو غياب العائد التجاري الفوري —. في الأساس، هذا هو منطق رأس المال الاستثماري المطبق على جدول أعمال الأمان الأكاديمي.

ما وراء التشخيص

العبارة «alignment is not on track» ليست شعاراً تسويقياً. يقف وراءها أطروحة ملموسة: قدرات أنظمة الذكاء الاصطناعي تنمو أسرع من فهمنا لكيفية عملها وكيفية التحكم فيها بشكل موثوق. الفجوة بين ما تستطيع النماذج القيام به وما نعرفه عنها تتسع باستمرار.

في مجتمع سلامة الذكاء الاصطناعي، من المألوف التمييز بين عدة طبقات من المشكلة التي تعتزم Sequent مهاجمتها:

• القابلية للتفسير — لا نفهم بالضبط كيف تتخذ النماذج القرارات داخل «الصندوق الأسود»
• التوسع — تتصرف النماذج الأقوى بطرق غير متوقعة مقارنة بالإصدارات الأصغر، الاستقراء لا يعمل
• تحديد الأهداف — من الصعب جداً التأكد من أن النموذج يحسن فعلاً ما نقصده، وليس مقياساً بديلاً
• المتانة — السلوك في ظروف خارج التوزيع غالباً ما ينحرف بشكل حاد عن نظام التدريب
• الوكالة — الأنظمة المستقلة التي تعمل في العالم الحقيقي توجد فئات جديدة تماماً من المخاطر

FrontierCode والمساعدون الاصطناعيون

في نفس العدد من Import AI — مادتان إضافيتان —. FrontierCode هو معيار جديد لتقييم الأكواد المُولدة بواسطة نماذج اللغة الكبيرة. ميزته الرئيسية مقابل سابقاته: يتم أخذ المهام من مستودعات الإنتاج الحقيقية، وليس من مهام معدة صناعياً للاختبار. هذا يجعل التقييم أقرب بكثير إلى الممارسة الهندسية الحقيقية ويصعب من «تدريب» النموذج على معيار محدد.

القصة الثانية — تجارب مع «متدربي البحث الاصطناعيين» —. توكيلات الذكاء الاصطناعي تتولى المهام الروتينية في المختبرات العلمية: البحث في الأدبيات وتلخيصها، التحليل الأولي للبيانات، إعداد مسودات أقسام المقالات. يتحقق الباحثون من مدى قدرة هذه الوكيلات على تسريع العملية العلمية دون تقليل الجودة أو إدخال أخطاء منهجية في الاستنتاجات.

ماذا يعني هذا

ظهور Sequent هو إشارة: جزء من مجتمع البحث مقتنع بأن التيار الرئيسي الحالي في أمان الذكاء الاصطناعي لا يتعامل مع حجم وسرعة المشكلة. تستثمر المختبرات الكبرى في السلامة، لكن في المقام الأول في الاتجاهات المتوافقة مع الأهداف التجارية والتنظيمية. شركة ناشئة مستقلة برسالة معلنة بوضوح يمكنها ملء الثغرات الهيكلية التي تُترك دون انتباه بشكل منهجي.

ما إذا كانت فريق صغير سيتمكن من التعامل مع عدم المساواة في الموارد في المنافسة مع Anthropic أو Google DeepMind هو سؤال لا يزال مفتوحاً.