سكوت وينر يدخل الكونغرس بعد طرح مشروعي قانون بشأن سلامة الذكاء الاصطناعي

إذا كان منتجك يكلّف الذكاء الاصطناعي بكتابة الشيفرة أو تشغيل الأدوات أو التعامل مع بيانات الشركات، فإن مسألة السلامة سرعان ما تصبح ملموسة: من اختبر النظام، وكيف يمكن إيقافه عند حدوث خلل؟ يريد سكوت وينر إلزام مطوري النماذج المتقدمة بالإجابة عن مثل هذه الأسئلة ضمن قواعد واجبة التطبيق. وبعد فوزه في انتخابات الكونغرس، باتت لديه منصة للدفع بهذا البرنامج على المستوى الاتحادي.

وفقًا لـتقرير MIT Technology Review، سيتولى وينر المقعد الذي أخلته نانسي بيلوسي عن سان فرانسيسكو. وما يهم القطاع هو سجله: فقد سبق أن دفع بمشروعي قانون بشأن سلامة الذكاء الاصطناعي في كاليفورنيا. والآن ينبغي متابعة أي من هذه التوجهات سيظهر في المبادرات الاتحادية، ومن ستشمله تحديدًا.

ما الذي يريد وينر جعله إلزاميًا؟

استخدم حاكم كاليفورنيا غافين نيوسوم حق النقض ضد أول مشروعاته المعروفة، SB 1047، في عام 2024. أما مشروع SB 53، الأقل تشددًا، فقد وقّعه الحاكم. لذلك من المبكر القول إن وينر سينقل ببساطة إطارًا تنظيميًا جاهزًا من كاليفورنيا إلى البلاد بأكملها؛ فحتى داخل الولاية، كان لا بد من تعديل النهج الأصلي.

في مقابلة، أيّد وينر إنشاء جهة تنظيمية اتحادية قوية، وفرض اختبارات وعمليات تدقيق إلزامية، وحماية المبلّغين عن المخالفات، واشتراط إمكانية الإيقاف الطارئ. ويريد أيضًا استخدام الرقابة البرلمانية لانتزاع إجابات من مختبرات الذكاء الاصطناعي. وهذه مجموعة توجهات للعمل المستقبلي، وليست وصفًا لمتطلبات اتحادية أُقرّت بالفعل.

لنأخذ مثالًا واضحًا: وكيل يُسمح له بتعديل الشيفرة وتشغيل المهام داخل البنية التحتية للشركة. ينبغي أن يبيّن الاختبار الداخلي ما يحدث عند تلقي أمر خاطئ، وما الإجراءات المتاحة للوكيل، ومن يستطيع إيقاف التنفيذ. ويضيف التدقيق المستقل سؤالًا آخر: هل يستطيع طرف خارجي التحقق من هذه الاستنتاجات؟ ستعتمد الإجراءات المحددة على نصوص القوانين المستقبلية؛ وهذا المثال يوضح المشكلة الهندسية التي يثيرها مثل هذا البرنامج.

التحسين الذاتي للنماذج يتطلب صياغات دقيقة

يبرر وينر الحاجة الملحّة للتحرك بخطر فقدان السيطرة على الذكاء الاصطناعي. وكان الدافع تقريرًا صادرًا عن METR، رأى فيه كثيرون، بحسب عرض المجلة، دليلًا على حدوث تحسين ذاتي تكراري لدى Anthropic.

ولتوضيح الفكرة بمثال بسيط: يساعد نموذجٌ الباحثين على كتابة شيفرة لتدريب النموذج التالي. وإذا أسهمت هذه المساعدة في تسريع التطوير بدرجة ملحوظة، يُطرح سؤال عن مقدار التسارع في الدورة التالية. لكن مشاركة الذكاء الاصطناعي في الأبحاث لا تثبت بحد ذاتها أن النظام يطور قدراته بنفسه بصورة مستقلة وخارجة عن السيطرة. ولا تتضمن المادة المقدمة نتائج تقنية تسمح بالتوصل إلى هذا الاستنتاج.

بالنسبة إلى المطور، ثمة سؤال عملي مفيد هنا: ما القرارات التي يتخذها النظام بنفسه، وأين يتولى الإنسان مراجعة عمله؟ إذا كان الوكيل يقترح تعديلًا على شيفرة التدريب، فهذا مستوى معين من الاستقلالية. أما إذا كان يستطيع تطبيق التعديل بنفسه، وبدء التدريب، ونشر النتيجة، فإن سلسلة الرقابة تكون مختلفة. والجدل السياسي حول المخاطر لا يلغي ضرورة تحليل هذه الفروق.

ما الذي يتغير بالنسبة إلى فرق المنتجات؟

حتى الآن، ينقل المقال نوايا سياسي منتخب. وهو لا يحدد مواعيد لإقرار القواعد، ولا عتبات لحجم النماذج، ولا التزامات على شركة ناشئة عادية تستخدم واجهة API تابعة لطرف آخر. وللكونغرس أولوياته الخاصة، فيما يتطلب إقرار قانون أكثر بكثير من تأييد نائب واحد.

وثمة مسألة أخرى تتعلق بالعلاقة بين السلطات الاتحادية والولايات. يعارض وينر فرض حظر واسع يمنع الولايات من وضع قواعدها الخاصة للذكاء الاصطناعي. وهذا يعني للشركات أن مسألة وجود إطار تنظيمي موحد لا تزال مفتوحة. كذلك لا يمكن الافتراض مسبقًا أن المتطلبات المفروضة على مطوري النماذج المتقدمة ستنطبق تلقائيًا على جميع مطوري التطبيقات.

والخطوة العملية هي تنظيم المعلومات المتعلقة بمنتجك: ما النماذج التي يستخدمها، وما الصلاحيات الممنوحة للوكيل، وكيف يختبر الفريق السيناريوهات الخطرة، ومن يوقف النظام عند وقوع حادث. يساعد هذا التوثيق على مناقشة السلامة مع العميل من الآن. أما تقدير تكاليف الامتثال المستقبلية، فمن الأفضل تأجيله إلى حين ظهور نص محدد؛ إذ لا يمكن حسابها استنادًا إلى تصريحات وينر وحدها.