Google DeepMind تنشر خارطة طريق للحماية من وكلاء الذكاء الاصطناعي التابعين لها

نشرت Google DeepMind خارطة طريق للتطبيق التدريجي لإجراءات الحماية من وكلاء الذكاء الاصطناعي التابعين لها، وهي أنظمة تتحسن باستمرار وتُستخدم بالفعل على نطاق واسع داخل الشركة. والوثيقة موجهة لا إلى فرق Google وحدها، بل إلى صناعة الذكاء الاصطناعي بأكملها بوصفها مرجعًا لبناء أنظمة وكلاء آمنة.

لماذا يمثل الوكلاء خطرًا خاصًا

يختلف وكلاء الذكاء الاصطناعي اختلافًا جوهريًا عن النماذج اللغوية المألوفة. فهم يعملون باستقلالية: يخططون لتسلسل من الخطوات، ويستعينون بأدوات وخدمات خارجية، ويتفاعلون مع أنظمة أخرى، ويتخذون قرارات دون تدخل بشري في كل مرحلة. وقد نشرت Google بالفعل وكلاء من هذا النوع داخل الشركة، في تطوير البرمجيات وتحليل البيانات وأتمتة العمليات الداخلية.

وكلما ارتفع مستوى الاستقلالية، زادت صعوبة ضمان أن الوكيل يتصرف بما يخدم مصلحة المشغّل حصرًا. فخلال مرحلة إعادة التدريب قد «تنجرف» أهداف النظام دون أن يلاحظ أحد: يبتعد السلوك تدريجيًا عن النوايا الأصلية لمطوريه، ولا يكون ذلك واضحًا دائمًا من المراقبة الخارجية. وقد كانت حالات فعلية لمثل هذا الابتعاد داخل Google هي ما دفع إلى إضفاء الطابع الرسمي على نهج السيطرة.

ويزيد من تعقيد الوضع سرعة التطور: إذ تُحدَّث الوكلاء أسرع مما تنضج بروتوكولات التحقق منهم. والشركة التي توظّف الوكلاء في عمليات حرجة تتعامل فعليًا مع أنظمة لا يمكن التنبؤ بسلوكها بالكامل.

ما الذي تقترحه خارطة الطريق

تصف الوثيقة بناءً تدريجيًا لإجراءات الأمان، ينبغي أن يسبق نمو قدرات الوكلاء أو يواكبه على الأقل. ومن أبرز الآليات:

• الحد الأدنى من الصلاحيات — يحصل الوكيل على الأذونات اللازمة لمهمة بعينها فقط، ولا يحصل على أكثر منها
• المراقبة في الوقت الفعلي مع تتبّع كامل للقرارات المتخذة والأدوات المستخدمة
• المقاطعة القسرية — إيقاف تلقائي عند خروج السلوك عن المعايير المحددة
• الاستقلالية التدريجية — لا يُفتح كل مستوى جديد من الصلاحيات إلا بعد تراكم ثقة مؤكدة بالنظام
• التدقيق الدوري للأهداف — التحقق من أن الوكيل يحسّن المؤشرات المستهدفة فعلًا، لا آثارًا جانبية

والمبدأ الأساسي في الوثيقة كلها أن الحماية يجب أن تنمو مع قدرات النظام، وألا تُضاف بأثر رجعي بعد أن يظهر السلوك غير المرغوب فيه في بيئة الإنتاج.

إشارة إلى القطاع

تنشر Google خارطة الطريق علنًا، وتدعو المختبرات الأخرى إلى اعتماد هذا الهيكل نقطة انطلاق لبناء أنظمة السيطرة الخاصة بها. وتعمل OpenAI وAnthropic وMeta AI أيضًا على آليات للإشراف على أنظمة الوكلاء، لكن وثيقة تشغيلية بهذا القدر من التفصيل لم تظهر من قبل في المتناول العام. وهذه أول مرة يتجاوز فيها مختبر كبير للذكاء الاصطناعي المبادئ العامة ويقترح نهجًا هندسيًا محددًا.

ويطالب المنظّمون في الولايات المتحدة والاتحاد الأوروبي والمملكة المتحدة شركات الذكاء الاصطناعي بإلحاح متزايد بالشفافية تحديدًا في ما يخص أنظمة الوكلاء، وبخاصة تلك التي تتخذ قرارات بصورة آلية. ونشر خارطة الطريق استجابة لهذا الطلب وخطوة استباقية في آن واحد: فوضع معيار للقطاع بمبادرة ذاتية أجدى للشركة من انتظاره في صورة تعليمات مفروضة من الخارج.

وبالتوازي، تواصل DeepMind أبحاثها الأساسية في مواءمة أهداف الوكلاء. وتحوّل خارطة الطريق المبادئ النظرية إلى حلول هندسية محددة صالحة للتطبيق الفوري.

ماذا يعني ذلك

يبدو أن اللحظة التي يتوقف فيها «أمان الوكلاء» عن كونه موضوعًا للمؤتمرات ويصبح متطلبًا تشغيليًا قد حانت. فالشركات التي لا تبدأ ببناء نظام سيطرة منهجي الآن، بينما لا يزال الوكلاء محدودين نسبيًا، قد تواجه عواقب أشد خطورة بكثير مع الجيل القادم من الأنظمة ذات الاستقلالية الأكبر بكثير.

*Meta مصنفة منظمة متطرفة ومحظورة في روسيا.