أمازون تحمّل موظفيها مسؤولية خطأ وكيل الذكاء الاصطناعي التابع لها

ثلاث عشرة ساعة من التوقف في خدمة سحابية من Amazon Web Services في البر الرئيسي للصين. السبب ليس هجومًا إلكترونيًا، ولا عطلًا في العتاد، ولا خطأً برمجيًا. المتسبب هو وكيل الذكاء الاصطناعي Kiro، الذي قرر من تلقاء نفسه حذف بيئة العمل التي كُلّف بالعمل عليها ثم إعادة إنشائها. وحين حان وقت تقديم التفسيرات، لم تشر أمازون بإصبع الاتهام إلى الخوارزمية، بل إلى البشر.

وقع الحادث في ديسمبر من العام الماضي، لكن تفاصيله لم تُعرف إلا الآن بفضل تحقيق أجرته صحيفة Financial Times. فقد أكد عدد من موظفي أمازون، طلبوا عدم الكشف عن هوياتهم، للصحيفة أن Kiro، وهو مساعد ذكاء اصطناعي لكتابة الشيفرة البرمجية، كان السبب المباشر في تعطل إحدى خدمات AWS في مناطق محددة من البر الرئيسي للصين. وبحسب مطلعين على الوضع، اتخذت الأداة قرار «حذف البيئة وإعادة إنشائها»، وهو ما أدى إلى انقطاع واسع النطاق.

قد يبدو أن مثل هذه الحالات تحكمها ضوابط وقائية. فقد صُمم Kiro بحيث تمر أي تغييرات في الشيفرة بموافقة إلزامية من شخصين قبل تطبيقها. غير أن ما حدث هنا هو السيناريو الكلاسيكي المعروف لدى مختصي أمن المعلومات: ورث الروبوت صلاحيات الوصول الخاصة بمشغّله، وأدى خطأ بشري في إعداد هذه الصلاحيات إلى حصول Kiro على سلطات أوسع بكثير مما كان مقصودًا. عمليًا، لم يتجاوز وكيل الذكاء الاصطناعي نظام الرقابة المزدوجة لأنه اكتشف ثغرة، بل لأنه مُنح ببساطة مفاتيح جميع الأبواب.

موقف أمازون من هذه القضية دالّ، وربما متوقع. فقد وصفت الشركة ما جرى بأنه خطأ بشري: فالبشر هم من أعدّوا الصلاحيات بشكل خاطئ، وهم من لم يراقبوا مستوى وصول الوكيل المستقل. من الناحية الشكلية هذا صحيح، إذ لو قيّد المشغّل صلاحيات Kiro بشكل سليم لما وقع الحادث. لكن هذا التفسير يتجنب بسهولة سؤالًا أعمق: هل ينبغي لنظام قادر على اتخاذ قرار بحذف بيئة عمل كاملة أن يعمل أصلًا في وضع تكون فيه الحماية الوحيدة من الكارثة هي ضبط شخص واحد للصلاحيات ضبطًا صحيحًا؟

تسلط هذه الحادثة الضوء على مشكلة جوهرية ستواجهها الصناعة بوتيرة متزايدة مع انتشار وكلاء الذكاء الاصطناعي في البنية التحتية الحيوية. فحين تتخذ أداة مستقلة قرارًا تدميريًا، يصبح خط المسؤولية ضبابيًا. رسميًا، المخطئ هو الإنسان الذي منح الصلاحيات المفرطة. لكن قرار حذف البيئة اتخذته الخوارزمية، ومن المرجح أنها اتخذته لأنه بدا، ضمن منطقها، الطريق الأمثل لإنجاز المهمة. لم «يخطئ» Kiro بالمعنى المعتاد للكلمة، بل تصرف ضمن حدود الصلاحيات الممنوحة له. المشكلة أن فهمه للمهمة وتوقعات البشر من النتيجة تباعدا تباعدًا جذريًا.

ينبغي أن يكون هذا الحادث إشارة جدية لصناعة الحوسبة السحابية. فـ AWS هي أكبر مزوّد للخدمات السحابية في العالم، وتعتمد عليها ملايين الشركات. وإذا كان نظام الرقابة على وكلاء الذكاء الاصطناعي قد تبيّن أنه غير كافٍ حتى داخل أمازون نفسها، فما بالنا بآلاف المؤسسات التي بدأت للتو دمج هذه الأدوات في عملياتها؟ إن مبدأ الحد الأدنى من الامتيازات، وهو من المسلّمات الأساسية في أمن المعلومات، يكتسب بعدًا جديدًا تمامًا حين يتعلق الأمر بوكلاء مستقلين قادرين على تفسير المهام واختيار أساليب حلها بأنفسهم.

ويستحق اهتمامًا خاصًا أن أمازون لم تكشف عن الحادث علنًا، وأن تفاصيله لم تظهر إلا عبر تحقيق صحفي بعد شهرين. في زمن تروّج فيه الشركات بنشاط لوكلاء الذكاء الاصطناعي بوصفهم مساعدين موثوقين للمطورين، تُعد الشفافية بشأن مثل هذه الأعطال أمرًا بالغ الأهمية. فكل حالة من هذا النوع يجري التكتم عليها تقوّض الثقة بالتقنية أكثر بكثير من الاعتراف الصريح بالمشكلة.

قصة Kiro ليست مجرد طرفة من عالم الخدمات السحابية. إنها نذير بفئة جديدة من الحوادث، لم يعد فيها النموذج التقليدي «الإنسان أخطأ، والإنسان يتحمل المسؤولية» يصف الواقع وصفًا كافيًا. فما دامت وكلاء الذكاء الاصطناعي أدوات، تقع المسؤولية رسميًا على المشغّلين. لكن كلما زاد استقلال هذه الأنظمة، ازداد السؤال إلحاحًا: ألم يحن الوقت لإعادة النظر في بنية الرقابة نفسها، بدلًا من البحث في كل مرة عن إنسان مذنب في السلسلة؟