منطقة الانهيار الأخلاقي: كيف أصبح المطوّرون حاجزًا يمتص المسؤولية عن أنظمة الذكاء الاصطناعي

يُنظر إلى مصطلح «human-in-the-loop» عادةً على أنه ضمانة للأمان: وجود الإنسان في الحلقة يعني أن الذكاء الاصطناعي تحت السيطرة. غير أن بيانات يناير 2026 ومفهوم «moral crumple zone» تُظهر أن الأمر يجري تمامًا على العكس.

منطقة الانهيار الأخلاقي

تتضمن كل سيارة حديثة منطقة تشوّه، وهي عنصر أُضعف عمدًا ليمتص الصدمة عند التصادم ويحمي السائق. في عام 2019 أخذت الأنثروبولوجية Madeleine Clare Elish من Data & Society هذه الاستعارة وقلبتها رأسًا على عقب. ففي الأنظمة الآلية المعقّدة كثيرًا ما يصبح الإنسان منطقة كهذه، لكنه هنا هو الذي يتشوّه ليحمي النظام. وحين يخطئ نظام الذكاء الاصطناعي، يتحمّل الإنسان «المراقب» المسؤولية القانونية والمهنية والأخلاقية. تواصل الخوارزمية عملها، ويتحمّل الإنسان العواقب.

«Moral crumple zone» مصطلح صاغته

Madeleine Clare Elish عام 2019: فالإنسان في النظام الآلي قد يتحوّل إلى مكوّن ماصّ للصدمات، يحمي النظام لا نفسه.

قبل ست سنوات كانت هذه فرضية لدى أنثروبولوجية واحدة. أما اليوم، وبحسب أحدث البيانات، فقد صارت تشخيصًا.

أرقام لا تبعث على الاطمئنان

في يناير 2026 استطلعت Sonar آراء أكثر من 1100 مطوّر حول عملهم مع مساعدات الذكاء الاصطناعي. وجاءت الصورة غير حاسمة:

• 96% غير واثقين من السلامة الوظيفية للشيفرة التي كتبها الذكاء الاصطناعي
• أقل من النصف يراجعون شيفرة الذكاء الاصطناعي قبل كل commit
• ومع ذلك يواصل معظمهم استخدام الذكاء الاصطناعي لكتابة الشيفرة الأساسية
• الفجوة بين «أدرك أنه يجب أن أراجع» و«أراجع فعلًا» تواصل الاتساع

هذا ليس كسلًا ولا تهاونًا، بل فخ منظومي. فالذكاء الاصطناعي يرفع وتيرة العمل، والمواعيد النهائية تضيق، أما المراجعة الكاملة لشيفرة لم تكتبها من الصفر فتتطلب وقتًا وجهدًا ذهنيًا لا يتوافران أصلًا. وقد عبّر أحد المشاركين في دراسة Baltes et al. (مارس 2026) عن ذلك دون مجاملات دبلوماسية: «إنهم يستخدمونك حرفيًا لتقيّم بعين ناقدة نتاجهم الرديء من الذكاء الاصطناعي (AI-slop) وتعطيه الـ prompt التالي».

«Verification debt» بحسب Vogels

قدّم Werner Vogels، المدير التقني (CTO) في AWS، مفهوم verification debt، أي دَين التحقق. فأدوات الذكاء الاصطناعي تسرّع كتابة الشيفرة، لكنها في الوقت نفسه تبطّئ فهمها: صار التوليد أسهل من استيعاب ما جرى توليده بالضبط.

يتراكم الدَين التقني الكلاسيكي في الشيفرة نفسها، فهو مرئي وقابل للقياس ويمكن التخلص منه بإعادة الهيكلة (refactoring). أما verification debt فيتراكم في الرؤوس: افتراضات لم تُفحص، وأنماط لم تُستوعب، واعتماد متزايد على الذكاء الاصطناعي بوصفه المصدر الوحيد للحقيقة حول ما يوجد في المستودع.

ووفق بيانات دراسة Sonar نفسها، يصف المطوّرون بوتيرة متزايدة شعورًا بأنهم يفهمون شيفرتهم الخاصة أقل مما كانوا يفهمونها من قبل. ومع ذلك لم تختفِ المسؤولية عنها، بل تقع ببساطة على عاتق الإنسان لحظة فشل النظام.

ماذا يعني ذلك

إن Human-in-the-loop ليس آلية رقابة، بل آلية لتوزيع المسؤولية. فإذا لم تتوافر للإنسان أدوات التحقق الكامل من مخرجات الذكاء الاصطناعي، ولم يخصّص وقتًا لذلك، فإنه لا يغدو مراقبًا بل حاجزًا. أي منطقة انهيار أخلاقي. وحين يخطئ الذكاء الاصطناعي، فإن الإنسان هو من ينكسر.