Guardian: شركات AI التي تطور أنظمة للحرب أصبحت بحكم الأمر الواقع من مقاولي الدفاع

يجب تسمية الشركات التي تطور الذكاء الاصطناعي لعمليات قتالية ليس فقط بشركات تكنولوجيا، بل بمقاولي الدفاع. تمر هذه الأطروحة عبر مقالة رأي في The Guardian تؤكد أن تكلفة الضوابط الضعيفة لحرب الذكاء الاصطناعي تُقاس بالفعل بالأرواح البشرية.

الأطروحة الصارمة

يبدأ النص بصياغة مباشرة جداً: من غزة إلى إيران، يكتب المؤلف، ينعكس نفس النمط - الأسلحة الدقيقة والعمى المتعمد وموت الأطفال. الشكوى الرئيسية ليست من خطاب الدقة نفسه، بل من كيفية عمله في الممارسة العملية.

عندما تعد نظام بالدقة الجراحية، غالباً ما تصبح المسؤولية السياسية والقانونية غير واضحة: يمكن إرجاع الضرر إلى بيانات سيئة أو معلومات غير كاملة أو خطأ في النموذج. يعتبر المؤلف هذا أخطر تأثير لسباق التسلح الحالي في أدوات الذكاء الاصطناعي العسكري.

يُقدم عنوان المقالة كتهمة: إذا كانت شركة ما تنشئ نماذج وخدمات تشارك في اختيار الأهداف أو التعرف على التهديدات أو اتخاذ قرارات حول استخدام القوة، فلا يمكن اعتبارها مجرد بائع برمجيات. بحسب منطق المؤلف، هذا بالفعل جزء من سلسلة الإمداد الدفاعية، مما يعني أنه يجب تطبيق قواعد أكثر صرامة للشفافية والإشراف والمسؤولية. وإلا فإن العلامة التجارية للتكنولوجيا تصبح درعاً مريحاً يمكن إخفاء تبعات النشر العسكري خلفه.

منطق الضباب

لشرح هذه الفكرة، يشير المؤلف إلى 'إجراء الضباب' الإسرائيلي - قاعدة غير رسمية يطلق بموجبها الجنود في النقاط، في ظروف الرؤية الضعيفة، نيران على الظلام بافتراض أن تهديداً قد يكون كامناً هناك. في النص، يتم وصف هذه الممارسة ليس كإفراط عشوائي، بل كمبدأ: أولاً تأتي العمى، ثم العنف، وفقط بعد ذلك يأتي الشرح لسبب كون ذلك ضرورياً مزعوماً.

الذكاء الاصطناعي، يجادل المؤلف، لا ينسخ هذا المنطق بل يجعله أكثر نظاماً. بدلاً من إنسان يطلق النار في المجهول، هناك نموذج مدرب على التعامل مع الإشارات غير الكاملة والاحتمالات. من الناحية الرسمية، يبدو الحل أكثر حذراً لأنه مصحوب بواجهات وتسميات وتصنيف ولغة 'الدقة'. لكن الجوهر، وفقاً للعمود، لم يتغير: الآلة لا تلغي الغموض الأخلاقي بل تعبئه في إجراء تكنولوجي.

'عنف مصرح به من خلال العمى.'

حيث تكون المسؤولية مطلوبة

من هذه الأطروحة ينبثق ليس فقط خلاف أخلاقي بل أيضاً خلاف عملي جداً حول التنظيم. إذا استمر مطورو الذكاء الاصطناعي العسكري في تسمية أنفسهم ببساطة شركات ذكاء اصطناعي، فإن النقاش العام ينخفض بسهولة إلى جودة النموذج وسرعة الاستدلال ودقة التعرف. يقترح المؤلف زاوية مختلفة: نحتاج إلى مناقشة ليس فقط التكنولوجيا بل أيضاً طريقة تطبيقها وسلسلة الموافقة والوصول إلى البيانات وحدود الأتمتة المسموحة في مسائل الحياة والموت.

في هذا الإطار، يتوقف النزاع على التسمية عن كونه دلالياً: الحد يحدد القوانين التي تنطبق وعلى من يجب الكشف عن المخاطر ومن يمكن للمجتمع أن يطالبه بالمسؤولية عن العواقب.

• كيف يشارك النظام بالضبط في اختيار الهدف أو تقييم التهديد
• من يتحمل المسؤولية القانونية عن أخطاء النموذج في العمليات القتالية
• ما البيانات والافتراضات التي تقوم عليها الاستنتاجات 'الدقيقة' للنظام
• أين تقع الحدود بين توصية الذكاء الاصطناعي وقرار الإنسان بالضغط على الزناد
• ما هي التدقيقات المستقلة والقيود التي يجب أن تخضع لها هذه المنتجات قبل النشر

ماذا يعني هذا

إذا قبلنا منطق هذا العمود، يجب أن ينتقل النقاش حول الذكاء الاصطناعي في الحرب من الصورة المريحة لـ 'نموذج محايد' إلى سؤال حول وضع المطور. عندما يتم دمج منتج في حلقة تطبيق القوة، فإنه يتوقف عن كونه مجرد برنامج. بالنسبة للدول، هذا حجة لصالح التنظيم المباشر؛ بالنسبة للشركات، إنها إشارة إلى أنها لا تستطيع بعد الآن الاختباء من المسؤولية عن العواقب خلف كلمة 'التكنولوجيا'.