Anthropic تنفي اتهامات البنتاغون بإمكانية تخريب أدوات الذكاء الاصطناعي أثناء الحرب

تنفي Anthropic قدرتها على التدخل في عمل أدوات الذكاء الاصطناعي التابعة لها في خضم نزاع عسكري. وجاء هذا النفي ردًا على مآخذ وزارة الدفاع الأمريكية، التي افترضت أن مطوّر Claude قد يتلاعب نظريًا بسلوك النماذج حتى بعد نشرها في ظروف قتالية. ويؤكد قادة الشركة أن ذلك مستحيل من الناحية التقنية.

وأصبح الخلاف علنيًا في ظل تنامي اهتمام المؤسسة العسكرية الأمريكية بأنظمة الذكاء الاصطناعي التجارية. فعلى مدى العامين الماضيين، يختبر البنتاغون بنشاط نماذج لغوية كبيرة في مهام الإمداد والتموين، وتحليل المعلومات الاستخباراتية، وتخطيط العمليات. وتُعد Anthropic من بين الموردين الذين تجري وزارة الدفاع مفاوضات معهم أو تتعاون معهم فعليًا في عدد من البرامج.

ويتعلق مأخذ البنتاغون بثغرة محتملة: فإذا احتفظ المطوّر بقدرة تغيير النموذج أو تعطيله عن بُعد، فإن ذلك يخلق مخاطر الاعتماد على شركة خاصة في المواقف الحرجة. وتسعى الجيوش حول العالم تقليديًا إلى السيادة على أنظمتها، ولا سيما في أثناء العمليات القتالية الفعلية، حين تصبح موثوقية البنية التحتية مسألة حياة أو موت.

وترد Anthropic بأن بنية نشر Claude لا تسمح للشركة بالتدخل في عمل النسخ التي جرى تشغيلها فعليًا دون علم الجهة المتعاقدة. ويشدد قادة الشركة على أن النموذج المنشور في بيئة معزولة تابعة للمؤسسة العسكرية يعمل بصورة مستقلة عن خوادم Anthropic. ويصفون إمكانية «التعطيل عن بُعد» أو التغيير الخفي للسلوك بأنها سيناريو غير قائم تقنيًا عند التنفيذ السليم.

ومع ذلك، تبقى المسألة موضع جدل. فمنذ فترة طويلة يلفت خبراء الأمن السيبراني الانتباه إلى أن النماذج التجارية للذكاء الاصطناعي تُحدَّث عبر آليات fine-tuning وRLHF، وهي آليات قد تؤثر في سلوك النظام، في ظروف معينة، دون أن يلاحظ المستخدم النهائي ذلك. أما الجهات العسكرية المتعاقدة، فعلى عكس الشركات، تطلب ضمانات بثبات النموذج طوال مدة العقد، وهو مطلب لا يستطيع الموردون التجاريون حتى الآن تلبيته بالأدوات القياسية.

وتعكس هذه الحالة تناقضًا أوسع: فالحكومات تريد استخدام أنظمة الذكاء الاصطناعي التجارية المتقدمة، لكنها غير مستعدة لقبول الاعتماد على مبتكريها. وفي هذا السياق تبدو النماذج مفتوحة المصدر، مثل Llama وMistral وغيرهما، أكثر جاذبية، إذ يمكن نشرها محليًا وتثبيت إصدارها. غير أنها لا تزال أدنى جودة من نظيراتها المغلقة في المهام التي تتطلب استدلالًا معقدًا.

وبالنسبة إلى Anthropic، يشكّل الخلاف مع البنتاغون عبئًا على السمعة في وقت تقدّم فيه الشركة نفسها بنشاط بوصفها مطوّرًا مسؤولًا للذكاء الاصطناعي. وقد يؤدي أي شك في موثوقية Claude وإمكانية التنبؤ بسلوكه إلى إبطاء المفاوضات مع العملاء الحكوميين، وهو قطاع قد يصبح في السنوات المقبلة من أكبر أسواق تصريف النماذج اللغوية الكبيرة.