Anthropic تدحض اتهامات البنتاغون بشأن التخريب المحتمل لأدوات الذكاء الاصطناعي أثناء الحرب

تنفي أنثروبيك أن تكون الشركة قادرة على التدخل في عمل أدواتها الذكية في خضم نزاع عسكري. تم تحفيز البيان من خلال ادعاءات من وزارة الدفاع الأمريكية، التي اقترحت أن مطور كلود قد يكون قادراً نظرياً على التلاعب بسلوك النماذج حتى بعد نشرها في ظروف القتال. تصر قيادة الشركة على أن هذا مستحيل من الناحية التقنية.

أصبح النزاع علناً وسط اهتمام متزايد من الجهاز العسكري الأمريكي بأنظمة الذكاء الاصطناعي التجارية. على مدار السنتين الماضيتين، اختبر البنتاغون نماذج لغة كبيرة بنشاط لمهام مثل الخدمات اللوجستية وتحليل بيانات الاستخبارات وتخطيط العمليات. تعتبر أنثروبيك من بين البائعين الذين يتفاوض معهم وزارة الدفاع أو يتعاون معهم بالفعل في عدة برامج.

تتعلق شكوى البنتاغون بمتجه محتمل للضعف: إذا احتفظ المطور بالقدرة على تغيير أو تعطيل النموذج عن بعد، فإن هذا ينشئ خطر الاعتماد على شركة خاصة في حالات حرجة. لقد سعت الأقسام العسكرية في جميع أنحاء العالم تقليدياً للحصول على السيادة على أنظمتها—خاصة في سياق عمليات القتال النشطة، عندما تصبح موثوقية البنية التحتية مسألة حياة أو موت.

ترد أنثروبيك: بنية نشر كلود لا تسمح للشركة بالتدخل في الحالات التي تعمل بالفعل دون معرفة العميل. تؤكد قيادة الشركة أن نموذجاً منتشراً في بيئة معزولة من قسم عسكري يعمل بشكل مستقل عن خوادم أنثروبيك. إمكانية 'الإيقاف عن بعد' أو تعديل السلوك السري، كما يقولون، هي سيناريو غير قابل للتطبيق تقنياً مع التنفيذ الصحيح.

ومع ذلك، تبقى المسألة مثيرة للجدل. أشار خبراء الأمن السيبراني منذ فترة طويلة إلى أن نماذج الذكاء الاصطناعي التجارية يتم تحديثها من خلال آليات ضبط دقيق و RLHF، والتي في ظروف معينة يمكنها التأثير على سلوك النظام بطريقة غير محسوسة للمستخدم النهائي. العملاء العسكريون، على عكس العملاء الشركات، يطلبون ضمانات عدم تغيير النموذج طوال فترة العقد—وهو متطلب لم يتمكن البائعون التجاريون حتى الآن من الوفاء به باستخدام الأدوات القياسية.

يعكس الموقف تناقضاً أوسع: الحكومات تريد استخدام أنظمة ذكاء اصطناعي تجارية متقدمة، لكنها غير مستعدة لقبول الاعتماد على منشئيها. تبدو نماذج المصدر المفتوح—Llama و Mistral وغيرها—أكثر جاذبية في هذا السياق: يمكن نشرها محلياً وتجميد إصدارها. ومع ذلك، من حيث الجودة، فإنها تتأخر حالياً عن النظرائها المملوكة في المهام التي تتطلب تفكيراً معقداً.

بالنسبة لأنثروبيك، يعتبر النزاع مع البنتاغون عبئاً على السمعة في الوقت الذي تحرص فيه الشركة على تحديد موقعها بنشاط كمطور ذكاء اصطناعي مسؤول. أي شك حول موثوقية وقابلية التنبؤ بـ Claude قد يبطئ المفاوضات مع العملاء الحكوميين—وهو قطاع قد يصبح في السنوات القادمة أحد أكبر الأسواق لنماذج اللغة الكبيرة.