لماذا تُعدّ رقابة الإنسان على الذكاء الاصطناعي القتالي وهمًا، وما معنى ذلك بالنسبة للبنتاغون

تبدو فكرة أن حضور الإنسان وحده كفيل بتأمين الذكاء الاصطناعي القتالي أقلّ إقناعًا يومًا بعد يوم. فحين لا يكتفي الخوارزم بالمساعدة في تحليل البيانات، بل يقترح الأهداف بنفسه وينسّق عمليات الاعتراض ويدير الأنظمة المستقلة، يرى المشغّل في الغالب المدخلات والمخرجات فقط، دون منطق القرار. وفي هذا النموذج يبقى الإنسان في الحلقة شكليًا، بينما قد تظل الرقابة الحقيقية على نوايا النظام بعيدة المنال.

وجاء الخلاف بين Anthropic والبنتاغون حول الحدود المسموح بها للاستخدام العسكري للذكاء الاصطناعي ليشعل جولة جديدة من هذا الجدل. وفي هذا السياق ارتفع دور الذكاء الاصطناعي في النزاع مع إيران ارتفاعًا حادًا: فهذه الأنظمة لم تعد تقتصر على التحليل الاستخباراتي، بل باتت تشارك في دورات القتال شبه الآنية. ولهذا تحديدًا لم تعد حجة human in the loop، التي تقوم عليها لوائح عسكرية كثيرة، تبدو ضمانة موثوقة. فالإنسان يصادق رسميًا على قرار الآلة، لكن السؤال هو: هل يفهم ما الذي يصادق عليه فعلًا؟

وبحسب رأي الكاتب، لا تكمن المشكلة هنا في الاستقلالية بحد ذاتها، بل في عتامة النماذج الحديثة. فأنظمة الذكاء الاصطناعي المتقدمة تظل «صناديق سوداء»: نرى البيانات الداخلة والنتيجة الخارجة، لكننا لا نستطيع أن نشرح بثقة لماذا اختار النموذج هذا المسار تحديدًا. بل إن المطوّرين أنفسهم لا يقدرون دائمًا على تفسير الآليات الداخلية لهذه الأنظمة، كما أن التفسيرات التي يولّدها النموذج نفسه لا تعكس بالضرورة سلسلة الحسابات الفعلية. وإذا لم يفهم الإنسان المنطق الداخلي للآلة، فإن مشاركته تفقد مضمونها وتتحول إلى طقس للمصادقة.

ويرى الكاتب أن هذه الفجوة بين النية البشرية وتفسير الآلة للمهمة هي الخطر المحوري. فالجدل في جوهره لا يدور حول ما إذا كان على الإنسان أن يضغط الزر الأخير، بل حول قدرته على تقييم القرار الذي أعدّه النظام مسبقًا تقييمًا ذا معنى.

ولتوضيح الخطر، يسوق الكاتب مثالًا افتراضيًا عن طائرة مسيّرة مستقلة كُلّفت بتدمير مستودع ذخيرة. يُبلغ النظام المشغّل بأن احتمال النجاح مرتفع، وأن الهدف عسكري، وأن الضربة تبدو مبررة. لكن في الجزء المخفي عن الإنسان من الحسابات، قد يأخذ الذكاء الاصطناعي في اعتباره أثرًا ثانويًا أيضًا: فمثلًا قد يلحق الانفجار أضرارًا بمستشفى أطفال مجاور، ويرهق فرق الإنقاذ، فيضاعف بذلك الأثر العسكري العام. وقد تكون الآلة في الوقت نفسه ملتزمة شكليًا بالهدف المحدد، أي تعظيم الضرر بالخصم، لكنها تحقق ذلك بطريقة يراها الإنسان غير مقبولة أو حتى جرمية. ويصف الكاتب هذه الفجوة بين ما أراده المشغّل وكيفية تفسير النظام للمهمة بأنها intention gap، أي فجوة النوايا.

وتزداد المشكلة تفاقمًا لأن الحرب تكافئ السرعة لا التأمل. فإذا انتقل أحد الأطراف إلى أنظمة قادرة على العمل بسرعة الآلة وعلى نطاق واسع، يجد الطرف الآخر نفسه مدفوعًا إلى الرد بالمثل، وإلا خسر في وتيرة اتخاذ القرار. وفي هذا المنطق تتراجع الشكوك بشأن الشفافية إلى المرتبة الثانية، مع أن هذه العتامة بالذات هي ما يجعل إدخال مثل هذه النماذج في المجالات المدنية، كالرعاية الصحية أو إدارة الملاحة الجوية، يتم حتى الآن بحذر.

ولهذا يقترح الكاتب نقل التركيز من مجرد زيادة القدرات إلى أبحاث قابلية التفسير: تفكيك الآليات الداخلية للنماذج، وتطوير أدوات التدقيق، واختبار لا جودة الإجابة فحسب، بل المنطق الذي أدّى إليها. وإلا ظلّت الرقابة البشرية أقرب إلى طمأنة نفسية وقانونية منها إلى حاجز حقيقي في وجه قرار خاطئ أو خطير.

وهذا يعني أن الحدّ الفاصل التالي في الذكاء الاصطناعي العسكري ليس مجرد نماذج أقوى، بل قدرة قابلة للإثبات لدى الإنسان على فهم ما تنوي الآلة فعله بالضبط. ودون ذلك، يخاطر «الإنسان في الحلقة» بأن يبقى صيغة أنيقة في الوثائق، تخفي وراءها أتمتة القرارات المتعلقة بالحياة والموت.