Helsing تجمع مئات وكلاء الذكاء الاصطناعي لإعداد الأهداف العسكرية للتحقق

عندما يتلقى المحلل معلومات من أجهزة الاستشعار والتقارير المكتوبة والمصادر المفتوحة، يذهب جزء كبير من العمل إلى المطابقة: هل تتعلق الرسائل بالجسم نفسه، وما مدى حداثتها، وهل يمكن الوثوق بها؟ قدّمت شركة Helsing الألمانية منصة Clarity، التي تُوكِل هذا العمل إلى مئات وكلاء الذكاء الاصطناعي وتُعدّ توصيات بشأن أهداف عسكرية. وبحسب الشركة، على الإنسان أن يختار الأهداف ويأذن بكل عملية نقل للبيانات إلى منظومة السلاح.

بالنسبة إلى المطورين ومديري المنتجات، هذا مثال على مشكلة مألوفة لكن كلفة الخطأ فيها قصوى. فالأتمتة تُنتج توصية مقنعة أسرع مما يستطيع الإنسان فهم أسسها. لذلك فالسؤال الرئيسي عن المنتج هو: ما الشروط التي تتيح للمشغّل التحقق من الاستنتاج وإيقاف العملية؟

ما الذي تجمعه Clarity بالضبط

وفق وصف Helsing، تعالج الوكلاء البيانات المتاحة للوحدة: قراءات المستشعرات، ومعلومات المصادر المفتوحة، والتقارير، والمعلومات من الأنظمة المستخدمة أصلًا. ويساعدها مخطط موحد لوصف الأجسام على مطابقة النتائج. ثم تُعدّ المنصة مواد ليتحقق منها الإنسان وتُنقل إلى منظومة السلاح المناسبة.

لنتخيل مثالًا افتراضيًا: رصد مستشعر جسمًا، وظهر في تقرير وصف لجسم مشابه في المنطقة نفسها. على النظام أن يحدد ما إذا كانت الملاحظتان مترابطتين، وأن يُظهر للمحلل أسباب هذا الاستنتاج. هذا توضيح للمهمة وليس سيناريو عرض مؤكدًا لـ Clarity. وتعتمد القيمة العملية على ما إذا كان المشغّل يرى المعلومات الأصلية والتباينات بينها وأسباب التوصية.

تؤكد Helsing أن الهدف لا يدخل في التوصيات إلا عند اتفاق مصادر مستقلة وارتفاع الثقة في التقييم. ومع ذلك، لا تتضمن المادة المعروضة مؤشرات رقمية للدقة أو لمعدل الإنذارات الكاذبة، ولا وصفًا للتحقق من استقلال المصادر. فقد تُعيد عدة رسائل سرد خطأ واحد، ولا يجعل عددها الاستنتاج أكثر موثوقية بحد ذاته.

وجود الإنسان في العملية ليس تحققًا

تَعِد الشركة بتوثيق كل قرار مع اسم الشخص المسؤول. وهذا يخلق أثرًا للتحليل اللاحق: من أذن بالإجراء ومتى. لكن سجل التفويض لا يجيب عن سؤال آخر: هل توافر للمشغّل ما يكفي من الوقت والمعلومات لاتخاذ قرار مدروس؟

يقارن موقع The Decoder وعود Helsing بتحقيقات حول أنظمة عسكرية أخرى. ويشير تحديدًا إلى مواد من +972 Magazine وLocal Call، أفادت بأن التحقق من توصيات النظام الإسرائيلي Lavender استغرق أحيانًا نحو 20 ثانية. لا تصف هذه المعلومات عمل Clarity ولا تثبت أن لديها العيوب نفسها. لكنها تُظهر خطرًا في النهج ذاته: ففي ظل تدفق كبير من التوصيات، قد تتحول الموافقة البشرية إلى إجراء شكلي.

ومن هنا يخرج فريق المنتج بمجموعة محددة من الأسئلة. هل يمكن فتح المواد الأولية مباشرة من التوصية؟ هل تُعرض التناقضات؟ هل يُحفظ تفسير الرفض؟ ماذا يحدث إذا لم يتمكن المشغّل من التحقق من الطابور في الوقت المناسب؟ إن الإجابات عن هذه الأسئلة تكشف جودة الرقابة أكثر من حقل إلزامي يحمل اسمًا.

السيادة تُباع بمعزل عن الموثوقية

حجة أخرى لدى Helsing هي سيطرة العميل على البنية التحتية. وبحسب الشركة، تعمل Clarity على منشآته الخاصة، وتبقى البيانات والعمليات تحت إدارة القوات المسلحة. كما أعلنت الشركة عن تطوير أوروبي للنماذج والواجهات، ودعم معايير الناتو، وربط أنظمة من مصنّعين مختلفين.

هذه شروط مهمة للشراء، فهي تتعلق بمكان استضافة البيانات والتكامل والاعتماد على المورّد. لكن النشر المحلي لا يثبت بحد ذاته صحة التوصيات. كما لم تذكر Helsing في الوصف المعروض ما إذا كانت Clarity تعمل لدى عميل فعلي. وخبرة الشركة في توريد الطائرات المسيّرة إلى أوكرانيا لا تغني عن اختبار هذه المنصة.

وينطبق الاستنتاج العملي كذلك على المنتجات المدنية القائمة على الوكلاء. فإذا كان النظام يُعدّ قرارات ذات عواقب جسيمة، فأدرجوا في المتطلبات إتاحة الوصول إلى الأدلة، وإمكانية الطعن في الاستنتاج، وقياس جودة التحقق البشري. إن عدد الوكلاء يصف بنية المنتج، أما الموثوقية فعليكم إثباتها بشكل منفصل.