Mobile Fortify: الجهات الأمنية الأمريكية تتعرف على وجهك

تخيل أنك تقف على الحدود أو تمشي في الشارع عندما يوجه أحد المسؤولين هاتفاً ذكياً نحوك. بعد بضع ثوان، تصدر الخوارزمية حكمها. يبدو الأمر وكأنه مشهد من الخيال العلمي، لكن بالنسبة للولايات المتحدة هذا هو الواقع المؤسف لتطبيق Mobile Fortify.

المشكلة الوحيدة هي أن هذا التطبيق غير قادر تقنياً على التحقق من الهوية بالدقة المطلوبة. لم يتم تصميمه أبداً لهذا الغرض. ومع ذلك، لم يوقف هذا مسؤولي جهاز ICE وخدمة الجمارك وحماية الحدود من استخدامه أكثر من 100,000 مرة للتحقق من المهاجرين والمواطنين الأمريكيين على حد سواء.

قصة Mobile Fortify هي مثال كلاسيكي لكيف يؤدي الرغبة في تنفيذ الابتكار بأي ثمن إلى تحويل المؤسسات الحكومية الجادة إلى أبطال كوميديا العبث. في الأصل، تم تصور النظام كأداة مساعدة، نوع من دفتر الملاحظات الرقمي بإمكانية الوصول إلى قواعد البيانات. لكن في مرحلة ما، تحول إلى المطرقة الرئيسية التي يضربون بها كل مسمار.

لتشريع هذه العملية، اضطرت وزارة الأمن الداخلي إلى اللجوء إلى حيلة صغيرة. لقد تجاهلوا ببساطة قواعدهم الخاصة لتقييم تأثر الخصوصية. عندما تعيق القواعد التقدم، لا يغير البيروقراطيون التقدم—فهم يلغون القواعد.

لماذا يهم هذا الآن؟ نحن في ذروة الضجة حول أدوات الذكاء الاصطناعي، والهياكل الحكومية في جميع أنحاء العالم تحاول أتمتة كل شيء يمكنها الوصول إليه. لكن عندما يتعلق الأمر بالتعرف على الوجوه، فإن تكلفة الخطأ ليست مجرد توصية غير صحيحة في خلاصة الأخبار. إنها الاعتقال غير القانوني والاستجواب والحياة المدمرة.

إذا كان النظام يقدم إجابة احتمالية فقط، ويعتبرها المسؤول على أنها الحقيقة النهائية، فإن التكنولوجيا تصبح أخطر من غيابها. الشيء الأكثر سخرية هنا هو أن الوكالة نفسها اعترفت: لم ينجح تطبيق Mobile Fortify في اختبارات امتثال معايير الهوية. إنه كما لو كانت الشرطة تستخدم التنجيم بواسطة بقايا القهوة بدلاً من جهاز قياس تركيز الكحول، ولكن لا تزال تملأ المحضر بوجه جاد.

كثيراً ما يخلط النظام بين الأشخاص ذوي الملامح الوجهية المماثلة، وهو ما يصبح حظاً حقيقياً في سياق العمل مع المهاجرين. وفي الوقت نفسه، يتم حفظ بيانات المسح الضوئي في قواعد بيانات يتم استخدامها لاحقاً لتدريب خوارزميات أكثر توغلاً. نحن نشهد سابقة خطيرة حيث يصبح "الحل المؤقت" معياراً فعلياً.

تقنيات التعرف على الوجوه بالفعل تحت النار بسبب التحيز والأخطاء ضد الأقليات العرقية. استخدام البرنامج المعروف أنه معطوب أو غير مناسب يضيف المزيد من الوقود على النار. بدلاً من بناء نظام تحكم شفاف، اختارت السلطات طريق المقاومة الأقل، حيث تكون الراحة في الواجهة أكثر أهمية من الحقوق المدنية.

هذا يذكرنا بأنه وراء أي "سحر" من الذكاء الاصطناعي يوجد كود ملموس وأشخاص محددون يوافقون على هذا الكود. إذا تم استبدال الحس السليم برغبة في تحقيق العلامة في تقرير الابتكار في مرحلة الموافقة، نحصل على خيال علمي سلبي رقمي على نطاق وطني. وبينما يحاول المدافعون عن حقوق الإنسان الطعن في استخدام Mobile Fortify، يستمر عداد التحقق في العمل، مسجلاً المزيد والمزيد من الوجوه في نظام "لا يعمل بشكل صحيح" رسمياً.