دعوى قضائية بسبب خطأ الذكاء الاصطناعي: شرطة فلوريدا تعتقل رجلاً برياً

تم اعتقال مواطن من فلوريدا بتهمة محاولة استقطاب طفل بناءً على خطأ في خوارزمية التعرف على الوجوه. أرجعت خوارزمية شرطة جاكسونفيل بيتش ثقة بنسبة 93% في التطابق، لكن الرجل كان يعيش على بعد 300 ميل من مكان الجريمة ولم يكن من الممكن أن يكون هناك جسدياً.

كيف أخطأت الشرطة

بدأت المشكلة عندما بدأت قوات إنفاذ القانون في جاكسونفيل بيتش بفحص فيديو من كاميرات مراقبة ماكدونالدز المحلية. في الإطارات - رجل يحاول إقناع فتاة تقل أعمارها عن 12 سنة بمغادرة معه. هذه جريمة خطيرة، وبدأت الشرطة البحث على الفور. قررت الشرطة استخدام التكنولوجيا الحديثة. قاموا بتحميل إطار من الكاميرا إلى نظام التعرف على الوجوه بالذكاء الاصطناعي، آملين في تحديد الجاني بسرعة. تستخدم مثل هذه الأنظمة بالفعل منذ عقود في أجهزة إنفاذ القانون في الولايات المتحدة.

أرجعت النظام بسرعة قائمة بالتطابقات المحتملة مع نسب الثقة بجانبها. بالنسبة لـ Robert Dillon، أظهرت الخوارزمية تطابقاً بنسبة 93% - وهي نسبة عالية جداً تبدو وكأنها حكم. بناءً على هذا، ذهبت الشرطة لاعتقال الرجل. وجدوه في منزله في مدينة بي لايكس بولاية فلوريدا واعتقلوه. لكن هنا تكمن المشكلة: كان Dillon يعيش على بعد 300 ميل من ماكدونالدز في جاكسونفيل بيتش. هذا تقريباً المسافة بين نيويورك وبوسطن. لم يكن من الممكن له أن يكون في مكانين في نفس الوقت جسدياً.

لماذا فشل النظام

عندما أرجعت الخوارزمية 93%، اعتبر المحققون هذا الرقم حقيقة بدلاً من اعتباره إشارة إلى الحاجة لمزيد من التحقق. لم يطرح أحد السؤال الواضح في التحقيق: كيف يمكن أن يكون المتهم في مكان الجريمة إذا كان يعيش باستمرار على بعد 300 ميل من هنا؟ هذه مهارة أساسية في عمل المحقق، وتم تجاهلها لصالح الخوارزمية. هذه حالة كلاسيكية حيث يحل الذكاء الاصطناعي محل التفكير النقدي. تبدو الخوارزمية موضوعية وغير منحازة. تبدو النسبة المئوية علمية ودقيقة. وبدأ الناس يفقدون عادة الشك والتحقق من الأرقام وطرح الأسئلة الأساسية.

تشير الأبحاث أيضاً إلى أن أنظمة التعرف على الوجوه قد تخطئ بشكل منهجي بسبب التحيز في البيانات. تحتوي مجموعات البيانات التي يتم تدريب هذه الأنظمة عليها غالباً على المزيد من أمثلة الأشخاص ذوي البشرة الفاتحة مقارنة بذوي البشرة الداكنة. وهذا يزيد من احتمالية الخطأ لبعض المجموعات السكانية وينشئ خطراً غير عادل.

• قد يعطي الذكاء الاصطناعي نسبة مئوية عالية، لكن هذا لا يضمن الدقة في الموقف الحقيقي • التحقق البشري والمنطق الأساسي للتحقيق قبل الاعتقال - ليست خياراً بل ضرورة • بدون تنظيم ومعايير، ستتكرر مثل هذه الأخطاء وتتسع نطاقاً

الدعوى القضائية كنقطة تحول

الآن يقاضي Dillon عدة وكالات إنفاذ قانون في فلوريدا، طالباً تعويضاً عن الاعتقال غير القانوني والمحاكمة الجنائية والضرر الذي لحق به. هذه الدعوى ليست مجرد طلب شخصي. إنها إشارة صاخبة إلى مشكلة أوسع وهيكلية. حذر الناشطون والباحثون سنوات عديدة من مخاطر التعرف على الوجوه بالذكاء الاصطناعي في عمل الشرطة. تصبح قضية Dillon دليلاً ملموساً ومقنعاً على أن التكنولوجيا يمكن أن تدمر حياة الناس في الواقع، وليس فقط من الناحية النظرية.

ماذا يعني هذا

هذا درس واضح: الذكاء الاصطناعي أداة، وليس طريقة سحرية للعثور على الحقيقة. قد تبدو نسب التطابق العالية مقنعة، لكنها لا تحل محل المنطق الأساسي للتحقيق. قد تجبر قضية Dillon رجال إنفاذ القانون على مراجعة الإجراءات وإضافة عمليات تحقق إلزامية قبل الاعتقال. تم اتخاذ الخطوة الأولى بالفعل - الدعوى كشفت المشكلة. الخطوة الثانية هي التغييرات النظامية.