ذكاء اصطناعي تستخدمه الشرطة في تينيسي يتسبب في سجن امرأة قرابة ستة أشهر عن طريق الخطأ

أمضت امرأة في تينيسي قرابة ستة أشهر في السجن بعد أن ربطها نظام التعرف على الوجوه باحتيال مصرفي. وكان خطأ الذكاء الاصطناعي هو الأساس الذي بُني عليه الاعتقال، رغم أنها كانت، بحسب ملف القضية، في ولاية أخرى وقت وقوع الجريمة.

كيف نشأت القضية

وفق رواية جهة التحقيق، يُزعم أن المتهمة سحبت أموالًا من حسابات مصرفية باستخدام وثائق مزوّرة. استخدم رجال الشرطة نظامًا للتعرف على الوجوه وحصلوا على تطابق مع امرأة من تينيسي، فاعتُبرت هي المشتبه بها. ثم تحوّل الاستنتاج الخوارزمي من مجرد إشارة واحدة تستدعي التحقق إلى ما يشبه الدليل المركزي في القضية. وكان ذلك كافيًا لإطلاق الملاحقة الجنائية وإيداع المرأة خلف القضبان قرابة ستة أشهر.

غير أن الفرضية الأساسية تبيّن أنها خاطئة: فالمرأة لم ترتكب الجريمة المنسوبة إليها، وكانت وقت الواقعة في ولاية أخرى. وهذا يعني أن الخلل لم يقع على مستوى الخوارزمية وحدها، بل على مستوى الإجراءات أيضًا. فإذا كان لدى الشخص حجة غياب ومع ذلك يصل النظام بالقضية إلى الاعتقال والحبس الطويل، فهذا يعني أن آليات إعادة التحقق الأساسية لدى جهة التحقيق لم تعمل.

لماذا فشل النظام

أنظمة التعرف على الوجوه لا تستطيع إثبات الذنب، فهي لا تفعل سوى البحث عن تشابه محتمل بين الصور. وعمليًا تؤثر في النتيجة جودة الكاميرا وزاوية الالتقاط والإضاءة وعمر الصورة ومدى دقة إدخال بيانات الشخص في قاعدة البيانات. وعندما تُستخدم هذه الأداة بوصفها إجابة شبه جاهزة، لا بوصفها دافعًا للتحقق من وقائع إضافية، ترتفع احتمالية الخطأ الجسيم بشكل حاد. ويزداد ذلك خطورة حين يتحول القرار بسرعة إلى اعتقال.

وتبرز في قضية تينيسي بوضوح عمليات التحقق التي كان ينبغي أن تُجرى قبل الاعتقال. فإذا كانت التهمة في قضية بعينها تدور حول تطابق الوجه، فعلى جهة التحقيق أن تؤكد على نحو مستقل مكان وجود الشخص، وأن تتحقق من الوثائق الأولية، وأن تقيّم جودة الصورة نفسها. وإلا فإن أداة «حديثة» في ظاهرها تخفي مشكلة قديمة جدًا: يُتخذ القرار مبكرًا أكثر من اللازم، ويكتسب الشخص صفة المشتبه به قبل أن تُجمع الوقائع الأساسية.

• تأكيد مكان وجود المرأة في يوم الجريمة المفترضة؛
• تحليل جودة الصورة الأصلية وظروف التصوير؛
• مطابقة العمليات المصرفية والوثائق وغيرها من البيانات المستقلة؛
• مراجعة يدوية من المحقق، ومن خبير ثانٍ عند الحاجة.

لا تبدو أي من هذه الخطوات غريبة أو خبرة مكلفة. إنها الحد الأدنى المعتاد الذي يلزم كلما أشارت خوارزمية إلى شخص بعينه. وإلا تحولت التقنية التي أُنشئت لتسريع عمل الشرطة إلى آلية تضخّم الإهمال البشري وتضفي عليه مظهر الدقة الرياضية. والخطأ في مثل هذه المنظومة لا يبدو استثناءً، بل نتيجة مباشرة يمكن توقعها لإجراءات ضعيفة جدًا داخل جهة التحقيق.

ثمن خطأ كهذا

قرابة ستة أشهر في السجن ليست مجرد هامش خطأ إحصائي. فخلف هذه المدة وظيفة ضائعة ونفقات دفاع وضربة للسمعة وضغط نفسي ثقيل. وحتى لو سُحبت التهم لاحقًا، يضطر الشخص إلى إعادة بناء حياته بعد قرار اتُّخذ على أساس تطابق خاطئ في النظام. وبالنسبة إلى المتضرر، ليس هذا خللًا تقنيًا، بل أشهر حقيقية من سلب الحرية. ولا يمكن التراجع عن هذا الضرر بتصحيح شكلي واحد.

كما تقوّض مثل هذه القصص الثقة بأدوات الذكاء الاصطناعي في منظومة إنفاذ القانون. فالخطر الرئيسي هنا ليس أن الخوارزميات تخطئ أحيانًا، وهذا معروف منذ زمن طويل، بل أن استنتاجاتها قد تكتسب وزنًا مبالغًا فيه في نظر المحققين والمحكمة. وكلما بدت الآلة «موضوعية» أكثر، سهل تجاهل السؤال: ما البيانات التي رأتها فعلًا، وما الذي فاتها، ومن يتحمل مسؤولية عواقب الخطأ.

ماذا يعني ذلك

تُظهر قضية تينيسي أنه لا ينبغي التعامل مع ذكاء اصطناعي الشرطة بوصفه دليلًا في حد ذاته. فمن دون مراجعة يدوية إلزامية، وقواعد شفافة، وآلية سريعة للطعن، قد يكلّف تطابق خاطئ واحد الشخص أشهرًا من حريته. وهذا تذكير مباشر لمنظومة إنفاذ القانون: فسهولة الأتمتة لا تلغي ثمن الخطأ.