الشرطة البريطانية تقر بتحيز AI لديها، لكنها تعد بمكافحته

عندما يصرح مسؤول شرطة رفيع المستوى علناً بأن التكنولوجيا التي تنوي الدولة نشرها على نطاق واسع تحتوي على انحيازات منهجية، فإن هذا يستحق انتباهاً وثيقاً. هذا بالضبط ما حدث في المملكة المتحدة، حيث اعترف أليكس موراي، رئيس قسم الذكاء الاصطناعي في الوكالة الوطنية لمكافحة الجريمة (NCA)، في مقابلة حصرية مع صحيفة جارديان بما هو واضح: الذكاء الاصطناعي في خدمة أجهزة إنفاذ القانون سيكون متحيزاً. لكنه وعد فوراً بأن سيتم التعامل مع هذه المشكلة.

السياق الذي ترد فيه هذه التصريحات مهم بنفس أهمية محتوى التصريح ذاته. شرعت حكومة حزب العمل في المملكة المتحدة في توسيع درامي لاستخدام الذكاء الاصطناعي في شرطة إنجلترا وويلز. لا يتعلق الأمر بتجارب محلية، بل بتحول منهجي: تقيم قيادة الشرطة بأن القوات الأمنية ببساطة لن تستطيع مواكبة تطور الجريمة بدون الذكاء الاصطناعي. لتحقيق هذه الطموحات، يتم إنشاء مركز متخصص للذكاء الاصطناعي بموازنة قدرها 115 مليون جنيه إسترليني—حوالي 13.5 مليار روبل بسعر الصرف الحالي. وهو مبلغ يعكس جدية النوايا.

سارع موراي بنفسه إلى طمأنة الجمهور بعبارة أصبحت بالفعل ميماً في وسائل الإعلام البريطانية: "هذا ليس RoboCop". وفقاً له، ينصب التركيز في المقام الأول على تحسين الكفاءة في التحقيقات المعقدة—معالجة مجموعات البيانات الضخمة، تحديد الأنماط، تسريع العمل التحليلي. يبدو معقولاً وحتى غير ضار. لكن الشيطان، كما هو الحال دائماً، يكمن في التفاصيل.

مشكلة الانحياز في الذكاء الاصطناعي في مجال إنفاذ القانون ليست تهديداً نظرياً مجرداً. لقد تراكمت التجربة العالمية بالفعل على أمثلة مثيرة للقلق كافية. في الولايات المتحدة، أظهرت أنظمة تحليل الشرطة التنبؤية مراراً وتكراراً انحيازاً عرقياً، موجهة بشكل غير متناسب موارد أكثر للأحياء التي تسكنها الأقليات. أظهرت أنظمة التعرف على الوجوه معدلات خطأ أعلى بكثير عند تحديد هوية الأشخاص ذوي البشرة الداكنة. خوارزميات تقييم خطر العود للجريمة منحت درجات أعلى لممثلي مجموعات إثنية معينة في ظروف متساوية. كل هذا ليس فرضية—هذه حالات موثقة.

يمكن تفسير حقيقة أن موراي يعترف علناً بوجود الانحياز بطريقتين. من ناحية، إنها مظهر من مظاهر الصدق الفكري، نادر بين الموظفين الحكوميين الذين يروجون لمشاريع تكنولوجية مكلفة. عادة في هذه المرحلة، يتحدث الناس عن "حيادية الخوارزمية" و"موضوعية البيانات". من ناحية أخرى، الصيغة "نحن نعرف أن هناك مشكلة وسنعمل عليها" هي تقنية كلاسيكية لإدارة التوقعات تسمح بتنفيذ التكنولوجيا الآن ومعالجة المشاكل لاحقاً. وعد "بتحديد الظلم" ليس نفس الشيء مثل وعد بالقضاء عليه.

لسياق أوسع، من المهم فهم أن المملكة المتحدة تتبع اتجاهاً عالمياً. تزيد أجهزة إنفاذ القانون في جميع أنحاء العالم من استخدام الذكاء الاصطناعي، والسؤال لم يعد ما إذا كانت الشرطة ستطبق هذه التقنيات، بل على أي شروط. لقد وضعت الاتحاد الأوروبي في قانونه بشأن الذكاء الاصطناعي قيوداً صارمة على استخدام أنظمة التعرف البيومتري في الوقت الفعلي. المملكة المتحدة بعد بريكست غير مقيدة بهذه القواعد وعلى ما يبدو تختار نهجاً أكثر ليبرالية—مع التركيز على التنظيم الذاتي والسيطرة الداخلية.

معمارية الإشراف ذاتها تستحق اهتماماً خاصاً. إنشاء مركز متخصص بقيمة 115 مليون جنيه إسترليني هو محاولة لمركزة التطوير والإشراف، وهو ما هو أفضل نظرياً من التنفيذ الفوضوي للذكاء الاصطناعي من قبل أقسام الشرطة الفردية. ومع ذلك، يبقى السؤال الرئيسي بدون إجابة: من سيراقب المراقبين؟ إذا أجرت الشرطة ذاتها تدقيق الانحياز، فهذا يشبه طلب ثعلب لحراسة حظيرة الدجاج. الإشراف الخارجي المستقل، وشفافية الخوارزميات، وآليات الطعن في القرارات—كل ذلك يبقى في مجال النوايا الطيبة في الوقت الحالي.

بالنسبة للجمهور الروسي، هذه القصة مهمة كنقطة مرجعية. تنفذ أجهزة إنفاذ القانون الوطنية أيضاً بنشاط تقنيات التعرف على الوجوه والتحليل التنبؤي، لكن هناك فعلياً لا توجد نقاشات عامة حول انحياز هذه الأنظمة في روسيا. تُظهر التجربة البريطانية أنه حتى في دولة لديها مؤسسات متطورة للسيطرة المدنية وإعلام مستقل، تبقى مشكلة الانحياز في الذكاء الاصطناعي في الشرطة دون حل. الاعتراف بالمشكلة هو خطوة ضرورية أولى، لكن بدون آليات إشراف محددة، فإنها تخاطر بأن تبقى إيماءة جميلة تليها حتماً تنفيذ صامت للتقنيات الناقصة على نطاق البلد بأكمله.