مراقبة الذكاء الاصطناعي: كيف تهدد التقدم الاجتماعي

يحذّر بروس شناير وجون بيني من أن أنظمة المراقبة القائمة على الذكاء الاصطناعي تقترب من نقطة حرجة، ستصبح عندها قادرة على رصد كل تصرف علني للمواطن تلقائيًا، وجزء كبير من حياته الخاصة.

غرامات في الوقت الفعلي على أي مخالفة

يصف شناير وبيني آلية محددة: تخيّلوا كاميرا لرصد السرعة تُطبَّق على أي قواعد دون استثناء. سيرصد هذا النظام أنكم أخذتم سلعة من متجر دون دفع ثمنها، أو ألقيتم القمامة خارج سلة المهملات، أو عبرتم الشارع والإشارة حمراء. ولن يكتفي النظام بتسجيل المخالفة، بل سيربطها فورًا بسجلكم الحكومي، ويُخطركم بها، ويفرض عليكم غرامة في الوقت الفعلي. ولن تضطروا إلى انتظار رسالة من الجهة المعنية بعد أسابيع.

أبرز خصائص الأنظمة التي يصفها المؤلفان:

• النطاق — الفضاء العام وجزء كبير من الفضاء الخاص
• تحديد الهوية — ربط تلقائي بالبيانات الحكومية الرسمية
• السرعة — غرامة وإخطار فوريان، لا بعد أسابيع
• الشمولية — أي قواعد، لا قواعد المرور وحدها
• العلنية — إمكانية إبلاغ جمهور واسع، لا السلطات وحدها

لماذا تهدد المراقبة الشاملة التقدم؟

الخطر الحقيقي ليس غرامة على رمي عقب سيجارة. التهديد الرئيسي هو «التأثير المثبِّط» (chilling effect): فحين يعلم الناس أن كل فعل يقومون به قد يُرصد ويُعاقَب عليه، يبدؤون بتجنب السلوك غير المألوف. ويكتسب هذا الأمر أهمية بالغة بالنسبة إلى النشاط المدني والاحتجاجات في الشوارع وجميع أشكال الاعتراض العلني، فهذه هي بالذات ما شكّل تاريخيًا محرك التغيير الاجتماعي.

يدرس علماء الاجتماع والحقوقيون هذه الظاهرة منذ زمن طويل: فالناس يغيّرون سلوكهم عندما يعلمون أنهم تحت المراقبة، حتى لو لم يرتكبوا مخالفة محددة. وقد سجّلت دراسات تراجعًا في نشاط المستخدمين حول المواضيع الحساسة بعد الكشف العلني عن أنظمة المراقبة الجماعية. وتوسّع المراقبة الشاملة بالذكاء الاصطناعي نطاق هذا التأثير ليشمل الحياة العامة اليومية بأكملها.

يُعد بروس شناير من أبرز المتخصصين في الأمن السيبراني عالميًا، وهو يدرس منذ وقت طويل موضوع دولة المراقبة. ومع الباحث جون بيني، يرصد تحولًا جوهريًا: فالذكاء الاصطناعي لا يسرّع المراقبة فحسب، بل يغيّر نطاقها ودرجة أتمتتها. فبعدما كانت المراقبة الجماعية تتطلب آلاف الموظفين، باتت الخوارزميات تتولى هذه المهمة.

«فكّروا في هذه الأنظمة على أنها كاميرات رصد سرعة آلية، لكن على

المنشطات — فهي لا ترصد السرعة، بل أي قاعدة يمكنكم تخيّلها»، كما كتب المؤلفان.

هل لا يزال هناك وقت لإيقاف ذلك؟

الرسالة الأساسية للمقال أن أمام المجتمع نافذة فرصة لا تزال مفتوحة. فتقنيات مراقبة الذكاء الاصطناعي موجودة بالفعل وتتطور بنشاط، لكن بنية المراقبة الشاملة لم تُنشر بعد في كل مكان. ويدعو المؤلفان إلى قرارات سياسية فاعلة: قيود تشريعية على استخدام الذكاء الاصطناعي في المراقبة، وحظر التعرف البيومتري على الهوية في الأماكن العامة، ومعايير دولية.

ويرى شناير وبيني أن السؤال الجوهري ليس «هل هذا ممكن من الناحية التقنية؟» بل «هل ينبغي أن نسمح بحدوثه؟». فالقيود المتعمدة على نطاق الأنظمة، والسجلات الإلزامية لتقنيات المراقبة المستخدمة، وحق المواطنين في الطعن في القرارات الآلية — كلها أدوات حقيقية تُناقَش بالفعل في تشريعات عدد من الدول.

ولا ينكر شناير وبيني الفائدة المحتملة لبعض هذه الأنظمة، مثل مكافحة الجرائم الفعلية. لكن حجتهما الأساسية أن الثمن الذي يدفعه المجتمع الديمقراطي مقابل النظام الشامل باهظ للغاية. فالدول التي اعتمدت المراقبة الجماعية لأغراض الأمن استخدمتها في كثير من الأحيان ضد المعارضين.

ماذا يعني ذلك

مراقبة الذكاء الاصطناعي ليست تهديدًا مستقبليًا مجردًا، بل مهمة هندسية يجري حلها بالفعل. ويدعو شناير وبيني السياسيين والمجتمع المدني وشركات التقنية إلى الاتفاق على خطوط حمراء الآن — قبل أن تبدأ الكاميرات بمراقبة كل واحد منا على مدار الساعة.

ما مخاطر أنظمة مراقبة الذكاء الاصطناعي؟

يرى الخبراء أنها ستتمكن من رصد كل تصرف علني تلقائيًا وفرض غرامات في الوقت الفعلي على أي مخالفة للقواعد — من سرقة سلعة إلى رمي القمامة.