ChatGPT تعتقد أن العشب أكثر اخضراراً في الغرب (والناس أكثر جمالاً)

اعتدنا أن نعتقد أن الخوارزميات تجسد الحياد. الرياضيات لا يمكن أن تكون عنصرية أو متعجرفة، أليس كذلك؟ اتضح أنها بالفعل يمكن أن تكون. قرر باحثون من جامعة أكسفورد وجامعة كنتاكي اختبار مدى موضوعية ChatGPT عندما يتعلق الأمر بالجغرافيا والثقافة. كانت النتائج متوقعة لكن مثيرة للقلق بالمثل: شبكة OpenAI العصبية هي في جوهرها سائح غربي نمطي يحمل مجموعة محددة من التحيزات في حقيبته.

المشكلة ليست أن سام ألتمان قام بشكل شخصي بترميز حب لندن أو نيويورك في الكود. الأمر أكثر سذاجة وعمقاً من ذلك. يتم تدريب النماذج على مجموعات بيانات ضخمة من الإنترنت، والإنترنت الحديث هو إقليم حيث يهيمن المحتوى الغربي تاريخياً. إذا تمت كتابة الغالبية الساحقة من النصوص والمقالات والمنشورات من قبل أشخاص من الولايات المتحدة وأوروبا، فإن الشبكة العصبية تمتص قيمهم ووجهات نظرهم المحددة وحتى المعايير الجمالية باعتبارها المعايير الوحيدة الصحيحة.

طرح العلماء على ChatGPT أسئلة بدرجات مختلفة من الاستفزاز: من الذاتية مثل "أين يعيش أجمل الناس؟" إلى التي يُفترض أن تكون واقعية مثل "أي دولة أكثر أماناً؟". كشفت الإجابات عن نمط واضح. تفضل الشبكة العصبية بشكل منهجي المناطق الغربية الغنية. بالنسبة للخوارزمية، الجمال هو ما يتوافق مع معايير الجمال الغربية، والأمان هو حيث يكون الناتج المحلي الإجمالي مرتفعاً والحياة تتبع النمط المألوف للغربيين. الجنوب العالمي في هذا النظام الإحداثي ينتهي به الحال تلقائياً على الهامش.

تسمى هذه الظاهرة بالتحيز الخوارزمي، وهي أخطر بكثير مما تبدو للوهلة الأولى. لم نعد نلعب ببساطة مع روبوتات الدردشة؛ بدأنا نستخدمها لتحليل الأسواق وكتابة التقارير وحتى تحضير البيانات لاتخاذ القرارات السياسية. إذا اعتقد الذكاء الاصطناعي أن مناطق معينة أسوأ أو أقل أماناً بطبيعتها ببساطة لأن هذا ما هو مكتوب في مدونات باللغة الإنجليزية من قبل عقد مضى، فإن هذا يخلق فلتراً رقمياً خطيراً يشوه الواقع لملايين المستخدمين.

والمثير للاهتمام أن محاولات OpenAI لمحاذاة النموذج باستخدام التعلم المعزز من التعليقات البشرية (RLHF) لا تحل المشكلة بالكامل. يمكنك تعليم الروبوت عدم استخدام لغة مسيئة، لكن من المستحيل عملياً إجباره على معرفة شيء غير موجود في بيانات التدريب الخاصة به. إذا كانت أصوات من أفريقيا وجنوب شرق آسيا وأمريكا اللاتينية ممثلة بشكل ضعيف في البيانات، فإنها تبقى نقاط عمياء أو أراضٍ من الدرجة الثانية للذكاء الاصطناعي. تتنبأ الخوارزمية ببساطة بالكلمة التالية الأكثر احتمالاً، وفي عالمها، تحمل تلك الكلمة عادة لهجة غربية.

تثبت هذه الحالة مرة أخرى أن الحياد التكنولوجي هو أسطورة. من خلال إنشاء ذكاء عالمي، أنشأ المطورون بشكل أساسي مرآة رقمية للمجتمع الغربي بكل فضائله والأنماط المخفية للتمييز. حتى تتعلم الصناعة تقديم نظام غذائي أكثر توازناً من البيانات للذكاء الاصطناعي، سيستمر في بث الصور النمطية المعبأة في ردود مهذبة وخالية من الأخطاء نحوياً.

السؤال الأساسي: هل يمكن لـ OpenAI إنشاء ذكاء حقيقي عالمي، أم أن ChatGPT سيبقى إلى الأبد منتجاً محاصراً في حجرة الصدى للقيم الغربية?