ChatGPT يرى أن العشب في الغرب أكثر اخضرارًا (والناس أجمل)

اعتدنا أن نعدّ الخوارزميات تجسيدًا للحياد. فالرياضيات لا يمكن أن تكون عنصرية أو متعالية، أليس كذلك؟ يتبيّن أنها قد تكون كذلك بالفعل. قرر باحثون من جامعة أكسفورد وجامعة كنتاكي اختبار مدى موضوعية ChatGPT حين يتعلق الأمر بالجغرافيا والثقافة. جاءت النتائج متوقعة، لكنها مقلقة لا بأقل من ذلك: فنموذج OpenAI هو في جوهره سائح غربي نمطي يحمل في حقيبته مجموعة محددة من الأحكام المسبقة.

لا تكمن المشكلة في أن سام ألتمان كتب بنفسه في الشيفرة حبًّا للندن أو نيويورك. فالأمر أبسط من ذلك وأعمق. تُدرَّب النماذج على كميات هائلة من بيانات الإنترنت، والإنترنت الحديث ساحة يهيمن عليها المحتوى الغربي تاريخيًا. وإذا كانت الغالبية الساحقة من النصوص والمقالات والمنشورات من كتابة أشخاص في الولايات المتحدة وأوروبا، فإن الشبكة العصبية تتشرب قيمهم ووجهات نظرهم الخاصة، بل ومعاييرهم الجمالية، بوصفها الصواب الوحيد.

طرح العلماء على ChatGPT أسئلة متفاوتة في درجة الإثارة، من أسئلة ذاتية مثل «أين يعيش أجمل الناس؟» إلى أسئلة يُفترض أنها واقعية مثل «أي بلد أكثر أمانًا؟». وكشفت الإجابات عن نمط واضح. فالنموذج يفضّل بصورة منهجية المناطق الغربية الغنية. فالجميل بالنسبة للخوارزمية هو ما يوافق المعايير الغربية للمظهر، والآمن هو ما ارتفع فيه الناتج المحلي الإجمالي وساد فيه نمط حياة مألوف للإنسان الغربي. وفي منظومة الإحداثيات هذه، يجد الجنوب العالمي نفسه تلقائيًا في موقع الخاسر.

تُسمّى هذه الظاهرة التحيّز الخوارزمي، وهي أخطر مما تبدو للوهلة الأولى. فنحن لم نعد نكتفي بالتسلية مع روبوتات الدردشة، بل بدأنا نستخدمها لتحليل الأسواق وكتابة التقارير، وحتى لإعداد البيانات اللازمة لاتخاذ قرارات سياسية. وإذا اعتبر الذكاء الاصطناعي أن مناطق معينة أسوأ أو أخطر بالمطلق لمجرد أن مدونات ناطقة بالإنجليزية قبل عشر سنوات كتبت ذلك، فهذا يخلق مرشّحًا رقميًا خطيرًا يشوّه الواقع أمام ملايين المستخدمين.

ومن اللافت أن محاولات OpenAI لتقويم النموذج عبر التعلم المعزز من التغذية الراجعة البشرية (RLHF) لا تحل المشكلة بالكامل. يمكن تعليم الروبوت ألّا يستخدم الإهانات، لكن من شبه المستحيل جعله يعرف ما لا وجود له في عينة تدريبه. وإذا كانت أصوات أفريقيا وجنوب شرق آسيا وأمريكا اللاتينية ضعيفة التمثيل في البيانات، فإنها تظل بالنسبة للذكاء الاصطناعي بقعًا بيضاء أو مناطق من الدرجة الثانية. فالخوارزمية تتنبأ ببساطة بالكلمة التالية الأكثر احتمالًا، وفي عالمها تحمل هذه الكلمة في الغالب لكنة غربية.

تثبت هذه الحالة مرة أخرى أن الحياد التقني أسطورة. فالمطورون الذين سعوا إلى بناء عقل شامل أنتجوا فعليًا مرآة رقمية للمجتمع الغربي بكل مزاياه وأنماط التمييز الخفية فيه. وما دامت الصناعة لم تتعلم أن تقدّم للذكاء الاصطناعي نظامًا غذائيًا أكثر توازنًا من البيانات، فسيستمر في بثّ الصور النمطية مغلّفة بإجابات مهذبة وخالية من الأخطاء النحوية.

الخلاصة: هل ستتمكن OpenAI من بناء ذكاء عالمي حقًّا، أم سيبقى ChatGPT إلى الأبد منتجًا حبيس غرفة الصدى للقيم الغربية؟