روبوتات الدردشة AI تقدم إجابات أسوأ للمستخدمين من الفئات الهشة

لسنوات عديدة، أقنعتنا صناعة التكنولوجيا بأن الذكاء الاصطناعي هو محقق المساواة الكبير—أداة توفر معرفة بجودة متساوية لأستاذ هارفارد وطالب سنة أولى في جامعة إقليمية. دراسة جديدة من مركز معهد ماساتشوستس للتكنولوجيا لبناء الاتصالات البناءة تحطم هذا الأسطورة بدقة جراحية: نماذج الذكاء الاصطناعي الرائدة توفر بشكل منهجي إجابات أقل دقة للمستخدمين الذين يتمتعون بإتقان منخفض للغة الإنجليزية وتعليم رسمي أقل وأصول غير غربية. بعبارة أخرى، تعمل روبوتات الدردشة بشكل أفضل لأولئك الذين لديهم بالفعل إمكانية الوصول إلى معلومات جيدة بدونها.

لفهم نطاق المشكلة، يلزم السياق. تم تدريب أكبر نماذج اللغة—من ChatGPT إلى Claude و Gemini—بشكل أساسي على بيانات باللغة الإنجليزية من مجموعة ديموغرافية محددة: متحدثو اللغة الأصليين المتعلمون، في الغالب من الولايات المتحدة وأوروبا الغربية. عندما "يفكر" النموذج، فإنه يعتمد على الأنماط المستفادة من هذه المجموعة. هذا ليس خللاً؛ إنها ميزة معمارية—لكن عواقبها محددة تماماً وخطيرة اجتماعياً.

درس الباحثون من معهد ماساتشوستس للتكنولوجيا كيف تتغير جودة الإجابات بناءً على ملف تعريف المستخدم. اختبروا سيناريوهات تمت صياغة الأسئلة فيها بعلامات مميزة للإتقان المحدود للغة—بناء جملة غير قياسي، مفردات غير نمطية، تراكيب بلهجات. كانت النتائج توضيحية: لم تفهم النماذج فقط هذه الاستفسارات بشكل أسوأ—بل قدمت معلومات أقل دقة من الناحية الفعلية. المشكلة لا تقتصر على طلب الروبوت إعادة صياغة السؤال. يجيب بثقة—يجيب فقط بشكل أسوأ. هذا خطير بشكل خاص لأن المستخدم لا يتلقى أي إشارة حول انخفاض الجودة.

آلية هذه الظاهرة متعددة الأوجه. أولاً، تعكس بيانات التدريب وجهة نظر العالم والمراجع الثقافية لفئة الولايات المتحدة المتعلمة بشكل أساسي. عندما يفسر النموذج استفساراً غامضاً، فإنه يقدم افتراضات—وهذه الافتراضات معايرة إحصائياً لملف تعريف اجتماعي محدد. ثانياً، تقلل تراكيب اللغة غير القياسية من ثقة النموذج في تفسير نية المستخدم، مما يؤدي إلى إجابات أقل صلة أو أقل تحققاً من الناحية الدقيقة. ثالثاً، توجد مشكلة ما يسمى "الانحياز الثقافي": نفس المفاهيم—الطبية والقانونية والمالية—لها دلالات وسياقات مختلفة في ثقافات مختلفة، والتي غالباً ما تتجاهلها النماذج.

تتجاوز عواقب هذا عدم التوازن المناقشة الأكاديمية. فكر في من يلجأ في الغالب إلى أدوات الذكاء الاصطناعي للحصول على معلومات حرجة بالفعل—عن الصحة والحقوق والتعليم والتوظيف. أولئك الذين لا يستطيعون تحمل تكاليف محام أو طبيب مدفوع. مهاجر يحاول فهم قواعد التأشيرة. طالب من الجيل الأول في الجامعة يبحث عن مساعدة بشأن القبول الجامعي. شخص مسن بمهارات لغوية محدودة يتحقق من تعليمات تناول الأدوية. بالنسبة لهؤلاء الأشخاص، روبوت الذكاء الاصطناعي ليس لعبة مريحة، بل بديل حقيقي للخدمات المهنية التي لا يمكنهم الوصول إليها. وهؤلاء هم بالضبط الأشخاص الذين يرد عليهم النظام بشكل أسوأ.

بالنسبة للصناعة، يجب أن تكون هذه الدراسة نقطة تحول. تستثمر شركات مثل OpenAI و Google و Anthropic وغيرها موارد كبيرة في تحسين دقة وسلامة نماذجها—لكن معايير الأداء القياسية تقيس الأداء على بيانات الإدخال المثالية. إذا تدهورت جودة الإجابة بشكل كبير مع لغة الإدخال غير القياسية، فإن مقاييس الدقة المعلنة ببساطة لا تعكس التجربة الحقيقية لجزء ضخم من المستخدمين. تحتاج الصناعة إلى مقاييس جديدة—تلك التي تأخذ في الاعتبار التنوع الديموغرافي واللغوي في سيناريوهات الاختبار.

الدراسة من معهد ماساتشوستس للتكنولوجيا ليست حكم إعدام على التكنولوجيا، بل هي تشخيص لحالتها الحالية. يتم تدريب نماذج اللغة على البيانات التي أنشأها البشر، وترث عدم المساواة الهيكلي المدمج في تلك البيانات. حتى تصبح أساليب تدريب وتقييم النماذج أكثر شمولاً بشكل أساسي، ستعيد أدوات الذكاء الاصطناعي إنتاج وتفاقم عدم المساواة التي تعد بالتغلب عليه. التكنولوجيا التي تعمل بشكل أفضل لأولئك الذين يحتاجون إليها أقل ليست أداة محايدة للتقدم. إنها مرآة لنظام الامتيازات القائم، فقط في شكل رقمي.