MIT تكشف عن WRING: طريقة لتقليل التحيّز في نماذج الرؤية الاصطناعية دون إنتاج انحيازات جديدة

قدّمت MIT وWorcester Polytechnic Institute وGoogle طريقة WRING، وهي أسلوب جديد لتقليل التحيّز في نماذج vision-language. ويُفترض أن تعالج الطريقة مشكلة قديمة في إزالة التحيّز (debiasing)، وهي كيفية التخلص من انحياز واحد دون أن ينشأ انحياز آخر في جزء مجاور من النموذج.

لماذا تفشل الطرق القديمة

لم تعد مشكلة التحيّز (bias) في الرؤية الحاسوبية مجرد جدل أكاديمي. فإذا كان النموذج يساعد طبيب الأمراض الجلدية في تقييم صور البشرة، فقد يؤدي انحيازه نحو لون بشرة معيّن إلى إغفال خطر صحي. والأمر نفسه ينطبق على البحث عن الصور وتصنيف الأشياء وأي نظام يربط فيه النموذج بين الصورة والنص.

ويذكّر باحثو MIT بأن التحيّز لا ينبع من البيانات وحدها، بل أيضًا من الطريقة التي ينظّم بها النموذج نفسه الروابط داخل التمثيلات المضمَّنة (embeddings).

وأشهر وسائل المعالجة هي projection debiasing. وببساطة، يجري «اقتطاع» الاتجاه المسؤول عن السمة غير المرغوبة من تمثيل النموذج. يبدو ذلك منطقيًا على الورق، لكنه يؤدي عمليًا إلى ما يسميه الباحثون معضلة Whac-a-mole: تُزيل انحيازًا فيظهر آخر في مكان مختلف. فمثلًا، إذا خُفّف الانحياز العرقي في نموذج يختار صور العاملين في المجال الطبي، فقد يتعزّز الانحياز الجنسي عن غير قصد. يتوقف النموذج عن استخدام اختصار (shortcut) واحد، لكنه يبدأ بالاعتماد بدرجة أكبر على اختصار آخر.

ماذا تفعل WRING

يقترح WRING، أي Weighted Rotational DebiasING، ألا يُقتطع جزء من فضاء السمات، بل أن تُدوَّر الإحداثيات المطلوبة بعناية داخل الفضاء الجزئي ذي الصلة. والفكرة أن يتوقف النموذج عن التمييز بين المجموعات حيث يخلق ذلك انحيازًا غير مرغوب، دون أن يفقد الروابط المفيدة الأخرى. وإذا كان الإسقاط التقليدي يغيّر الهندسة المحيطة بالسمة المستهدفة بقدر من الخشونة، فإن WRING يسعى إلى إبقائها سليمة قدر الإمكان.

«عندما تكتفي باقتطاع الانحياز، فإنك تضغط الفضاء المحيط به دون قصد»،

بهذه العبارة يصف المؤلفون نقطة الضعف في الأساليب القديمة.

وعمليًا، يمكن تطبيق الطريقة على نموذج vision-language مدرَّب مسبقًا مثل CLIP أو OpenCLIP دون إعادة تدريبه من الصفر. وهذه نقطة مهمة للصناعة، فالنماذج متعددة الوسائط الكبيرة مكلفة، وقلّة من الجهات مستعدة لإعادة تشغيل مسار التدريب (training pipeline) كاملًا من أجل خطوة تصحيحية واحدة. تعمل WRING بأسلوب post-processing، أي أنها تُطبَّق فوق النموذج الجاهز ويمكن استخدامها «أثناء التشغيل» في سيناريوهات البحث والترتيب (ranking) وتصنيف الصور.

ماذا أظهرت الاختبارات

قُبل البحث في مؤتمر ICLR 2026، وقارن المؤلفون في تجاربهم بين WRING وأساليب الإسقاط المعتادة على أربع مجموعات بيانات. تناولت مجموعتان الانحيازات العرقية والجنسية، وتناولت ثالثة صور الكلاب حيث كان النموذج يخلط بين الجسم نفسه والخلفية، وتناولت الرابعة الملابس حيث اختلطت عوامل اللون والموسم والارتباطات الجنسية. والخلاصة أن WRING خفّضت التحيّز بشكل ملحوظ في السمة المستهدفة، ولم تزد الانحيازات الخفية في الاتجاهات الأخرى.

• في صور الكلاب، أزالت الطريقة الارتباط بالخلفية دون تعزيز التحيّز المرتبط بالسلالة.
• في الصور التي تظهر فيها وجوه بشرية، خفّضت الانحياز المستهدف دون زيادة جانبية في ارتباطات حساسة أخرى.
• في الملابس، حافظت على قدر أكبر من بنية النموذج الأصلي مقارنةً بإزالة السمات عبر الإسقاط.
• لا تتطلب الطريقة تدريبًا إضافيًا، ولذلك فإن دمجها في المسارات العاملة بالفعل أسهل.

وللنهج قيد أيضًا: فهو يناسب حاليًا بصورة أفضل النماذج التبايُنية (contrastive) المشابهة لـ CLIP، حيث تعيش الصور والنصوص في فضاء تمثيل مشترك. والخطوة المنطقية التالية، التي يعدّها المؤلفون أنفسهم أولوية، هي نقل الفكرة إلى نماذج اللغة التوليدية على غرار ChatGPT. وإذا نجح ذلك، فقد تتحول WRING من أداة متخصصة في الرؤية الحاسوبية إلى وسيلة أعم لمعالجة التحيّز بأمان أكبر في أنظمة الذكاء الاصطناعي المدرَّبة مسبقًا.

ماذا يعني ذلك

لا تكمن أهمية WRING في أنها تَعِد بـ«حل التحيّز بالكامل»، بل في أنها تقدّم حلًا هندسيًا وسطًا أكثر دقة. وبالنسبة إلى الفرق التي تستخدم نماذج شبيهة بـ CLIP في الطب أو البحث أو الإشراف على المحتوى، فهي مسار عملي لتقليل الانحيازات دون إعادة تدريب مكلفة ودون خطر إفساد خصائص النموذج المجاورة عن غير قصد.