تقطير المجموعة النموذجية على Kaggle: نموذج واحد يتفوق على معلّمه ويوفّر 6.5 ساعات

في المسابقات ذات الحد الصارم للاستدلال، لا تكون المشكلة غالباً في الجودة بل في الوقت. وهذا بالضبط ما واجهه الفريق الذي احتل المركز 19 في مسابقة RSNA Knee Abnormality Detection على Kaggle: فمجموعة النماذج لديه، المكوّنة من ConvNeXt وCoAtNet وResNet-GRU، كانت تستغرق نحو سبع ساعات من أصل تسع مسموحة. ولم يكن هناك مجال لإضافة نماذج قوية أخرى.

كيف نضغط مجموعة نماذج في نموذج واحد

الحل هو التقطير الكلاسيكي، لكن مع تفاصيل دقيقة. فقد كان المعلّم هو تنبؤات out-of-fold لمجموعة مبكرة: أي أن كل فحص كانت تتنبأ به فقط النماذج التي لم تره أثناء التدريب. وبذلك لا تُسرّب الأهداف الناعمة الوسوم إلى الطالب.

جاءت الأهداف مزيجاً بنسبة 50/50: احتمالات استنتجها النموذج اللغوي من تقارير الأشعة، واحتمالات OOF الخاصة بالمعلّم. والطالب هو ConvNeXt-Tiny برأس slice-attention: مجال رؤية 140 مم، ودخل 384 بكسل، و8 نوافذ لكل سلسلة أثناء التدريب و16 أثناء الاستدلال. يضاف إلى ذلك EMA للأوزان، ودالة خسارة ترتيب زوجية فوق BCE، ومعدلات تعلّم منفصلة للعمود الفقري والرأس.

النتيجة: على اللوحة الخاصة حقق الطالب 95.1% مقابل 94.8% للمعلّم، واستغرق الاستدلال نحو نصف ساعة بدلاً من سبع ساعات. أما حساب متوسط 6 أو 12 طالباً فلم يضف شيئاً يُذكر (95.2%)، فكفى نموذج واحد.

نظرة شاملة ونظرة محلية

الجزء الثاني من الحل هو فرع MedSAM. فعندما تُصغَّر الصورة كاملة إلى حجم صغير، تضيع التفاصيل الدقيقة. لذلك نظر نموذج شامل واحد إلى الركبة كاملة، بينما نظر خمسة نماذج متخصصة إلى اقتطاعات محلية مخصصة لموجودات بعينها.

واستُخدم MedSAM مجمّداً ودون إعادة تدريب: فهو يقسّم العظم على الشريحة الوسطى، ويُتخذ الحد العلوي لأكبر مكوّن في القناع مرساةً. ومنها تُوضع اقتطاعات بحجم 288×288 بكسل (نحو 80 مم) بإزاحات ثابتة. وحقق دمج النموذج الشامل والمتخصصين 96.4% على العام و95.3% على الخاص، بينما سجّلا منفصلين 96.0/95.1% و95.9/94.8%.

النموذج اللغوي كأداة وسم

الوسم جانب مثير للاهتمام بحد ذاته. ففي كل فحص كان يُشغَّل وكيل جديد بموجّه «أنت أخصائي أشعة»: يقرأ التقرير وملفات DICOM ويُخرج احتمالات لـ 12 موجودة، مع طلب استخدام النطاق الكامل من 0 إلى 1. وكان أفضل أسلوب هو متوسط تشغيلين: بالـ DICOM والتقرير، وبالـ DICOM فقط. أما الوسم بالتقارير وحدها على نموذج آخر فجاء أسوأ بوضوح. وأُعيد وسم 440 حالة خلافية من Lateral OA، لكن المؤلفين لم يتمكنوا من قياس أثر ذلك.

ماذا عن الدمج

أكثر الأقسام عملية يتناول أوزان الدمج. فالأوزان الثابتة، وضبطها لكل موجودة على مجموعة Gold المكوّنة من 58 فحصاً، والانكماش نحو أوزان متساوية، لم تختلف على اللوحة الخاصة بأكثر من 0.1 نقطة مئوية. وكلما ضُبطت الأوزان بدقة أكبر على Gold ارتفعت النتيجة عليها وساءت على العام. وقد أظهر split-half CV مسبقاً أن هذا الضبط ضار.

ما الذي يمكن أخذه من ذلك

• إذا اصطدم الاستدلال بالحد المسموح، جرّب التقطير من تنبؤات OOF: فقد لا يقل الطالب عن معلّمه.
• الأهداف الناعمة من النموذج اللغوي انطلاقاً من التقارير النصية وسيلة رخيصة للحصول على وسوم احتمالية.
• لا تُحسّن أوزان الدمج على مجموعة تحقق صغيرة جداً: فالأوزان المتساوية أكثر أماناً في الغالب.
• للتفاصيل الدقيقة، أضف اقتطاعات محلية إلى النموذج الشامل بدلاً من رفع الدقة كاملة.

ويجب أيضاً تذكّر القيود. فالمؤلفون أنفسهم يعترفون بأنهم وثقوا في النهاية بلوحة المتصدرين العامة، وأن Gold المكوّنة من 58 حالة لم تسمح بمقارنة الاستراتيجيات بموثوقية. هذه حالة عملية من Kaggle الطبية وليست نظاماً مُتحققاً منه سريرياً، لكن الوصفة قابلة للنقل إلى أي مهمة لا تتسع فيها المجموعة النموذجية لميزانية الوقت.