تقطير العقل: لماذا يضرّ المعلّمون الأذكى من اللازم بالشبكات العصبية

تخيّل أنك تحاول شرح الديناميكا الكهربائية الكمومية لتلميذ في الصف الأول. قد تكون عبقريًا بمستوى فاينمان، لكن تلميذك لا يملك ببساطة الجهاز المفاهيمي اللازم لاستيعاب المعلومات. في عالم الذكاء الاصطناعي تُسمّى هذه العملية التقطير، حيث يحاول نموذج «معلّم» ضخم مثل GPT-4 نقل معارفه إلى نموذج «تلميذ» صغير. وحتى الآن كانت الصناعة تعتقد أنه كلما زادت البيانات التي نغذّي بها النموذج الصغير، ازداد ذكاؤه. لكن باحثين من جامعة فودان قرروا الطعن في هذا النهج الكمّي، وأثبتوا أن جبال البيانات كثيرًا ما تتحول إلى ضجيج معلوماتي.

تكمن مشكلة التقطير الكلاسيكي للاستدلال في أننا لا نأخذ في الحسبان الفجوة المعرفية بين النماذج. فإذا كانت المسألة بالغة البساطة، فإن النموذج الصغير يعرف الإجابة أصلًا ولا يتعلم شيئًا. وإذا كانت بالغة التعقيد، فإنه يحفظ تسلسل الرموز (token) عن ظهر قلب دون أن يفهم منطق الاستنتاج. وقدّم العلماء الصينيون مفهومًا أنيقًا هو «الغريب المألوف». وهي البيانات التي يتردد فيها النموذج التلميذ: فهو يفهم السياق، لكنه لا يستطيع بعدُ تقديم نتيجة صحيحة بشكل مستقر. وفي هذه «المنطقة الرمادية» تحديدًا يحدث النمو الحقيقي للذكاء.

ولتحديد هذه الحبيبات الذهبية من البيانات، اقترح الفريق مؤشرًا بسيطًا لكنه فعّال. فبدلًا من الاعتماد على تقييمات معقدة للأوزان أو على عمليات تحقق خارجية، ينظر الباحثون إلى مدى ثقة النموذج بإجاباته. فإذا قدّم النموذج التلميذ إجابة صحيحة باحتمال منخفض، أو أخطأ «بفارق ضئيل جدًا»، فنحن أمام «الغريب المألوف» المطلوب. ويذكّر ذلك بمنطقة النمو القريب في علم النفس البشري: نتعلم أفضل ما نتعلم حين تتحدّانا المهمة وتبقى في الوقت نفسه قابلة للإنجاز.

وتبدو نتائج التجارب صادمة لمن اعتادوا حلّ المشكلات بإغراقها ببطاقات H100. فقد تبيّن أن التدريب على 10% من «الغرباء المألوفين» المنتقاة بعناية يتفوق في الكفاءة على التدريب على 100% من البيانات العشوائية المأخوذة من المجموعة نفسها. وهذا ليس تحسينًا طفيفًا، بل تحول جوهري في اقتصاديات تدريب الشبكات العصبية. فنحن ننتقل من استراتيجية «الأكثر يعني الأفضل» إلى انتقاء جراحي الدقة لأمثلة التدريب.

لماذا يهمّنا هذا الآن؟ لأن معركة الذكاء الاصطناعي تنتقل من مزارع الخوادم العملاقة إلى جيوبنا. فشركات Apple وGoogle وSamsung تحاول بإصرار حشر نماذج استدلال قوية داخل الهواتف الذكية. وتتيح منهجية جامعة فودان جعل هذه النماذج المحلية أذكى بكثير دون تضخيم حجمها ودون قضاء أسابيع في إعادة تدريبها. وإذا تعلمنا انتقاء بيانات التقطير بكفاءة، فستتقلص الفجوة بين عمالقة السحابة والمساعدين المحليين بوتيرة أسرع بكثير مما توقعه المتشككون.

وفي المحصلة، يذكّرنا البحث بأهمية علم التربية حتى في عالم السيليكون. فالمعلّم الجيد ليس من يعرف أكثر من الجميع، بل من يدرك المستوى الحالي لتلميذه ويعطيه المسألة التي تجعل دماغه (أو شبكته العصبية) يعمل بأقصى طاقته. ويبدو أن عصر الابتلاع الأعمى لتيرابايتات النصوص يقترب من نهايته، ليفسح المجال لتعلّم ذكي وانتقائي.

الخلاصة: كفاءة التدريب باتت أهم من حجم البيانات. فهل سنرى خلال العام المقبل نماذج محلية تضاهي GPT-4 في جودة الاستدلال بفضل التصفية الصحيحة للمعرفة؟