كيف يعمل اختيار الرموز في الشبكات العصبية: logits والحرارة و top-p
تختار الشبكة العصبية الكلمة التالية باستخدام logits و softmax. تتحكم الحرارة في العشوائية: القيم المنخفضة تنتج إجابات دقيقة، والقيم العالية تنتج إجابات إبداعية.
◐ استمع للمقال
تختار الشبكة العصبية الكلمة التالية باستخدام logits و softmax. تتحكم الحرارة في العشوائية: القيم المنخفضة تنتج إجابات دقيقة، والقيم العالية تنتج إجابات إبداعية. يقوم top-p بتصفية المتغيرات غير المحتملة. يحدد الضبط الصحيح لهذه المعاملات جودة النص.