Cómo Funciona la Selección de Tokens en Redes Neuronales: logits, temperatura y top-p
Una red neuronal selecciona la siguiente palabra usando logits y softmax. La temperatura controla la aleatoriedad: valores bajos producen respuestas precisas, v

◐ Escuchar artículo
Una red neuronal selecciona la siguiente palabra usando logits y softmax. La temperatura controla la aleatoriedad: valores bajos producen respuestas precisas, valores altos producen creativas. Top-p filtra variantes improbables. El ajuste adecuado de estos parámetros determina la calidad del texto.