Como Funciona a Seleção de Tokens em Redes Neurais: logits, temperatura e top-p
Uma rede neural seleciona a próxima palavra usando logits e softmax. Temperatura controla a aleatoriedade: valores baixos produzem respostas precisas, valores a
◐ Ouvir artigo
Uma rede neural seleciona a próxima palavra usando logits e softmax. Temperatura controla a aleatoriedade: valores baixos produzem respostas precisas, valores altos produzem criativas. Top-p filtra variantes improváveis. O ajuste adequado desses parâmetros determina a qualidade do texto.