Inicio / Glosario / Muestreo top-p
What is Muestreo Top-p (Nucleus)?
El muestreo top-p restringe al modelo al conjunto más pequeño de tokens cuya probabilidad acumulada supera p. Las configuraciones de pipeline de osFoundry les permiten ajustar top-p por agente o por ruta de chat.
Detail
Top-p (también llamado nucleus sampling) es una alternativa a la temperatura para controlar la aleatoriedad de la salida. Con top-p = 0,9, el modelo solo considera los tokens que componen el 90 % superior de la masa de probabilidad, ignorando la cola larga.
En la práctica, sitúen top-p en torno a 0,9-0,95 para una salida equilibrada. Más bajo (0,5) es más focalizado; más alto (0,99) es más diverso. Muchos proveedores combinan top-p con temperatura.
Related terms