Accueil / Glossaire / Échantillonnage Top-p
What is Échantillonnage Top-p (Nucleus)?
L’échantillonnage Top-p restreint le modèle au plus petit ensemble de tokens dont la probabilité cumulée dépasse p. Les configurations de pipeline d’osFoundry vous permettent d’ajuster top-p par agent ou par chemin de chat.
Detail
Top-p (aussi appelé nucleus sampling) est une alternative à la température pour contrôler le caractère aléatoire de la sortie. À top-p = 0,9, le modèle ne considère que les tokens représentant les 90 % supérieurs de la masse de probabilité, ignorant la longue traîne.
En pratique, fixez top-p autour de 0,9-0,95 pour une sortie équilibrée. Plus bas (0,5) est plus focalisé ; plus haut (0,99) est plus diversifié. De nombreux fournisseurs combinent top-p avec la température.
Related terms