Início / Glossário / Amostragem top-p
What is Amostragem Top-p (Núcleo)?
A amostragem top-p restringe o modelo ao menor conjunto de tokens cuja probabilidade cumulativa excede p. As configurações de pipeline do osFoundry permitem ajustar top-p por agente ou por caminho de chat.
Detail
Top-p (também chamada amostragem por núcleo) é uma alternativa à temperatura para controlar a aleatoriedade da saída. Em top-p = 0.9, o modelo considera apenas os tokens que compõem os 90% superiores da massa de probabilidade, ignorando a cauda longa.
Na prática, defina top-p em torno de 0.9-0.95 para saída equilibrada. Menor (0.5) é mais focado; maior (0.99) é mais diverso. Muitos provedores combinam top-p com temperatura.
Related terms