Beranda / Glosarium / Top-p sampling
What is Top-p (Nucleus) Sampling?
Top-p sampling membatasi model ke set token terkecil yang probabilitas kumulatifnya melebihi p. Config pipeline osFoundry memungkinkan Anda menyetel top-p per agent atau per chat path.
Detail
Top-p (juga disebut nucleus sampling) adalah alternatif untuk temperature untuk mengontrol keacakan output. Pada top-p = 0.9, model hanya mempertimbangkan token yang membentuk 90% teratas dari probability mass, mengabaikan ekor panjang.
Dalam praktiknya, atur top-p sekitar 0.9-0.95 untuk output seimbang. Lebih rendah (0.5) lebih fokus; lebih tinggi (0.99) lebih beragam. Banyak provider menggabungkan top-p dengan temperature.
Related terms