Startseite / Glossar / Top-p-Sampling
What is Top-p (Nucleus) Sampling?
Top-p-Sampling beschränkt das Modell auf die kleinste Menge an Tokens, deren kumulative Wahrscheinlichkeit p überschreitet. Die Pipeline-Konfigurationen von osFoundry lassen Sie top-p pro Agent oder pro Chat-Pfad einstellen.
Detail
Top-p (auch Nucleus Sampling genannt) ist eine Alternative zur Temperatur, um die Zufälligkeit der Ausgabe zu steuern. Bei top-p = 0,9 betrachtet das Modell nur die Tokens, die die obersten 90 % der Wahrscheinlichkeitsmasse ausmachen, und ignoriert den langen Rest.
In der Praxis setzen Sie top-p auf etwa 0,9–0,95 für ausgewogene Ausgaben. Niedriger (0,5) ist fokussierter; höher (0,99) ist vielfältiger. Viele Anbieter kombinieren top-p mit Temperatur.
Related terms