Главная / Глоссарий / Top-p сэмплирование
What is Top-p (Nucleus) сэмплирование?
Top-p сэмплирование ограничивает модель наименьшим набором токенов, чья суммарная вероятность превышает p. Конфигурации конвейера osFoundry позволяют настраивать top-p для каждого агента или каждого чат-пути.
Detail
Top-p (также называемое nucleus sampling) — это альтернатива температуре для управления случайностью вывода. При top-p = 0.9 модель учитывает только токены, составляющие верхние 90% вероятностной массы, игнорируя длинный хвост.
На практике установите top-p около 0.9–0.95 для сбалансированного вывода. Ниже (0.5) — более сфокусированный; выше (0.99) — более разнообразный. Многие провайдеры комбинируют top-p с температурой.
Related terms