홈 / 용어집 / Top-p 샘플링
What is Top-p (뉴클리어스) 샘플링?
Top-p 샘플링은 누적 확률이 p를 초과하는 토큰의 최소 집합으로 모델을 제한합니다. osFoundry의 파이프라인 구성을 통해 에이전트별 또는 채팅 경로별로 top-p를 조정할 수 있습니다.
Detail
Top-p(뉴클리어스 샘플링이라고도 함)는 출력 무작위성을 제어하기 위한 온도의 대안입니다. top-p = 0.9에서 모델은 확률 질량의 상위 90%를 차지하는 토큰만 고려하고 긴 꼬리는 무시합니다.
실제로는 균형 잡힌 출력을 위해 top-p를 약 0.9-0.95로 설정합니다. 더 낮으면(0.5) 더 집중되고, 더 높으면(0.99) 더 다양합니다. 많은 제공업체가 top-p와 온도를 함께 사용합니다.
Related terms