홈 / 용어집 / 온도
What is 온도 (Temperature)?
온도는 LLM 출력의 무작위성을 제어합니다 — 0은 결정론적이며, 값이 높을수록 변동성이 증가합니다. osFoundry는 채팅 요청별 및 에이전트 프로필별로 온도를 노출합니다.
Detail
수학적으로 온도는 소프트맥스 이전에 로짓을 스케일링합니다 — 높은 온도는 확률 분포를 평탄하게 만들어 가능성이 낮은 토큰의 확률을 높입니다. 0에서는 모델이 항상 상위 토큰을 선택합니다. 1.0에서는 모델의 자연스러운 분포를 얻습니다. 1.5 이상에서는 출력이 노이즈가 많아집니다.
사실적인 작업(코드, 데이터 추출, 구조화된 출력)에는 낮은 온도(0-0.3)를 사용하십시오. 창의적인 작업(글쓰기, 아이디어 발상)에는 더 높은 값(0.7-1.0)을 사용하십시오.
Related terms