Home / Glossary / Temperature
What is Temperature?
Temperature एक LLM के output की randomness को नियंत्रित करता है — 0 deterministic है, उच्च values variability introduce करते हैं। osFoundry temperature को प्रति chat request और प्रति agent profile expose करता है।
Detail
Mathematically, temperature softmax से पहले logits को scale करता है — उच्च temperature probability distribution को flatten करता है, कम-likely tokens को अधिक probable बनाता है। 0 पर, model हमेशा top token pick करता है। 1.0 पर, आपको model का natural distribution मिलता है। 1.5 से ऊपर, output noisy हो जाता है।
Factual tasks (code, data extraction, structured output) के लिए low temperature (0-0.3) उपयोग करें। Creative tasks (writing, ideation) के लिए higher (0.7-1.0) उपयोग करें।
Related terms