Home / Glossary / Temperature
Temperature क्या है?
Temperature एक LLM के output की randomness को नियंत्रित करता है — 0 deterministic है, उच्च values variability introduce करते हैं। osFoundry temperature को प्रति chat request और प्रति agent profile expose करता है।
विवरण
Mathematically, temperature softmax से पहले logits को scale करता है — उच्च temperature probability distribution को flatten करता है, कम-likely tokens को अधिक probable बनाता है। 0 पर, model हमेशा top token pick करता है। 1.0 पर, आपको model का natural distribution मिलता है। 1.5 से ऊपर, output noisy हो जाता है।
Factual tasks (code, data extraction, structured output) के लिए low temperature (0-0.3) उपयोग करें। Creative tasks (writing, ideation) के लिए higher (0.7-1.0) उपयोग करें।
संबंधित शब्द