Home / Glossario / Temperature
Che cos’è Temperature?
La temperature controlla la casualità dell'output di un LLM: 0 è deterministico, valori più alti introducono variabilità. osFoundry espone la temperature per ogni richiesta di chat e per ogni profilo agente.
Dettagli
Matematicamente, la temperature scala i logit prima della softmax: una temperature più alta appiattisce la distribuzione di probabilità, rendendo i token meno probabili più probabili. A 0, il modello sceglie sempre il token più alto. A 1.0, ottiene la distribuzione naturale del modello. Sopra 1.5, l'output diventa rumoroso.
Per task fattuali (codice, estrazione dati, output strutturato) usi una temperature bassa (0-0.3). Per task creativi (scrittura, ideazione) usi valori più alti (0.7-1.0).
Termini correlati