What is 温度（Temperature）?

温度控制 LLM 输出的随机性——0 为确定性，数值越高变异性越大。osFoundry 允许在每次对话请求和每个智能体配置中设置温度。

Detail

在数学上，温度会在 softmax 之前缩放 logits——温度越高，概率分布越平坦，使概率较低的 token 也更可能被选中。当温度为 0 时，模型始终选择 top token。1.0 时，您得到模型的自然分布。超过 1.5 时输出会变得嘈杂。

对于事实性任务（代码、数据抽取、结构化输出）使用低温度（0 至 0.3）。对于创意性任务（写作、构思）使用较高温度（0.7 至 1.0）。