温度(Temperature)
温度控制输出的随机性。较低的值更容易推理,也更利于成本规划的可预测性。
定义
温度设定模型输出的随机程度。接近 0 是确定性的;越高越多样。
为何关乎成本
温度不会直接改变 token 费率,但高随机性可能导致更长、更不聚焦的输出——从而推高输出 token 成本。较低、聚焦的设置往往产生更短、更可预测的反应。
实用建议
对结构化、可重复的任务使用低温,使输出紧凑、成本稳定。
下一步
规划模型成本温度控制输出的随机性。较低的值更容易推理,也更利于成本规划的可预测性。
温度设定模型输出的随机程度。接近 0 是确定性的;越高越多样。
温度不会直接改变 token 费率,但高随机性可能导致更长、更不聚焦的输出——从而推高输出 token 成本。较低、聚焦的设置往往产生更短、更可预测的反应。
对结构化、可重复的任务使用低温,使输出紧凑、成本稳定。