微调(Fine-tuning)
微调用你的数据训练模型。它能缩减提示与调用,但也要权衡前期训练成本。
定义
微调使用示例数据把基础模型适配到你的任务,从而需要更少的指令与少样本上下文。
为何关乎成本
微调后的模型能缩小提示,并减少对检索或多步提示的需求——降低每次调用的 token。但它增加了训练成本与维护。
实用建议
只有在你测出提示缩减的收益超过训练与运维成本之后,才做微调。
下一步
模型成本对比微调用你的数据训练模型。它能缩减提示与调用,但也要权衡前期训练成本。
微调使用示例数据把基础模型适配到你的任务,从而需要更少的指令与少样本上下文。
微调后的模型能缩小提示,并减少对检索或多步提示的需求——降低每次调用的 token。但它增加了训练成本与维护。
只有在你测出提示缩减的收益超过训练与运维成本之后,才做微调。