AI Cost Save
AICostSave

微调(Fine-tuning)

微调用你的数据训练模型。它能缩减提示与调用,但也要权衡前期训练成本。

定义

微调使用示例数据把基础模型适配到你的任务,从而需要更少的指令与少样本上下文。

为何关乎成本

微调后的模型能缩小提示,并减少对检索或多步提示的需求——降低每次调用的 token。但它增加了训练成本与维护。

实用建议

只有在你测出提示缩减的收益超过训练与运维成本之后,才做微调。

Related reading