提示词缓存
提示词缓存通过在请求间缓存稳定的前缀，降低重复上下文的输入成本。
定义
提示词缓存让服务商在请求间复用你提示中稳定的前缀（系统指令、参考文档），而不是每次都按完整输入费率重新计费。
为何关乎成本
缓存 token 的计费费率远低于新输入 token——对重复性工作负载，往往能把输入成本削减 50%–90%。
实用建议
把稳定内容放在提示顶部，并在调用之间保持不变，好让缓存持续命中。
下一步
查看 token 节省提示词缓存通过在请求间缓存稳定的前缀，降低重复上下文的输入成本。
提示词缓存让服务商在请求间复用你提示中稳定的前缀（系统指令、参考文档），而不是每次都按完整输入费率重新计费。
缓存 token 的计费费率远低于新输入 token——对重复性工作负载，往往能把输入成本削减 50%–90%。
把稳定内容放在提示顶部，并在调用之间保持不变，好让缓存持续命中。