AI Cost Save
AICostSave

如何在开发前估算 AI API 成本

在发布前用 token 与请求量估算 AI API 成本,避免上线后才发现单位经济不可行。

The problem

开发前花五分钟估算,好过上线后面对五位数的惊吓。

防止意外的估算

在写代码前,先估算:

  • 每次请求的输入 token 数(提示 + 上下文)
  • 每次请求的输出 token 数(响应)
  • 每次用户操作的调用次数(含重试与工具链)
  • 每日请求量

那么月度成本大致为:

(input_tokens × input_rate + output_tokens × output_rate) × calls × requests × 30

别忘了调用乘数

最大的估算误差是假设一次用户操作等于一次模型调用。智能体与工具链经常把一次操作变成三到五次调用。

建一个区间,而不是一个点

估算最好情况与最坏情况:

  • 最好:精简提示、限制重试、缓存上下文
  • 最坏:冗长输出、重试风暴、无缓存

如果最坏情况撑不住你的单位经济,在开发前就改设计。

尽早验证

原型出来后,在样本上测量真实 token,用数据替换猜测。

速查清单

  • 估算 token × 调用 × 量
  • 计入重试与工具链乘数
  • 真实原型出来后重新估算

Related reading