批量 API 与实时 API：异步何时能省 50%
批量 API 为异步任务提供大幅折扣。了解何时把工作路由到批量，何时实时更值得溢价。
The problem
如果一个任务能等 24 小时，你就不该为它付实时价格。批量接口正是为此而生。
什么是批量 API
批量接口接收大量请求并异步处理，通常在一个时间窗内（常见为最多 24 小时）完成。作为延迟的交换，它相比实时计价提供可观折扣。
何时批量是明显选择
- 回填与迁移
- 夜间内容生成
- 批量分类或摘要
- 任何能接受几小时延迟的任务
何时实时更值得溢价
- 交互式聊天与实时助手
- 延迟会破坏体验的用户-facing 响应
- 低量、对延迟敏感的调用
务实的拆分
按延迟容忍度路由，而不是按任务类型。同一个摘要任务，夜间可能是批量，实时演示时可能是实时。
成本影响
即使只把 30%–40% 符合条件的量迁移到批量，整体 API 支出也常常明显下降，因为折扣在 token 与调用上复利累积。
速查清单
- 列出能容忍延迟的任务
- 把它们路由到批量接口
- 只把对延迟敏感的工作保留为实时
下一步
比较服务商定价