直接答案
缓存命中率可以用“缓存命中的输入 Token ÷ 总输入 Token × 100%”估算。真正结算应以 API usage 中的缓存 Token 数据为准;没有监控数据时,不建议直接假设 90% 命中。
关键要点
- 稳定内容放在输入前部
- 动态问题放在最后
- 避免前缀中的时间戳和随机值
- 用真实 usage 数据持续校准
什么内容更容易命中缓存
缓存依赖相同输入前缀。系统提示、格式约束、固定示例和长背景资料适合放在前面,每次变化的用户问题放在后面。如果固定内容中混入请求 ID、当前时间或随机顺序,后续相同文档也可能无法复用。
怎样把命中率用于预算
从一段时间内汇总 Cache Hit 与 Cache Miss Token,计算加权平均命中率,再代入日调用量。新业务可以先用 0%、50% 和 80% 三档做敏感性分析,而不是只给一个乐观数字。
10 月 19 日:分开计算缓存输入与其他费用
缓存命中率只用于拆分输入 Token,不能同时减少输出单价或 Search / Fetch 请求数。对多个请求做汇总时,用总缓存命中输入除以总输入,不把每次请求的百分比简单平均。
价格核验时分别保留中文人民币表或英文美元表的来源与日期,套用同一币种的缓存、未缓存和输出单价。本站计算器的人民币金额是美元换算参考,不能替代官方人民币报价。
来源与核验
核验于 2026-10-19,服务规则和价格可能调整。
常见问题
缓存是必须手动开启的吗?
应以当前官方文档为准。本站计算器只负责按命中率估算费用,不会替你的 API 请求开启或关闭缓存。
命中率越高,输出费用也会下降吗?
缓存主要影响输入计费;输出 Token 仍按对应输出价格计算。