OpenAI Prompt Caching 什么时候真的省钱:命中率门槛与计费减免
解析 Prompt Caching 的计费优势,说明缓存命中率的门槛、使用场景与节省的 $/M。
가이드 목록 · 본문은 주로 중국어 간체입니다. 영문 요약(English summary)을 참고하세요.

OpenAI Prompt Caching 是否划算,取决于缓存命中率是否达到官方推荐门槛。如果不达标,额外的缓存 token 计费可能抵消节省的 $/M,甚至让总账单变贵。本文从命中率门槛、费用折扣、场景计算和对账实务四个维度,给出可执行的判断标准,帮助你在 OpenAI 账单中辨认缓存费用并决定是否使用。
Prompt Caching 机制概述
Prompt Caching 是将重复的 system prompt / user prompt / function call 缓存到模型端,下次请求时直接命中,跳过重新计算的成本。官方对该功能提供折扣价,命中率越高,节省越明显。若命中率不足,缓存 token 仍需按标准计费,额外费用等于缓存 token × 命中次数 × 单价(vs. 非缓存时的 token 计费)。
- 缓存 token 按标准 GPT 计费,但命中部分可申请折扣。
- 折扣比例随命中率阶梯式提升,低于门槛时折扣极少或不折扣。
- 命中率由 prompt 结构、token 长度、重复度三因素决定。
缓存 token 计费方式与折扣比例
OpenAI 对 Prompt Caching 有独立折扣价,但仅在命中率达标时生效。命中率不足时,缓存 token 仍按普通 token 计费,额外开支增加。
- 命中率 < 70%:折扣通常不生效,额外费用可能比未缓存更高。
- 命中率 70%–85%:折扣约 20%–30%。
- 命中率 ≥ 85%:折扣可达 40%–50%,可大幅抵消缓存费用。
折扣以官方公布的 $/M 标准为准,实际以 billing page 显示的 token 明细为准。
| 命中率区间 | 折扣幅度(参考) | 建议操作 |
|---|---|---|
| < 70% | 几乎无折扣 | 不建议使用,避免额外费用 |
| 70%–85% | 20%–30% | 视场景评估 |
| ≥ 85% | 40%–50% | 可计入节省 |
命中率门槛:多少比例的命中才能抵消额外费用
官方指南一般要求缓存命中率不低于 85% 才算有效。若命中率达标,缓存 token 的有效单价通常比非缓存同等提示的计费低;若未达标,额外费用往往大于节省。
- 单次对话重复度高(如同一 system prompt 反复出现)可推高命中率。
- 提示长度适中、语义固定,命中率更易稳定。
- 若混合大量非重复提示,命中率会急剧下降,不达标时请关闭缓存。
计算方式:费用节省 = (非缓存单价 − 缓存折扣单价) × 命中次数 × 单价。若结果为负,说明缓存反而多花钱。
不同场景的省钱计算示例
假设一次对话平均消耗 2000 token,非缓存单价 0.001 $/M,缓存折扣后单价降至 0.0006 $/M,命中率 90%。
- 非缓存总费用 ≈ 2.0 $.
- 缓存费用 ≈ 1.2 $(含折扣)。
- 节省约 0.8 $,即约 400 token 的等效节省。
若命中率降至 60%,折扣可能取消,费用回到 2.0 $ 甚至更高。
| 场景 | 典型命中率 | 折扣后单价 | 月均节省(估算) |
|---|---|---|---|
| 高频固定 system prompt + 同一 instruction | ≥ 85% | 0.0006 $/M | 可达 15%–30% |
| 中频混合提示 | 60%–75% | 0.0008 $/M | 可能不划算 |
| 一次性聊天、无重复指令 | < 60% | 无折扣 | 不建议 |
如何在 OpenAI 账单中辨认缓存费用
官方账单的 token 明细会分别列示 cache 和 non-cache 两类费用。找到 token 类型对应的 charge 行,注意看是否标注了 "cached" 或 "prompt cache"。若看到同一时间段内 cache token 数量显著增加,且总费用不增,说明折扣已生效。
- 打开 billing page,筛选最近 30 天 token 消耗。
- 查看 "breakdown by model" 里 cache 相关的项。
- 在 invoice notes 中搜索 "cache discount",确认折扣比例。
对账实务:记录缓存命中率、更新计费凭证
记账时,把每次使用缓存的对话标记为 "cached",并记录 prompt 重复度、token 长度、命中次数。每月对账时,对比折扣前后的 $/M 实际消耗。
- 保存 prompt 模板与 token 长度快照。
- 每月导出 billing export,标注 cache 命中率。
- 若发现不达标,可暂停或关闭缓存,避免账单异常。
延伸阅读
- 查看官方 Prompt Caching 文档与定价表(/official-api /official-prices)了解最新折扣。
- 使用 /billing-path 或 /api-transit 接口批量拉取 token 消耗,交叉核对。
- 参考 /examples 中的 cost-calculation 示例,验证你的场景折算。
风险与边界
- 若不满足命中率门槛,缓存 token 可能因额外计费而增加开支;不达标时请优先选择不缓存方案。
- 缓存功能在部分模型上受限,非缓存时才支持全部功能。
- 本站不提供直接的缓存开关操作,建议在账户设置中自行开关。
- 本文仅基于公开数据与行业惯例,非官方声明,具体金额以官方 invoice 为准。
对账单、算 $/M、分清 Plus 与 API
本指南专注 Prompt Caching 的 $/M 折算与命中率门槛,帮助你判断 Plus 与 API 场景下的实际费率。Plus 用户可享受缓存折扣,API 用户则需按 token 量自行核算。记得在账单中分清缓存与非缓存两类费用,才能真实看到省钱效果。
---