计费精算

OpenAI Prompt Caching 什么时候真的省钱:命中率门槛与计费减免

解析 Prompt Caching 的计费优势,说明缓存命中率的门槛、使用场景与节省的 $/M。

All guides · Full article is primarily Simplified Chinese; use the English summary below for quick takeaways (GEO-friendly).

封面:OpenAI Prompt Caching 什么时候真的省钱:命中率门槛与计费减免

OpenAI Prompt Caching 是否划算,取决于缓存命中率是否达到官方推荐门槛。如果不达标,额外的缓存 token 计费可能抵消节省的 $/M,甚至让总账单变贵。本文从命中率门槛、费用折扣、场景计算和对账实务四个维度,给出可执行的判断标准,帮助你在 OpenAI 账单中辨认缓存费用并决定是否使用。

Prompt Caching 机制概述

Prompt Caching 是将重复的 system prompt / user prompt / function call 缓存到模型端,下次请求时直接命中,跳过重新计算的成本。官方对该功能提供折扣价,命中率越高,节省越明显。若命中率不足,缓存 token 仍需按标准计费,额外费用等于缓存 token × 命中次数 × 单价(vs. 非缓存时的 token 计费)。

  • 缓存 token 按标准 GPT 计费,但命中部分可申请折扣。
  • 折扣比例随命中率阶梯式提升,低于门槛时折扣极少或不折扣。
  • 命中率由 prompt 结构、token 长度、重复度三因素决定。

缓存 token 计费方式与折扣比例

OpenAI 对 Prompt Caching 有独立折扣价,但仅在命中率达标时生效。命中率不足时,缓存 token 仍按普通 token 计费,额外开支增加。

  • 命中率 < 70%:折扣通常不生效,额外费用可能比未缓存更高。
  • 命中率 70%–85%:折扣约 20%–30%。
  • 命中率 ≥ 85%:折扣可达 40%–50%,可大幅抵消缓存费用。

折扣以官方公布的 $/M 标准为准,实际以 billing page 显示的 token 明细为准。

命中率区间 折扣幅度(参考) 建议操作
< 70% 几乎无折扣 不建议使用,避免额外费用
70%–85% 20%–30% 视场景评估
≥ 85% 40%–50% 可计入节省

命中率门槛:多少比例的命中才能抵消额外费用

官方指南一般要求缓存命中率不低于 85% 才算有效。若命中率达标,缓存 token 的有效单价通常比非缓存同等提示的计费低;若未达标,额外费用往往大于节省。

  • 单次对话重复度高(如同一 system prompt 反复出现)可推高命中率。
  • 提示长度适中、语义固定,命中率更易稳定。
  • 若混合大量非重复提示,命中率会急剧下降,不达标时请关闭缓存。

计算方式:费用节省 = (非缓存单价 − 缓存折扣单价) × 命中次数 × 单价。若结果为负,说明缓存反而多花钱。

不同场景的省钱计算示例

假设一次对话平均消耗 2000 token,非缓存单价 0.001 $/M,缓存折扣后单价降至 0.0006 $/M,命中率 90%。

  • 非缓存总费用 ≈ 2.0 $.
  • 缓存费用 ≈ 1.2 $(含折扣)。
  • 节省约 0.8 $,即约 400 token 的等效节省。

若命中率降至 60%,折扣可能取消,费用回到 2.0 $ 甚至更高。

场景 典型命中率 折扣后单价 月均节省(估算)
高频固定 system prompt + 同一 instruction ≥ 85% 0.0006 $/M 可达 15%–30%
中频混合提示 60%–75% 0.0008 $/M 可能不划算
一次性聊天、无重复指令 < 60% 无折扣 不建议

如何在 OpenAI 账单中辨认缓存费用

官方账单的 token 明细会分别列示 cache 和 non-cache 两类费用。找到 token 类型对应的 charge 行,注意看是否标注了 "cached" 或 "prompt cache"。若看到同一时间段内 cache token 数量显著增加,且总费用不增,说明折扣已生效。

  • 打开 billing page,筛选最近 30 天 token 消耗。
  • 查看 "breakdown by model" 里 cache 相关的项。
  • 在 invoice notes 中搜索 "cache discount",确认折扣比例。

对账实务:记录缓存命中率、更新计费凭证

记账时,把每次使用缓存的对话标记为 "cached",并记录 prompt 重复度、token 长度、命中次数。每月对账时,对比折扣前后的 $/M 实际消耗。

  • 保存 prompt 模板与 token 长度快照。
  • 每月导出 billing export,标注 cache 命中率。
  • 若发现不达标,可暂停或关闭缓存,避免账单异常。

延伸阅读

  • 查看官方 Prompt Caching 文档与定价表(/official-api /official-prices)了解最新折扣。
  • 使用 /billing-path 或 /api-transit 接口批量拉取 token 消耗,交叉核对。
  • 参考 /examples 中的 cost-calculation 示例,验证你的场景折算。

风险与边界

  • 若不满足命中率门槛,缓存 token 可能因额外计费而增加开支;不达标时请优先选择不缓存方案。
  • 缓存功能在部分模型上受限,非缓存时才支持全部功能。
  • 本站不提供直接的缓存开关操作,建议在账户设置中自行开关。
  • 本文仅基于公开数据与行业惯例,非官方声明,具体金额以官方 invoice 为准。

对账单、算 $/M、分清 Plus 与 API

本指南专注 Prompt Caching 的 $/M 折算与命中率门槛,帮助你判断 Plus 与 API 场景下的实际费率。Plus 用户可享受缓存折扣,API 用户则需按 token 量自行核算。记得在账单中分清缓存与非缓存两类费用,才能真实看到省钱效果。

---