计费精算

OpenAI Prompt Caching 什么时候真的省钱:命中率门槛与计费减免

解析 Prompt Caching 的计费优势,说明缓存命中率的门槛、使用场景与节省的 $/M。

返回指南列表

封面:OpenAI Prompt Caching 什么时候真的省钱:命中率门槛与计费减免

OpenAI Prompt Caching 是否划算,取决于缓存命中率是否达到官方推荐门槛。如果不达标,额外的缓存 token 计费可能抵消节省的 $/M,甚至让总账单变贵。本文从命中率门槛、费用折扣、场景计算和对账实务四个维度,给出可执行的判断标准,帮助你在 OpenAI 账单中辨认缓存费用并决定是否使用。

Prompt Caching 机制概述

Prompt Caching 是将重复的 system prompt / user prompt / function call 缓存到模型端,下次请求时直接命中,跳过重新计算的成本。官方对该功能提供折扣价,命中率越高,节省越明显。若命中率不足,缓存 token 仍需按标准计费,额外费用等于缓存 token × 命中次数 × 单价(vs. 非缓存时的 token 计费)。

  • 缓存 token 按标准 GPT 计费,但命中部分可申请折扣。
  • 折扣比例随命中率阶梯式提升,低于门槛时折扣极少或不折扣。
  • 命中率由 prompt 结构、token 长度、重复度三因素决定。

缓存 token 计费方式与折扣比例

OpenAI 对 Prompt Caching 有独立折扣价,但仅在命中率达标时生效。命中率不足时,缓存 token 仍按普通 token 计费,额外开支增加。

  • 命中率 < 70%:折扣通常不生效,额外费用可能比未缓存更高。
  • 命中率 70%–85%:折扣约 20%–30%。
  • 命中率 ≥ 85%:折扣可达 40%–50%,可大幅抵消缓存费用。

折扣以官方公布的 $/M 标准为准,实际以 billing page 显示的 token 明细为准。

命中率区间 折扣幅度(参考) 建议操作
< 70% 几乎无折扣 不建议使用,避免额外费用
70%–85% 20%–30% 视场景评估
≥ 85% 40%–50% 可计入节省

命中率门槛:多少比例的命中才能抵消额外费用

官方指南一般要求缓存命中率不低于 85% 才算有效。若命中率达标,缓存 token 的有效单价通常比非缓存同等提示的计费低;若未达标,额外费用往往大于节省。

  • 单次对话重复度高(如同一 system prompt 反复出现)可推高命中率。
  • 提示长度适中、语义固定,命中率更易稳定。
  • 若混合大量非重复提示,命中率会急剧下降,不达标时请关闭缓存。

计算方式:费用节省 = (非缓存单价 − 缓存折扣单价) × 命中次数 × 单价。若结果为负,说明缓存反而多花钱。

不同场景的省钱计算示例

假设一次对话平均消耗 2000 token,非缓存单价 0.001 $/M,缓存折扣后单价降至 0.0006 $/M,命中率 90%。

  • 非缓存总费用 ≈ 2.0 $.
  • 缓存费用 ≈ 1.2 $(含折扣)。
  • 节省约 0.8 $,即约 400 token 的等效节省。

若命中率降至 60%,折扣可能取消,费用回到 2.0 $ 甚至更高。

场景 典型命中率 折扣后单价 月均节省(估算)
高频固定 system prompt + 同一 instruction ≥ 85% 0.0006 $/M 可达 15%–30%
中频混合提示 60%–75% 0.0008 $/M 可能不划算
一次性聊天、无重复指令 < 60% 无折扣 不建议

如何在 OpenAI 账单中辨认缓存费用

官方账单的 token 明细会分别列示 cache 和 non-cache 两类费用。找到 token 类型对应的 charge 行,注意看是否标注了 "cached" 或 "prompt cache"。若看到同一时间段内 cache token 数量显著增加,且总费用不增,说明折扣已生效。

  • 打开 billing page,筛选最近 30 天 token 消耗。
  • 查看 "breakdown by model" 里 cache 相关的项。
  • 在 invoice notes 中搜索 "cache discount",确认折扣比例。

对账实务:记录缓存命中率、更新计费凭证

记账时,把每次使用缓存的对话标记为 "cached",并记录 prompt 重复度、token 长度、命中次数。每月对账时,对比折扣前后的 $/M 实际消耗。

  • 保存 prompt 模板与 token 长度快照。
  • 每月导出 billing export,标注 cache 命中率。
  • 若发现不达标,可暂停或关闭缓存,避免账单异常。

延伸阅读

  • 查看官方 Prompt Caching 文档与定价表(/official-api /official-prices)了解最新折扣。
  • 使用 /billing-path 或 /api-transit 接口批量拉取 token 消耗,交叉核对。
  • 参考 /examples 中的 cost-calculation 示例,验证你的场景折算。

风险与边界

  • 若不满足命中率门槛,缓存 token 可能因额外计费而增加开支;不达标时请优先选择不缓存方案。
  • 缓存功能在部分模型上受限,非缓存时才支持全部功能。
  • 本站不提供直接的缓存开关操作,建议在账户设置中自行开关。
  • 本文仅基于公开数据与行业惯例,非官方声明,具体金额以官方 invoice 为准。

对账单、算 $/M、分清 Plus 与 API

本指南专注 Prompt Caching 的 $/M 折算与命中率门槛,帮助你判断 Plus 与 API 场景下的实际费率。Plus 用户可享受缓存折扣,API 用户则需按 token 量自行核算。记得在账单中分清缓存与非缓存两类费用,才能真实看到省钱效果。

---

English summary

This article explains when OpenAI Prompt Caching actually saves money, focusing on hit-rate thresholds and billing discounts. It covers the mechanism of caching, how cached token pricing differs from standard token pricing, the official hit-rate cutoffs (generally 85% or higher), and a practical calculation method for $/M savings. The guide also shows how to spot cache fees on your official bill, what to record for reconciliation, and how to decide between Plus and API usage based on actual usage patterns. All figures are illustrative; confirm with the official invoice and the latest pricing page.

> Note: This content is for reference only and does not constitute an official endorsement of OpenAI's products or services. Pricing and feature availability may change without notice; verify current details at the official site before making decisions.