OpenAI Prompt Caching 什么时候真的省钱：命中率门槛

OpenAI Prompt Caching 什么时候真的省钱：命中率门槛

分类： 计费精算

摘要： OpenAI 品牌专题：OpenAI Prompt Caching 什么时候真的省钱：命中率门槛。

锚点： OpenAI

slug： oa-cache-when

模式： plan_brand

原因： plan_brand:oa-cache-when

---

开篇

OpenAI Prompt Caching 通过保留相同提示前缀的计算状态，能够让重复使用的提示在后续请求中直接复用已处理的部分，而非从头开始生成。这对 OpenAI API 价格 和 GPT Token 单价 的实际支出有显著影响，尤其适合那些应用反复出现长前缀的场景。

谁适用：当你的 ChatGPT API 调用中，提示前缀高度稳定且相似度高时（例如固定系统指令、工具定义、常用上下文），命中率超过 70% 就能实现真正省钱。怎么决策：查看 cached_tokens 与总提示 token 数量的比例，以及 $/M tokens 的计算公式。如果命中率低或缓存写成本过高，就不值得依赖。

核心概念与术语

Prompt Caching 是 OpenAI 官方推出的功能，允许保存并复用提示的前缀部分。它基于模型的内部 key-value 状态，不存储 token 本身，而是在支持的模型上自动生效（默认开启）。

关键术语：

• Prompt prefix：不变的提示开头部分（至少 1024 个可缓存 token）。
• cached_tokens：OpenAI 报告的已缓存 token 数量（从最后匹配断点开始，扣除隐藏系统内容后向下取整到 128 的倍数）。
• Cache write：第一次写入缓存时的费用，通常为标准 uncached input 价格的 1.25 倍（30 分钟保留期）或 2.5 倍（12 小时保留期）。
• Cache read：后续复用时的 cached-input 价格，通常为标准 input 价格的 0.1 倍（某些较新模型更低）。
• Cache hit / miss：请求能否复用已有缓存的标志，直接影响总支出。

这些指标都在 OpenAI API 价格 页面和 usage 仪表盘中实时可见。

决策表：何时值得开启 Prompt Caching

以下表格基于官方定价和典型使用场景，帮助你快速判断：

场景类型	命中率门槛	预期节省对比	推荐条件
固定系统提示 + 工具调用	≥60%	写一次缓存后，后续读成本降至原 1/10	每分钟 >50 次调用
多轮对话（用户消息变化少）	≥70%	单个请求总成本可降 70% 以上	提示前缀 ≥1024 token
RAG / Agent 循环	≥80%	写入成本摊薄后，10 次调用总支出仅为不缓存的 21.5%	上下文稳定且可复用
随机或快速变化提示	<50%	可能反而更贵（写费用未摊薄）	避免依赖

数据来源于 OpenAI API 价格 页面（以当天挂牌 GPT Token 单价 为准）。如果你的 ChatGPT API 多少钱 的实际账单中，缓存读命中率长期低于门槛，就相当于白白支付了写缓存的额外开销。

实操清单：分步可核对

1. 确认模型支持：在 OpenAI API 或 Responses API 中检查你的模型是否启用提示缓存（GPT-5.6 及以后版本默认支持）。

2. 观察缓存状态：在每个请求响应中查看 usage.prompt_tokens_details.cached_tokens。

3. 计算命中率：命中率 = cached_tokens / (total_tokens - hidden_system_tokens)。

4. 追踪缓存写成本：使用 usage 仪表盘过滤 cache_write 字段，核对 $/M tokens 计算公式。

5. 优化前缀稳定性：确保系统提示、工具定义、初始上下文不变；使用 prompt_cache_options.mode: explicit 手动设置断点。

6. 监控总支出：将缓存命中率与未缓存时 OpenAI API 价格 对比，目标是整体 $ / M 降低 30% 以上。

7. 定期复盘：每周查看 Prompt Caching Dashboard，调整写缓存策略。

这些步骤可直接在 official-api 和 billing-path 页面操作，数据实时同步。

常见坑与风险边界

• 缓存失效导致多付：前缀稍作修改（工具名称改动、reasoning.effort 变化）后，命中率瞬间归零，相当于白费写缓存费用。
• 写费用摊薄不足：如果你的应用每分钟调用少于 20 次，30 分钟缓存的写成本难以回收。
• 模型差异：较新模型（如 GPT-6.1 Sol）的 cached-input 折扣更低，需额外验证 API pricing。
• 误解 cached_tokens：它不等于实际节省，而是官方报告的“已复用”量，计算时必须扣除隐藏系统 token。

风险边界：以官方/挂牌页当日数据为准。若你长期账单显示缓存读费用超过 20% 的总输入成本，建议关闭该功能或切换到非缓存模式。

常见坑与风险边界

风险与边界：本文非法律意见，仅供参考。请以 OpenAI 官方 API 计费页面实时数据为准。使用 Prompt Caching 时请确保不违反 OpenAI 使用条款。

站内路径：相关工具与页面

• 前往 /official-prices 查看最新 OpenAI API 价格 和缓存费率。
• 查看 /api-transit 获取缓存命中监控示例代码。
• 参考 /examples 中的真实 ChatGPT API 调用日志。
• 深入 /billing-path 学习如何在账单中准确核对 cached_tokens。
• 熟悉 /guides 中的提示工程最佳实践。
• 测试 /official-api 模型兼容性与缓存行为。