## OpenAI Prompt Caching 什么时候真的省钱：命中率门槛
OpenAI Prompt Caching 能在 OpenAI API 费用中显著降低输入令牌成本，但前提是命中率足够高。适用于使用 ChatGPT Plus 订阅 OpenAI API、频繁复用系统提示和上下文提示的应用开发者和代理开发者。
要真正省钱，请先在你的项目中启用 Prompt Caching，然后在 OpenAI API 仪表盘或日志中查看 cached_tokens 字段。如果命中率超过 60%，输入成本通常能下降 40-80%（具体以当前 GPT-5.6 系列模型官方挂牌价为准）。决策时，优先考虑长期项目、批量推理或高频 API 调用场景，避免一次性小规模使用。
核心概念与术语
- Prompt Caching：OpenAI 自动为满足条件的提示前缀（prefix）保留计算结果，后续请求若匹配该前缀则复用，避免重复处理。
- Cached input：缓存命中部分，按折扣单价计费（目前多数模型约 10% 的标准输入价）。
- Cache writes（GPT-5.6 及以后模型）：写入缓存的费用，通常为标准输入价的 1.25 倍。
- Cache miss：未命中，按全价处理。
- Prompt cache key：可选参数，可提升路由准确性和命中率。
- Cached tokens：API 响应中可查看的命中令牌数量。
缓存完全自动启用，无需代码修改（支持 GPT-4o 及后续模型），但实际效果取决于提示结构和复用频率。
什么时候该用？决策表
| 场景特点 | 推荐启用 | 原因与边界 | 预计收益 |
|---|---|---|---|
| 系统提示固定 + 用户提示变化 | 是 | 命中率高，输入成本降 50-90% | 高（>70%） |
| 批量/代理推理（多轮对话） | 是 | 前缀复用，长期项目最优 | 中高（40-80%） |
| 低频或单次调用 | 否 | 命中率低，写入开销抵消收益 | 接近 0 |
| 提示结构随机或频繁修改 | 否 | 命中率 <30%，无净收益 | 接近 0 |
| 使用 prompt_cache_key 优化 | 是 | 提高路由命中率，尤其长前缀场景 | 中高（可再提升 20%） |
数据以 OpenAI 官方 2026 年最新定价为准，实际收益需结合你的具体流量测试。
实操清单：分步可核对
1. 确保 API 请求包含 prompt_cache_key（若前缀共享相同），可选值可为对话 ID 或用户标识。
2. 在提示开头放置稳定内容（系统指令、工具定义、共享上下文），动态部分放在最后。
3. 调用 OpenAI API 时，观察响应中的 usage.prompt_tokens_details.cached_tokens 字段（未命中则为 0）。
4. 计算命中率：命中令牌 / 总输入令牌。测试至少 100 次请求后评估。
5. 若命中率低于 40%，可尝试调整 prompt_cache_breakpoint 或切换到更稳定的提示模板。
6. 在 OpenAI API 仪表盘查看整体计费报告，确认 Cached input 占比。
常见坑与风险边界
- 写入成本：GPT-5.6 及以后模型首次写入缓存时按 1.25 倍收取，需至少 2-3 次复用来回本。
- 命中率低：随机提示或频繁更新的前缀易 miss，导致净支出。
- 上下文限制：缓存仅保留在同一机器，跨会话或多用户易失效。
- 测试成本：小规模测试可先用免费试用额度验证效果。
- 模型兼容：仅 GPT-4o 及后续模型支持，早期模型效果有限。
非法律意见声明：以上基于 OpenAI 官方文档与最新定价，仅供参考。实际计费以 OpenAI API 官网为准，存在变动风险。
站内路径：相关工具与页面
English summary
OpenAI Prompt Caching automatically reuses exact prompt prefixes to cut input token costs by up to 90% on eligible models like GPT-5.6 series, with no extra code changes required. It works best for applications with stable system prompts or repetitive context, such as agents, multi-turn chats, or batch processing—ideal for heavy ChatGPT Plus API users. Cache hits are tracked via cached_tokens in responses, and you can boost hit rates with consistent prompt_cache_key. However, first-time writes incur 1.25x fees on newer models, so low-frequency or highly dynamic prompts may not save money. Always test with your traffic patterns using the official pricing page, as benefits depend on hit rate thresholds (typically >60% for clear savings). This feature delivers real ROI for production-scale workloads but requires monitoring to avoid boundary cases.