Prompt Caching FAQ：命中率、计价、何时关闭

本页直接回答 OpenAI 品牌关于 Prompt Caching 的命中率、$ /M 计价、以及何时关闭缓存的问题。结论先行：Prompt Caching 仅在支持的 Endpoint 与模型上生效；未命中时会按原始 Token 重新计费。如果你使用 ChatGPT 或 API 请求希望降低单价，请先确认模型与 Endpoint 是否在缓存支持列表中，再决定是否开启或关闭。

核心概念与术语

• Prompt Caching：OpenAI 为已输入的系统提示词（system prompt）和部分上下文提供缓存机制，命中后直接复用，不再计入新 Token。对应品牌术语：tokens cached，prompting efficiency。
• $ /M（per million tokens）：计价单位，指每百万个 token 的实际消耗费用。缓存命中时，仅计入未缓存部分的 $ /M。
• ChatGPT API：OpenAI 面向开发者的 API 版本，支持缓存开关（use_cache 参数）。Plus 与 Premium（Plus 以上计划）均受益，但缓存策略在不同计划中的默认行为不同。
• GPT-4o / GPT-4o-mini：当前主要支持 Prompt Caching 的模型。Claude 和 Gemini 等非 OpenAI 模型暂不纳入此页覆盖范围。
• Official pricing page：计价依据以 OpenAI 官方页为准（如 openai.com/official-api、openai.com/official-prices）。

决策表：何时开启 / 关闭缓存

场景	命中率预估	计价影响	推荐操作
System prompt + 固定上下文，重复提示	高（>80%）	显著降价	开启缓存，设定合适的 TTL
唯一性长 Context + 每次新鲜输入	低（<20%）	基本无节省	建议关闭缓存，避免旧 Token 残留
GPT-4o / o4-mini 调用	高（官方支持）	可节省 10–30%（仅命中部分）	开启缓存，配合合理的 max cache size
GPT-4x / 非缓存支持模型	不支持	无法计费节省	关闭缓存功能，避免额外费用

> 注：上述百分比为基于公开案例的经验值，不同批次模型、prompt 长度与并发场景差异大。以官方页当日数据为准。

对照表：Plus 与 API 的计价差异

项目	ChatGPT（Plus / Premium）	API（Plus / Premium 账户）
基础 $ /M	按模型 tier 计费（GPT-4o ~ $10/M，o4-mini ~ $0.35/M）	同上，且可通过缓存进一步降价
缓存开关	默认开启（GPT-4o），可手动关闭	默认开启，通过参数控制
命中率管理	界面提示命中率，用户可自行调节	通过 use_cache 与 max_cache_size 控制
计费边界	未命中时全额计费	未命中时全额计费；命中后仅计入非缓存 Token

实操清单：分步可核对

1. 确认模型支持：查阅 OpenAI 官方模型列表，确认使用 GPT-4o 或 o4-mini。未支持模型请勿启用缓存。

2. 检查 Endpoint：在 /api 页面确认 Prompt Caching 在目标 Endpoint 已启用（cache 参数接受 true）。

3. 设置 TTL 与大小：在请求头或配置中设置 max_cache_size 与 stale_time。过小导致频繁重新缓存，过大导致冗余。

4. 测试命中：发送相同 system prompt 两次，比较返回的 tokens_cached 字段。命中率 >70% 时才视为有效。

5. 关闭缓存：若发现不命中率极低或缓存后出现异常响应，使用 use_cache: false 或删除相关 session 令牌。

常见坑与风险边界

• 把未官宣型号当作已上线价表：未公开的实验模型（如某些早期 o3 系列）可能不支持缓存，盲目开启会导致费用意外。
• 解锁免费档高级模型：Prompt Caching 免费档仍需按标准计费，不能视为免费。
• 机器-id 重置教程、workbench 补丁：这些属于非官方工具，不适用本站推荐。
• 无毒版 IDE 修改器教程：本站仅对账单与计价提供指导，不做代码插件介绍。
• 登录 token 注入、cookie 2api 搭建：与计费无关，禁止涉及。

站内路径：相关工具与页面

• 官方 API 计费页：["/official-api"]
• 官方价格页：["/official-prices"]
• 渠道对照：["/channels"]（了解不同渠道的缓存政策）
• 工具页：["/api-transit"]（通过 /api-transit 查看请求缓存行为）
• 计费路径指引：["/billing-path"]
• 示例与引导：["/examples"]、["/guides"]