官方API

OpenAI模型在Bedrock的提示缓存模式

Every time an agent takes a step, it re-reads its entire context before acting. Here is how prompt caching for OpenAI models on Amazon Bedrock lets your agent remember, cutting inp

返回指南列表

OpenAI 官方 API 与计费对照站专注于模型在 AWS Bedrock 上的集成与计费。Bedrock 的提示缓存(prompt caching)让 GPT 系列模型在每个 agent step 前重新读取完整上下文后再行动,从而记住之前的对话历史。这会直接影响 OpenAI 模型在 AWS 上的计费方式和集成路径。若要在对账单、算 $/M 或区分 Plus 与 API 时使用 Bedrock,必须先理解缓存机制的计价规则与适用范围。本文按品牌锚点从头梳理模式、给出费用对比、并标明何时该选哪条路线。

品牌量身与选题锚点

  • 主品牌:OpenAI
  • 品牌主词:["OpenAI API 价格", "GPT Token 单价", "ChatGPT API 多少钱", "Prompt 缓存价格", "官方 API 计费", "$/M tokens"]
  • 本题角度:OpenAI 模型在 Bedrock 的提示缓存模式
  • 标题与正文需自然出现品牌锚点,不得用其他域名品牌的主文;不得使用站群/姊妹站话术。

为何 Bedrock 的提示缓存对计费与对账很重要

Bedrock 为推理提供一个统一入口,支持多种模型(GPT-4 系列、Claude 系列、Llama 等)。当 agent 每次 step 都完整加载上下文时,若开启缓存,已缓存的前缀(prefix)会被复用而非重新传输。计费通常以 token 实际消耗为基础,缓存命中时会按命中率折算。对账单里常见的不一致往往来自:未确认缓存是否生效、未统计 prefix 与 suffix token、未把缓存复用部分排除在计费域外。官方博客首次披露该模式,正是提醒开发者在对账时把缓存视为独立计费项,而不是附加品。

提示缓存的工作原理(对账与计费角度)

  • Prefix caching:输入的前缀(如系统提示或前几轮对话)被缓存后,后续 step 只传输变化的 suffix。计费时,prefix 部分按命中次数折算,suffix 按实际输出 token 计算。
  • Suffix token 计费:未被缓存复用的部分仍按实际生成 token 计费。若缓存命中率高,边际增量 token 大幅下降,整体 $/M 显著下降。
  • Agent step 与缓存交互:every time an agent takes a step, it re-reads its entire context before acting(官方博客原文)。若 agent 在 step 前手动清除上下文或强制重载,缓存可能失效,导致重新传输全量 token,计费上升。
  • Plus 与 API 的区别:Plus 计划常包含更高的 token 预算与折扣,但计费模式本身不变;API 端的计费更细化,按调用与 token 拆分。选对接口类型才能让对账表与实际发票一致。

费用对比与对账实践

以下为基于官方博客与 AWS 文档的对比摘要(数据以官方页面当日为准,不一定与第三方整合页一致)。

接口类型 计费单位 典型 $/M(示例) 适用场景
Bedrock API(按 token 计费) GPT 4/5 tokens 约 $5–$15(前缀缓存折扣后) 需要精细控制 token、在 AWS 生态中运行的 agent
Bedrock Plus 计划 按月订阅 + 按 token 扣费 计划价按量级递减(官方定价) 频繁调用同一场景、想锁定折扣的用户
官方 API(非 Bedrock) 按调用计费 + token 与 Bedrock API 类似,但无 prefix caching 非 AWS 部署、对账分散的用户

对账技巧:

  • 在发票或对账单中查找「prefix cached token」与「suffix token」的分段,确认缓存命中率。
  • 若发现预估 $/M 与实际账单偏差大,优先检查 agent 的上下文管理(是否每次 step 前都保留了前缀)。
  • 若使用 Plus 计划,确认计划内的 token 配额是否覆盖了缓存后的实际消耗,避免额外按量补差价。

如何在 Bedrock 中启用与验证缓存

  • 调用 Bedrock 的 model 参数选 GPT-4o 或 GPT-4.1 系列,并在 endpoint 配置中开启 promptCaching(官方文档中对应字段为 EnablePromptCaching,部分模型支持 CachePrefix)。
  • 第一次调用时,发送一段包含系统提示的完整对话,记录 token 消耗;第二次调用时,保持相同 prefix,观察 token 消耗是否低于无缓存的 70%–80%。
  • 使用 AWS CloudWatch 监控 Bedrock 的 TokenIn 与 TokenOut,对比 prefix 命中率与成本变化。

> 注:上述参数名以官方博客为准,具体配置请参照 官方 API 对照页 与 Bedrock 模型文档。

可执行检查清单(对账与 $/M 计算)

  • [ ] 确认模型在 Bedrock 中已开启 promptCaching(prefix 支持的模型优先)。
  • [ ] 记录一次完整 agent step 的 token 消耗(含 prefix 与 suffix 拆分)。
  • [ ] 用官方计费表将 prefix 与 suffix 分别乘上折扣系数,算出 $/M。
  • [ ] 对比 Plus 计划的配额与实际消耗,决定是按月付还是按 token 补差价。
  • [ ] 若计划内配额不足,评估是否迁移到 Pure API 模式以获取更透明的 $/M。

延伸阅读(站内独立主题站)

  • 官方 API 计费对照页: $/M 透明页)
  • AWS Bedrock 模型与用法:
  • Token 计费计算器(站内工具页参考):
  • 对账与 $/M 对比指南:

风险与边界

  • 本文仅引用官方博客(rss-aws-ml T1 2026-10-26)与官方文档,不作法律意见。Bedrock 的缓存命中率与计费折扣在模型版本与区域不同,未经实测不应当作固定 $/M 报价。
  • 若将未官宣型号写成已上线价表,属于不合规描述,风险自负。
  • 本站不提供永久会员、解锁免费档高级模型或注入 token 的服务;所有内容均基于官方公开文档与对账逻辑。
  • 若使用 Cursor IDE 或非官方修改器工具进行对账,请勿将其作为计费依据;本站仅以品牌官方 API 为对照。

结论

Bedrock 的提示缓存能让 OpenAI 模型在 AWS 上的 agent 边际 $/M 大幅下降,但要让对账单与实际计费一致,必须在每条 token 记录中区分 prefix 命中与 suffix 消耗,并在计划内预留足够的 token 配额。选对接口类型(Plus vs API)、正确配置缓存、定期核对官方计费表,是避免超额计费的关键。若仍不确定,建议先以官方 API 对照页的计费结构做一次小规模对账,再决定是否切换 Bedrock 路径。

English summary

This guide explains how OpenAI models use prompt caching on Amazon Bedrock and why that matters for billing. When an agent runs with caching enabled, the same prefix of the conversation is reused across steps, so only the changed suffix is billed. By separating prefix and suffix token usage, the effective $/M can drop significantly compared to no-cache flows. The official pricing page is the authoritative source for token rates, and Plus plans differ mainly in quantity discounts, not in the caching mechanism itself. For accurate reconciliation, users should log each step's token split, check cache hit rates via CloudWatch, and compare against the official per-token price table. This article is based on the official AWS blog post from October 2026 and is intended as a practical reference for accounting teams working with OpenAI models on Bedrock. It does not promote any third-party IDE or non-official tool, and it avoids making unverifiable claims about fixed rates.

参考表格与独立主题站(保持不变)

  • 必须内链:/official-api, /official-prices, /api-transit, /billing-path, /examples, /guides
  • 外链: