Opus 4.8 1M Fast API:上下文、速度与Token成本

面向开发者的Opus 4.8 1M上下文与Fast模式:速度、定价、提示缓存,以及何时值得使用快速配置。

By Dora 3 min read

嗨,我是 Dora。我的路由表里已经有了 Opus 4.7。这篇文章要回答的问题是:opus 4.8 1m fast 配置是否值得在同一张表里占一个位置,以及在什么条件下值得。如果你正在生产环境中运行多模型架构,并且在考虑是否开启 1M 上下文、Fast Mode,或者两者都开——这篇文章就是你需要的拆解。

不是发布评测,不是迁移指南,只是两个关键开关的成本与延迟数学。

1M 上下文与标准定价

首先值得搞清楚的是,Anthropic 没有对什么额外收费。

没有长上下文附加费

Anthropic 的定价文档确认:Opus 4.8 在标准定价下包含完整的 1M token 上下文窗口。没有在 200K 处的分级,没有 512K 处的断崖,没有单独的长上下文 SKU。无论你的提示词是 10K 还是 900K,输入按 $5/M 计费,输出按 $25/M 计费。

这比看起来更重要。大多数长上下文模型采用分级定价——超过某个阈值后,整个请求翻倍计费。如果你在单一路由层后面运行来自不同提供商的模型,这种不对称性是最让人头疼的建模问题之一。Opus 4.8 的数学保持平坦,这使得跨路由表的成本预测保持一致。

代价是分词器。Opus 4.7 引入了一个新分词器,Anthropic 文档显示对于相同输入,它使用的 token 数量最多比 4.6 多 1.35 倍。Opus 4.7 原始公告解释了这个权衡——分词器变更提升了许多任务的性能,代价是将相同输入映射到大约 1.0–1.35 倍更多的 token。Opus 4.8 继承了这个分词器。对技术内容(代码、JSON)的独立测量在实践中接近 1.4 倍。所以”标题价格不变”伴随着”输入量上升”。代码密集型工作负载的净成本比费率卡显示的要高出不少。纯英文散文基本不受影响。

最大输出 128K

同步最大输出 128K,通过 Batch 的 beta header 可达 300K。1M 上下文是输入侧的数字;输出仍然有上限。这是”为什么这个请求失败了”工单最常见的来源——一个长上下文请求在生成中途触碰到输出上限。如果你将现有工作流从 200K 模型迁移到 opus 4.8 fast mode 或标准 1M 版本,请仔细检查 max_tokens 是否已提高。新分词器会更快地消耗预算。

Fast Mode 解析

Fast Mode 是真正改变 opus 4.8 1m fast 决策的杠杆。opus 4.8 fast mode 端点和标准端点运行的是同一个模型,具备相同的能力——但成本和延迟特性截然不同。

2.5 倍速度,研究预览状态

Fast Mode 的运行速度比标准端点快约 2.5 倍,输出质量相同。模型权重相同,上下文窗口相同,改变的是吞吐量。

它是 API 上的研究预览,通过候补名单控制访问。在 Claude Code 中,/fast 命令可以在会话中途切换。在 API 上,你需要按组织启用访问权限。“研究预览”的措辞值得认真对待——容量、可用性窗口和确切的定价结构仍可能发生变化。暂时不要在此基础上建立生产 SLA。

$10/$50(标准的 2 倍,比 4.7 便宜 3 倍)

这里的数学变得有趣了。Claude opus 4.8 fast 的定价恰好是标准的 2 倍:输入 $10,输出 $50,每百万 token。在 Opus 4.7 上,等效的 Fast 档是 $30/$150——标准费率的六倍。Anthropic 在 4.8 中将其降至 2 倍。claude opus 4.8 fast 费率变化是这个档位如何融入路由决策中最大的单一转变。

三点观察。

第一,Fast Mode 曾经是奢侈档——演示时开,生产时关,因为乘数会打爆预算。在 2 倍的情况下,它现在在延迟敏感路由上持续开启已经在合理范围内。经济论证翻转了。

第二,2 倍乘数适用于整个上下文窗口。1M 时没有单独的 Fast 费率。所以 opus 4.8 1m fast 就是标准 1M 定价 × 2,容易建模。

第三,Fast Mode 的成本案例仍然需要越过任何溢价档必须越过的门槛:延迟提升是否比通过一个已经足够快的更便宜模型运行相同工作负载更划算?对于许多路由,答案仍然是否。

成本叠加方式

多个定价修饰符可以同时作用于同一个请求,而且它们的叠加方式并不相同。

Fast + 提示词缓存 + 数据驻留乘数

Fast Mode 定价与其他修饰符叠加:

  • 提示词缓存乘数基于 Fast Mode 定价计算,而非标准定价。 缓存写入和缓存读取是相对于 Fast 基础费率计算的,而非标准费率。因此,Fast Mode 请求上的缓存命中在绝对数量上仍比标准模式下相同的缓存命中更贵。
  • 数据驻留乘数也叠加在 Fast Mode 定价之上。 如果你为欧盟或其他数据驻留要求支付区域溢价,该溢价是相对于 Fast 费率计算的。

对于 opus 4.8 token 用量建模的实际含义:如果你已经在现有路由表中运行了缓存 + 驻留乘数,Fast Mode 方案并不是单纯的 2 倍。它是 2 倍与你原本支付的任何乘数的复合。在决定权衡是否可接受之前,请针对你的实际配置进行计算。

Opus 4.8 上最小可缓存提示词长度降至 1,024 个 token,低于早期阈值。这对于缓存此前无法生效的短提示词 agent 循环来说是个小收获。

新分词器(约多 35% token)

我在上面提到过这一点;在成本叠加的语境下值得再次标注。自 Opus 4.5 以来,标题费率没有变动——$5/$25。但 Opus 4.7 和 4.8 都使用了新分词器,对于相同输入,其消耗的 token 数最多可多 35%。Anthropic 自己的定价页面直接说明了这一点。

因此,在叠加修饰符时,基本单位与 4.6 上的不同。代码密集型工作负载的”20% 缓存节省”是在本身就已增大 30-40% 的输入量基础上计算的。如果你在成本上将 4.8 与旧模型进行基准测试,请按 token 数量归一化,而不仅仅是费率。

何时开启 Fast

诚实的回答:不是默认开启。claude api fast mode 选项是针对特定请求形态的工具,不是全局开关。将 claude api fast mode 视为每路由决策,而非每组织决策。

延迟敏感型与成本敏感型工作负载

Fast Mode 真正物有所值的场景:

  • 交互式 copilot,其中首 token 时间和每秒 token 数会明显影响用户体验。2.5 倍的速度差异是可感知的。
  • 值班汇总器、告警分类、面向客户的 agent——任何墙钟延迟是主要成本的场景。
  • 演示和销售路径,模型需要感觉响应灵敏。

浪费 Fast Mode 的场景:

  • 批处理。 如果你不在等待模型,模型跑多快都无所谓。直接用 Batch API,半价。
  • 无人值守的后台 agent,整夜运行。
  • 使用更小、更快的模型已能满足质量要求的路由。 Sonnet 4.6 已经便宜得多也快得多。如果任务不需要 Opus 级别的能力,Fast Mode 是错误的优化轴。

在路由表中,我的心智模型:Fast Mode 是你应用于已经证明合理的 Opus 路由上的升级。它不能替代本应在上游发生的路由决策。

Fast 不可用的场景(Batch、AWS)

文档中的两个硬约束:

  • Fast Mode 不可与 Batch API 一起使用。 Batch 是异步的,所以延迟溢价没有价值。Anthropic 不提供这种组合。如果你想在非延迟敏感型工作上进行成本优化,Batch API 是另一个方向——输入和输出各享 50% 折扣,但你放弃了实时响应。
  • Fast Mode 在 AWS 上的 Claude Platform 中不可用。 如果你的生产部署专门在 AWS Bedrock 上,并且出于合规或合同原因绕过了 Anthropic 的直接 API,Fast Mode 就不在菜单上。标准端点可用。在围绕 Fast 进行架构设计之前,值得仔细核查你的部署路径。

它在直接 Claude API 和其他受支持的渠道上可用,但在承诺之前请查阅官方 Fast Mode 文档进行核实。

限制与权衡

以下是我踩过坑或者提前发现从而避免踩坑的事项:

  • 模型切换时的缓存失效。 提示词缓存按模型分区。从 4.7 切换到 4.8,或从 4.8 标准切换到 4.8 Fast,会使缓存前缀失效。在新端点上的最初几个会话需要支付完整的缓存写入成本。相应规划迁移窗口。
  • Token 数量漂移。 相同内容,在 4.6 和 4.8 上通过 count_tokens 运行,得到不同的数字。如果你的计费仪表板或限流预测基于历史 4.6 token 数量,opus 4.8 token 用量会在你切换模型 ID 的当天显示为阶跃变化,即使工作流本身没有任何改变。
  • Effort 级别影响输出成本。 Opus 4.8 有 effort 档(默认 high,还有 extra 和 Claude Code 中的 max)。更高的 effort 意味着更多的推理 token,无论是否显示,都按输出费率计费。相同的提示词因 effort 不同可能产生差异很大的账单。
  • Fast Mode 容量。 研究预览意味着可用容量无法保证。对于生产路由,请内置回退到标准端点的机制。

常见问题

在 Opus 4.8 上同时开启 1M 上下文和 Fast Mode 会真的让我的成本翻倍吗?

大致是的——但基础单位很重要。1M 上下文按标准定价,所以上下文大小本身不会提高费率。Fast Mode 是输入和输出统一 2 倍。在此基础上叠加缓存乘数和数据驻留,实际成本取决于配置。在考虑缓存命中率之前,每个请求的账单大约是你之前标准 1M 成本的 2 倍。

Fast Mode 是正式可用还是仍处于研究预览阶段?

Claude API 上的研究预览,通过访问权限控制[截至发布日期]。在 Claude Code 中通过 /fast 命令立即可用。容量和定价结构在 GA 之前可能会变化。查看 Fast Mode 文档了解当前状态。

我可以在 Batch API 或 AWS 上使用 Fast Mode 吗?

两者都不行。Fast Mode 与 Batch API 不兼容(batch 是异步的,所以延迟没有价值),也不在 AWS 上的 Claude Platform 中提供。仅限直接 Claude API [截至发布日期]。

新分词器会让我在 Opus 4.8 上的 token 用量增加多少?

Anthropic 的文档范围是比 4.7 之前的模型多 1.0 倍至 1.35 倍的 token,代码和结构化数据会达到该范围的上限。纯英文散文几乎不受影响。对真实工作负载的独立测量报告显示,技术内容略高于文档上限。在依赖单一乘数之前,请对你实际工作负载的代表性样本运行 count_tokens

什么时候真的值得启用 Fast Mode 而不是继续使用标准模式?

当墙钟延迟直接影响体验或下游工作流,且任务确实需要 Opus 级别的质量时。交互式 copilot、实时 agent、面向客户的聊天。不值得用于批处理作业、后台处理,或使用更便宜更快的模型就能满足质量要求的路由。

结论

opus 4.8 1m fast 决策是两个开关,不是一个。1M 上下文开关在费率层面基本是免费的——你通过分词器付费,而非费率卡。Fast Mode 开关是真实的 2 倍,但乘数足够低,在延迟确实重要的路由上是可以接受的。

如果你已经在运行多模型架构:标准 1M 以与 4.7 相同的成本形态插入长上下文 Opus 角色;Fast Mode 是一个新杠杆,值得在延迟关键路由上选择性启用,而不是作为默认设置。在承诺之前对缓存和驻留叠加进行建模。在信任任何成本预测之前,对真实样本重新运行 count_tokens

我的数据到此为止。研究预览状态意味着将这些数字视为当前有效,而非已确定承诺。

往期文章: