30 秒看懂
Jordan Nanos 与 SemiAnalysis 分析师 Max Kan、Andrew Megalaa 讨论他们在 2026 年 10 月对 AI 订阅额度的测试。他们解释 token 类型和工作负载比例如何改变按 API 价格折算的价值,讨论对供应商毛利率的估计,以及比较模型质量和 token 效率的局限。
- 1有条件的比较每月 200 美元订阅按 API 价格折算的价值取决于特定模型和工作负载。
- 2不同 token 类型新输入、缓存写入、缓存读取和输出消耗额度的速度可能不同。
- 3测量使用额度研究人员用受控请求分别测试 token 类型,并观察额度计量器。
- 4不确定的利用率平均使用量和毛利率是推算出来的,而非直接观察到的。
- 5Token 不等于任务价值质量、后续工作和用户行为都会让效率比较变得复杂。
要点建议
- 订阅额度按 API 价格折算的价值取决于模型、token 比例和当时的额度。
- 缓存读取占团队所建模的 agent 工作负载的大部分,可能显著影响比较结果。
- 团队用受控请求测量额度计量器的变化,再模拟不同工作负载。
- 供应商的利用率和毛利率数字是估计值,并非经过确认的财务披露。
- 单看 token 数量无法确定模型完成了多少有用工作。
按章节阅读整理后的全文
订阅与假设
研究人员介绍比较方法和毛利率估计,并解释为何按 API 价格折算的价值取决于工作负载。
SemiAnalysis 主持人 Jordan Nanos 邀请 Max Kan 和 Andrew Megalaa 讨论他们在 2026 年 10 月进行的 AI 订阅比较。他们说,自己通过测量不同 token 类型如何消耗额度,测试了 OpenAI、Anthropic 等供应商的计划。
Kan 说,在他们测试的假设下,每月 200 美元的 Claude 计划可以获得相当于约 1.2 万美元 Opus 5.5 API 标价的用量。按 API 价格折算的价值是一种假设性比较,不是订阅者收到的现金,也不保证适用于所有工作负载。
他认为,相对于 API 价格划算,并不一定意味着订阅毛利率为负。他的估计假设 API 毛利率超过 90%、订阅平均使用率约为 10%,由此推算订阅毛利率约为 50% 至 60%;这些输入和毛利率并非经证实的公司披露。
Megalaa 说,他们选用的代表性 agent 工作负载中约 96% 是缓存读取,另外还有少量新输入、缓存写入和输出。研究人员强调,不同的比例可能大幅改变比较结果。
Kan 将订阅额度比作分配给用户的积分:不同模型和 token 类型以不同速度消耗额度。由于这些速度不一定与 API 价格比例一致,不存在一个适用于所有订阅者的固定折算价值。
Token 类型与缓存
新输入、缓存写入、缓存读取和输出的成本不同。缓存路由和过期时间对供应商也很重要。
Megalaa 解释了新输入 token、缓存写入、缓存读取和输出 token。缓存的上下文可以反复使用,无须在每轮重新计算;价格因供应商而异,但缓存读取通常远比生成输出便宜。
他举出示意比例:输入为 1 倍价格,缓存写入约为 1.25 倍,缓存读取约为 0.1 倍或更低,输出通常更贵。这些是节目中的例子,并非通用价格。
在较长的 agent 会话中,先前上下文反复复用,缓存读取可能占据大部分 token。Nanos 说,因此缓存命中率会显著影响推理服务商的实际成本。
大规模提供缓存上下文是一项系统工程。供应商必须存储或卸载会话缓存,把后续请求路由到合适的部署,并在大量用户之间平衡 GPU 利用率。
缓存还有生存时间。如果用户回来之前缓存已经过期,供应商可能需要重新处理上下文;Nanos 指出,这会让原本便宜的缓存读取变成更昂贵的重新处理。
Kan 说,近期降价主要集中在缓存读取。他猜测这类 token 此前的利润率尤其高;这些数字是估计,并非供应商确认的成本。
比较计划
嘉宾讨论特定模型的 token 额度和基准比较的局限。人们对模型质量的偏好各不相同。
嘉宾使用当时的价格和额度比较特定旗舰模型。他们说,即使按 API 价格折算的美元价值看起来更低,较低的缓存读取价格也可能让计划提供更多 token。
在他们对每月 200 美元计划的特定比较中,按所建模的 agent 工作负载,GPT-6 Astra 约提供 19 亿 token,Claude Fable 5.1 约提供 31 亿 token。他们说,Fable 当时另有单独上限,只能使用 Claude 计划额度的一半,剩余部分可用于其他模型。

争议更大的比较是 GPT-6.1 Sol 与 Opus 5.5。Megalaa 说,批评者认为 Sol 完成任务可能使用更少 token,而团队质疑所引用的基准能否可靠衡量真实工作的 token 效率。
Kan 比较了特定基准设置,并认为即使考虑基准测得的成本差异,订阅优势仍然存在。这一结论取决于所选模型设置、任务和质量比较方式。
Megalaa 表达了对 Anthropic 模型的强烈个人偏好,认为 Opus 5.5 能与更高档的替代模型竞争。Nanos 指出,模型选择具有很强的个人因素;嘉宾并未声称这些偏好来自受控评估。
测试方法
受控提示词分别测试 token 类型,并展示计划额度计量器如何变化。团队分别模拟 agent 和聊天工作负载。
为了测量额度,研究人员说,他们模拟了常用命令行客户端调用模型 API 的方式,并设计提示词分别测试各类 token。他们将响应中的 token 数量与订阅额度计量器的变化相比较。
测试输入和缓存时,他们用一大段文本配一个简短问题,并改变是否请求缓存及提示词前缀是否变化,然后检查返回的计费记录,以区分新输入、写入和读取。
测试输出时,他们要求模型写长篇文章,观察生成 token 如何影响计量器。重复这些受控请求后,他们估算出各类 token 的额度消耗速度,再模拟不同工作组合。

他们的 agent token 比例来自 SemiAnalysis 自己 9 月的企业使用数据。聊天工作负载更难直接测量,因此团队根据共享系统提示词、简短用户提示和用户回到会话的频率作出估计。
其他供应商与利用率
对话涵盖其他订阅、转售商和不确定的平均使用量。结果只是某一时间点的快照。
团队还测试了 Moonshot、Z.ai、MiniMax、Meta 等公司的计划。Kan 说,尽管部分供应商的 API 价格较低,按 API 价格折算的价值仍然可观;这些比较同样取决于选定的工作负载和参考价格。

Nanos 说,他没有看到明显到足以让用户放弃偏好模型的订阅价格战。较低的入门价格仍然可能有意义,而不同计划提供的用量也不同。
Kan 认为模型所有者可能比转售商更有优势,因为第三方应用必须付费获取模型。他说,在他们的测试中,通过某些第三方计划使用 Anthropic 模型的额度较低;他对毛利率和折扣的假设属于估计。
嘉宾还提到他们测得的某个 Meta 计划按 API 价格折算的 token 额度,并开玩笑说这些额度可以支持多少次预约请求。数字反映的是特定计划和当时的情况。
Nanos 问,平均用户实际使用了多少订阅额度。Kan 说团队无法直接看到这一数据,他们根据可获得的财务信息推算 Anthropic 利用率约为 10%,但不确定性很大。
在网上报告自己总是用满额度的重度用户,未必能代表普通订阅者。Kan 还讨论了当时 OpenAI 宣布的额度变化和给予既有订阅者的宽限期;这些细节可能在节目后改变。
效率与开放模型
嘉宾讨论每个 token 带来的有用工作、路由和开放权重模型。个人体验和对市场未来的预测仍属于观点。
研究人员强调,这项研究只是某一时间点的快照:新模型、订阅层级、使用额度、快速模式和供应商价格都可能变化。他们计划继续追踪比较结果。
衡量每个 token 带来的有用工作,比统计 token 数量更难。基准任务可能无法反映真实工作流,而比较不同员工又会引入人员、任务和审查标准的差异。
Megalaa 说,根据他的个人体验,有些模型完成眼前任务使用的 token 更少,却留下了另一个模型可能已经处理的后续工作。他承认,这是他对输出质量的判断,并非量化结果。
谈到第三方工具和路由器时,Megalaa 说自己通常更愿意选择熟悉且信任的模型。他没有亲自评估所有替代方案,并指出设计系统时了解模型的长处和失误方式很重要。
话题转向开放权重模型。Nanos 说,仅凭路由平台上的 token 份额数据,不能证明整个市场发生了全面转向,但他看到这些平台上的使用量明显增长。
Kan 认为,选择往往取决于任务究竟需要多强的能力。企业可能把简单工作转移到更便宜的开放模型;前沿供应商的未来也取决于新增、更难任务的需求能否增长得足够快。
安全与结束讨论
Nanos 分享自己处理安全工作的体验。嘉宾讨论模型能力的不确定性,最后对一则研究新闻作出未经核实的即时反应。
Nanos 讲述自己在网络安全工作中遇到其他模型拒绝后转用 GLM 5.3,随后在同一个会话中完成一项小型仪表盘改动。他把这描述为个人体验,而非模型普遍更优的证据。
Megalaa 说,他听到一些安全能力开放后的其他模型在实际任务中可能胜过 GLM 5.3。嘉宾讨论了真实安全担忧与监管方面的争论;仅凭这段交流无法证实任何一方。
对话最后转向对新发布数学研究的即时反应。嘉宾没有核实当场的猜测,并表示以后会再讨论订阅额度和 token 效率。
同频道的其他文章
55:06EN → 简体中文
34:35EN → 简体中文
34:47EN → 简体中文
44:12EN → 简体中文
1:23:18EN → 简体中文