SemiAnalysis 如何比较 AI 订阅额度

原标题How SemiAnalysis Compared AI Subscription Limits

从 token 计费、缓存密集型工作负载出发,理解按 API 价格折算订阅价值所依赖的假设。

MKMax Kan嘉宾 · SemiAnalysisAMAndrew Megalaa嘉宾 · SemiAnalysis
频道
SemiAnalysis
发布
2026年10月7日
视频
50:13
阅读
8 分钟
幻灯片
3
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Jordan Nanos 与 SemiAnalysis 分析师 Max Kan、Andrew Megalaa 讨论他们在 2026 年 10 月对 AI 订阅额度的测试。他们解释 token 类型和工作负载比例如何改变按 API 价格折算的价值,讨论对供应商毛利率的估计,以及比较模型质量和 token 效率的局限。

  1. 1有条件的比较每月 200 美元订阅按 API 价格折算的价值取决于特定模型和工作负载。
  2. 2不同 token 类型新输入、缓存写入、缓存读取和输出消耗额度的速度可能不同。
  3. 3测量使用额度研究人员用受控请求分别测试 token 类型,并观察额度计量器。
  4. 4不确定的利用率平均使用量和毛利率是推算出来的,而非直接观察到的。
  5. 5Token 不等于任务价值质量、后续工作和用户行为都会让效率比较变得复杂。

要点建议

  1. 订阅额度按 API 价格折算的价值取决于模型、token 比例和当时的额度。
  2. 缓存读取占团队所建模的 agent 工作负载的大部分,可能显著影响比较结果。
  3. 团队用受控请求测量额度计量器的变化,再模拟不同工作负载。
  4. 供应商的利用率和毛利率数字是估计值,并非经过确认的财务披露。
  5. 单看 token 数量无法确定模型完成了多少有用工作。
全文

按章节阅读整理后的全文

只看原始文稿
01

订阅与假设

研究人员介绍比较方法和毛利率估计,并解释为何按 API 价格折算的价值取决于工作负载。

SemiAnalysis 主持人 Jordan Nanos 邀请 Max Kan 和 Andrew Megalaa 讨论他们在 2026 年 10 月进行的 AI 订阅比较。他们说,自己通过测量不同 token 类型如何消耗额度,测试了 OpenAI、Anthropic 等供应商的计划。

Kan 说,在他们测试的假设下,每月 200 美元的 Claude 计划可以获得相当于约 1.2 万美元 Opus 5.5 API 标价的用量。按 API 价格折算的价值是一种假设性比较,不是订阅者收到的现金,也不保证适用于所有工作负载。

他认为,相对于 API 价格划算,并不一定意味着订阅毛利率为负。他的估计假设 API 毛利率超过 90%、订阅平均使用率约为 10%,由此推算订阅毛利率约为 50% 至 60%;这些输入和毛利率并非经证实的公司披露。

Megalaa 说,他们选用的代表性 agent 工作负载中约 96% 是缓存读取,另外还有少量新输入、缓存写入和输出。研究人员强调,不同的比例可能大幅改变比较结果。

Kan 将订阅额度比作分配给用户的积分:不同模型和 token 类型以不同速度消耗额度。由于这些速度不一定与 API 价格比例一致,不存在一个适用于所有订阅者的固定折算价值。

02

Token 类型与缓存

新输入、缓存写入、缓存读取和输出的成本不同。缓存路由和过期时间对供应商也很重要。

Megalaa 解释了新输入 token、缓存写入、缓存读取和输出 token。缓存的上下文可以反复使用,无须在每轮重新计算;价格因供应商而异,但缓存读取通常远比生成输出便宜。

他举出示意比例:输入为 1 倍价格,缓存写入约为 1.25 倍,缓存读取约为 0.1 倍或更低,输出通常更贵。这些是节目中的例子,并非通用价格。

在较长的 agent 会话中,先前上下文反复复用,缓存读取可能占据大部分 token。Nanos 说,因此缓存命中率会显著影响推理服务商的实际成本。

大规模提供缓存上下文是一项系统工程。供应商必须存储或卸载会话缓存,把后续请求路由到合适的部署,并在大量用户之间平衡 GPU 利用率。

缓存还有生存时间。如果用户回来之前缓存已经过期,供应商可能需要重新处理上下文;Nanos 指出,这会让原本便宜的缓存读取变成更昂贵的重新处理。

Kan 说,近期降价主要集中在缓存读取。他猜测这类 token 此前的利润率尤其高;这些数字是估计,并非供应商确认的成本。

03

比较计划

嘉宾讨论特定模型的 token 额度和基准比较的局限。人们对模型质量的偏好各不相同。

嘉宾使用当时的价格和额度比较特定旗舰模型。他们说,即使按 API 价格折算的美元价值看起来更低,较低的缓存读取价格也可能让计划提供更多 token。

在他们对每月 200 美元计划的特定比较中,按所建模的 agent 工作负载,GPT-6 Astra 约提供 19 亿 token,Claude Fable 5.1 约提供 31 亿 token。他们说,Fable 当时另有单独上限,只能使用 Claude 计划额度的一半,剩余部分可用于其他模型。

旗舰模型按 API 价格折算的价值
幻灯片 1 / 3旗舰模型按 API 价格折算的价值图表在节目指定的 agent 工作负载和订阅假设下,比较每月按 API 价格折算的价值。

争议更大的比较是 GPT-6.1 Sol 与 Opus 5.5。Megalaa 说,批评者认为 Sol 完成任务可能使用更少 token,而团队质疑所引用的基准能否可靠衡量真实工作的 token 效率。

Kan 比较了特定基准设置,并认为即使考虑基准测得的成本差异,订阅优势仍然存在。这一结论取决于所选模型设置、任务和质量比较方式。

Megalaa 表达了对 Anthropic 模型的强烈个人偏好,认为 Opus 5.5 能与更高档的替代模型竞争。Nanos 指出,模型选择具有很强的个人因素;嘉宾并未声称这些偏好来自受控评估。

04

测试方法

受控提示词分别测试 token 类型,并展示计划额度计量器如何变化。团队分别模拟 agent 和聊天工作负载。

为了测量额度,研究人员说,他们模拟了常用命令行客户端调用模型 API 的方式,并设计提示词分别测试各类 token。他们将响应中的 token 数量与订阅额度计量器的变化相比较。

测试输入和缓存时,他们用一大段文本配一个简短问题,并改变是否请求缓存及提示词前缀是否变化,然后检查返回的计费记录,以区分新输入、写入和读取。

测试输出时,他们要求模型写长篇文章,观察生成 token 如何影响计量器。重复这些受控请求后,他们估算出各类 token 的额度消耗速度,再模拟不同工作组合。

测量使用额度
幻灯片 2 / 3测量使用额度示意性例子展示重复受控请求与观察到的计量器变化之间的关系。

他们的 agent token 比例来自 SemiAnalysis 自己 9 月的企业使用数据。聊天工作负载更难直接测量,因此团队根据共享系统提示词、简短用户提示和用户回到会话的频率作出估计。

05

其他供应商与利用率

对话涵盖其他订阅、转售商和不确定的平均使用量。结果只是某一时间点的快照。

团队还测试了 Moonshot、Z.ai、MiniMax、Meta 等公司的计划。Kan 说,尽管部分供应商的 API 价格较低,按 API 价格折算的价值仍然可观;这些比较同样取决于选定的工作负载和参考价格。

中国实验室的编程计划
幻灯片 3 / 3中国实验室的编程计划节目比较 Z.ai、MiniMax 和 Moonshot 部分计划按 API 价格折算的建模价值。

Nanos 说,他没有看到明显到足以让用户放弃偏好模型的订阅价格战。较低的入门价格仍然可能有意义,而不同计划提供的用量也不同。

Kan 认为模型所有者可能比转售商更有优势,因为第三方应用必须付费获取模型。他说,在他们的测试中,通过某些第三方计划使用 Anthropic 模型的额度较低;他对毛利率和折扣的假设属于估计。

嘉宾还提到他们测得的某个 Meta 计划按 API 价格折算的 token 额度,并开玩笑说这些额度可以支持多少次预约请求。数字反映的是特定计划和当时的情况。

Nanos 问,平均用户实际使用了多少订阅额度。Kan 说团队无法直接看到这一数据,他们根据可获得的财务信息推算 Anthropic 利用率约为 10%,但不确定性很大。

在网上报告自己总是用满额度的重度用户,未必能代表普通订阅者。Kan 还讨论了当时 OpenAI 宣布的额度变化和给予既有订阅者的宽限期;这些细节可能在节目后改变。

06

效率与开放模型

嘉宾讨论每个 token 带来的有用工作、路由和开放权重模型。个人体验和对市场未来的预测仍属于观点。

研究人员强调,这项研究只是某一时间点的快照:新模型、订阅层级、使用额度、快速模式和供应商价格都可能变化。他们计划继续追踪比较结果。

衡量每个 token 带来的有用工作,比统计 token 数量更难。基准任务可能无法反映真实工作流,而比较不同员工又会引入人员、任务和审查标准的差异。

Megalaa 说,根据他的个人体验,有些模型完成眼前任务使用的 token 更少,却留下了另一个模型可能已经处理的后续工作。他承认,这是他对输出质量的判断,并非量化结果。

谈到第三方工具和路由器时,Megalaa 说自己通常更愿意选择熟悉且信任的模型。他没有亲自评估所有替代方案,并指出设计系统时了解模型的长处和失误方式很重要。

话题转向开放权重模型。Nanos 说,仅凭路由平台上的 token 份额数据,不能证明整个市场发生了全面转向,但他看到这些平台上的使用量明显增长。

Kan 认为,选择往往取决于任务究竟需要多强的能力。企业可能把简单工作转移到更便宜的开放模型;前沿供应商的未来也取决于新增、更难任务的需求能否增长得足够快。

07

安全与结束讨论

Nanos 分享自己处理安全工作的体验。嘉宾讨论模型能力的不确定性,最后对一则研究新闻作出未经核实的即时反应。

Nanos 讲述自己在网络安全工作中遇到其他模型拒绝后转用 GLM 5.3,随后在同一个会话中完成一项小型仪表盘改动。他把这描述为个人体验,而非模型普遍更优的证据。

Megalaa 说,他听到一些安全能力开放后的其他模型在实际任务中可能胜过 GLM 5.3。嘉宾讨论了真实安全担忧与监管方面的争论;仅凭这段交流无法证实任何一方。

对话最后转向对新发布数学研究的即时反应。嘉宾没有核实当场的猜测,并表示以后会再讨论订阅额度和 token 效率。

同频道的其他文章

4 张幻灯片55:06EN → 简体中文
SemiAnalysis· 2026年10月27日播客 · 4 人对谈Anthropic 的 S-1:收入、算力成本与规模竞赛SemiAnalysis 嘉宾解读 Anthropic 的申报文件,讨论算力经济性、客户集中度与竞争。AI cost & performance基础设施与部署企业 AI+2
3 张幻灯片34:35EN → 简体中文
SemiAnalysis· 2026年10月23日播客 · 3 人对谈SemiAnalysis 谈 ASML 的 hybrid bonding 专利、HBM 经济账和下一代设备生态嘉宾 Sherry Zhang, Howie · 主持 Jordan NanosJordan Nanos、Sherry Zhang 和 Howie 审视一种轨道式键合设计:把晶圆送到芯片处,并说明这项技术能否落地,取决于精度、洁净度、经济账,以及一条正在变化的供应链。Semiconductors基础设施与部署Geopolitics
2 张幻灯片34:47EN → 简体中文
SemiAnalysis· 2026年10月20日播客 · 3 人对谈SemiAnalysis 为何上调 2027 年数据中心预测嘉宾 Jeremie Ontiveros, Reyk Knuhtsen · 主持 Jordan NanosJeremie Ontiveros 和 Reyk Knuhtsen 解释他们的项目级模型、建设风险,以及未来可能出现的供需失衡。基础设施与部署Semiconductors
4 张幻灯片44:12EN → 简体中文
SemiAnalysis· 2026年10月14日播客 · 3 人对谈GLM 5.3、稀疏注意力与推理成本嘉宾 Kimbo Chen, Wenyao Gao · 主持 Jordan NanosSemiAnalysis 讨论内存瓶颈、AMD 和 NVIDIA 的推理结果、后训练以及对中国芯片的支持。InferenceOpen-weight modelsSemiconductors+1
6 张幻灯片1:23:18EN → 简体中文
SemiAnalysis· 2026年10月9日播客 · 2 人对谈谁来为 AI 基础设施建设融资?嘉宾 Daniel Nishball · 主持 Jordan NanosSemiAnalysis 分析预计的资金需求、GPU 租赁经济性,以及支持数据中心融资的担保。基础设施与部署Semiconductors