开放权重 AI 模型:Token 份额、支出与战略取舍

原标题Open-Weight AI Models: Token Share, Spending and Strategic Tradeoffs

Matthew Berman 分析 Vercel AI Gateway 的一份快照,说明模型使用量与支出可能呈现截然不同的情况。

MBMatthew Berman主持 · Forward Future
频道
Matthew Berman
发布
2026年8月26日
视频
20:46
阅读
5 分钟
幻灯片
5
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 利用 2026 年 8 月 Vercel AI Gateway 的数据快照,探讨开放权重模型使用量的增长,以及估算支出向高价提供商集中的现象。他讨论完成任务的成本、定制、隐私、竞争和潜在地缘政治依赖。这些平台数据只是有限样本,估算支出不等于公司收入;他对未来市场份额和芯片的预测仍有不确定性。

  1. 1特定平台上的变化Vercel 图表显示,在所示时期内其网关的开放权重 token 份额上升,并不代表全球全部使用情况。
  2. 2使用量与估算支出不同8 月 24 日快照中,DeepSeek 占 25.2% 的 token 和 2.8% 的估算支出;Anthropic 分别占 24.5% 和 64.6%。这是平台估算,不是提供商的全部收入。
  3. 3高价模型为何可能赚得更多Berman 认为,困难且高价值的任务可能值得支付更高价格;这取决于实际结果和替代方案。
  4. 4每项任务的成本较低的 token 单价可能被更高的消耗量或重试次数抵消,因此评估必须包括效果和总成本。
  5. 5控制权与取舍开放权重可以支持定制和不同托管方式,但隐私取决于部署、合同和实际运营。
  6. 6地缘政治假设Berman 担心未来模型与中国芯片协同设计可能使美国用户产生依赖;他将其作为可能发生的情况,而非当前必然结果。

要点建议

  1. 平台的 token 份额衡量的是该平台上的使用情况,并非整个 AI 市场或公司的收入。
  2. 8 月 24 日的快照显示 DeepSeek 和 Anthropic 的 token 份额相近,但估算支出份额差别很大。
  3. 比较模型时应考虑每项任务的总成本与成功率,而不只是 token 单价;模型行为和工作负载都很重要。
  4. 开放权重可以支持自托管和定制,但仍受许可条款、基础设施成本和安全控制约束。
  5. Berman 对前沿模型收入和中国芯片依赖的判断是假设,而非已证实的结果。
全文

按章节阅读整理后的全文

只看原始文稿
01

Vercel 使用量图表

Berman 介绍显示开放权重份额上升的平台快照,并比较 token 使用量与估算支出。

Matthew Berman 认为,Vercel 的一张图表显示了 AI 市场正在发生变化。视频发布于 2026 年 8 月,反映他对当时情况的解读。这些数字来自特定平台,本身不能描述全部 AI 使用量或提供商的全部收入。

开放与封闭权重的 token 份额
幻灯片 1 / 5开放与封闭权重的 token 份额Vercel 图表展示了截至 2026 年 8 月该网关上的趋势。

图表追踪了从 6 月底到 8 月底 Vercel AI Gateway 上开放与封闭权重模型的 token 份额。画面终点显示开放权重占 62%,封闭权重占 38%。Berman 将开放权重份额上升视为采用率增长的迹象;但这是网关样本,并非市场普查。

Berman 强调中国开发者推出的模型,以及下载、托管和定制开放权重的可能性。这些选择取决于模型许可和用户的基础设施。开放权重并不自动意味着所有训练数据和代码开放,也不保证可以免费商业使用。

Token 数量与支出金额是不同指标。一张标注为 8 月 24 日 Vercel AI Gateway 快照的幻灯片显示,DeepSeek 占 25.2% 的 token 和 2.8% 的估算支出,Anthropic 分别占 24.5% 和 64.6%。估算支出是样本内的推算,并非各公司的总收入。

Token 份额与估算支出
幻灯片 2 / 5Token 份额与估算支出幻灯片比较 Vercel AI Gateway 某次快照中的 DeepSeek 和 Anthropic。

Berman 将这一差距解读为客户愿意为领先模型处理困难工作支付溢价的证据。他认为,在高风险任务中,能力上的小差异可能很有价值。这是一种经济解释,图表本身无法证明客户选择各模型的原因。

02

高价模型与低成本替代方案

他讨论前沿性能的价值、更便宜模型对需求可能产生的影响,以及价格差异。

按照 Berman 的介绍,投资者 Gavin Baker 认为广泛可用的开放权重可能扩大使用量和基础设施需求。Berman 还引用了一个预测:前沿模型即使 token 份额较小,也会获取不成比例的价值。需求增长和特定收入分配都没有保证。

视频比较了一个高价模型与便宜得多的 Flash 模型的标价输出 token 价格。Berman 承认它们属于不同的模型类别:较低价格可以让常规任务更易负担,而困难任务上更好的结果可能值得溢价。所列价格是历史价格,不能衡量完整工作流程的成本。

03

企业选择与任务成本

讨论涵盖定制、隐私以及完成一项任务的成本比较。

Berman 表示,企业选择模型还取决于隐私、产品适配和定制。他列举使用开放权重模型的公司,并介绍 Harvey 对法律模型的微调。基准结果是厂商报告的评测,并非可靠法律工作的独立证明。

Harvey 法律基准表
幻灯片 3 / 5Harvey 法律基准表厂商报告的表格将定制模型与其他模型在选定测试中作比较。

按任务计算的例子说明了为什么 token 单价不完整:模型每个 token 更便宜,却可能在类似任务中消耗更多 token。Berman 引用 0.84 美元和 0.96 美元的比较,建议考虑实际完成任务的成本。有意义的比较还应考虑成功率和重试。

任务成本的组成
幻灯片 4 / 5任务成本的组成示例拆分了回答、推理和缓存使用等成本。

按照 Berman 的概括,经济学家 Christian Catalini 的框架将市场分为低价通用模型、适应企业上下文的专业模型和高价前沿通用模型。Berman 将这些视为可能的市场分层,而非已经确定未来支出分配的测量结果。

04

控制权、竞争与开放权重

Berman 思考托管选择、平台风险、定制和模型生态。

Berman 支持开放权重,因为自托管和微调可以给组织更多控制权,减少对单一模型提供商的依赖。他担心提供商保留信息或与客户竞争。实际数据使用和保留政策取决于服务、合同和配置;自托管也会带来运营责任。

其他托管提供商可以给买方更多谈判选择。定制可能提升模型在特定领域的表现,但收益取决于数据质量、评测、成本和许可。Berman 认为模型和基础设施提供商之间的竞争能对高价实验室形成有益压力。

Berman 指出衍生模型生态庞大,并展示 Artificial Analysis 指数:几个开放权重模型的得分接近领先者。排名汇总的是选定测试,并不代表每项实际任务的表现。他还用住房作类比,认为调整模型可以随时间积累组织知识。

Artificial Analysis 模型指数
幻灯片 5 / 5Artificial Analysis 模型指数画面中的排名汇总了视频拍摄时选择的一组评测。

他提到一家封闭模型提供商降价,并预测开放权重会在 token 使用量上领先,而前沿实验室获得大部分支出。Vercel 快照支持区分该样本内的使用量与估算支出,但无法证明预测中的市场格局会持续。

05

市场预测与地缘政治风险

他预测使用量和支出的领先者可能不同,并提出未来对中国硬件产生依赖的假设。

Berman 最后担忧的是地缘政治:如果未来模型和中国芯片紧密协同设计,依赖这些模型的美国公司可能面临新的依赖。这是他提出的情景,并非开放权重模型目前必须使用中国硬件的证据。他最后鼓励读者了解本地部署与定制。

同频道的其他文章

6 张幻灯片25:50EN → 简体中文
MBMatthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
MBMatthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
45:08EN → 简体中文
MBMatthew Berman· 2026年10月21日Sam Altman 谈 AI 发现、意识、算力与以人为本的未来Matthew Berman, Sam Altman · Forward Future在与 Matthew Berman 的对谈中,Altman 讨论科学进步、个人助手、递归自我改进与人类自主权。AI for sciencePersonal agentsConsciousness+2
0:32EN → 简体中文
MBMatthew Berman· 2026年10月21日Sam Altman 谈持续存在的软件工作需求Sam Altman, Matthew Berman · OpenAI在一段简短访谈中,Altman 表示,尽管 AI 正在改变软件的制作方式,软件需求可能比人们预想的更大。Future of WorkSoftware engineering编程智能体
5 张幻灯片12:14EN → 简体中文
MBMatthew Berman· 2026年10月14日Gemini 4 Argon 实测:3D 演示、电子表格原型与基准成绩Matthew Berman · Forward FutureMatthew Berman 用游戏和视觉项目测试 Google 模型,并比较公布的编程与智能体基准。GeminiBenchmarks编程智能体+1
5 张幻灯片10:36EN → 简体中文
MBMatthew Berman· 2026年10月13日Meta Muse Wonder 实测:基准成绩强劲,演示表现不一,额度限制影响体验Matthew Berman · Forward FutureMatthew Berman 测试 Meta 模型的浏览器演示,并分析公开的基准成绩、使用方式和成本。模型与训练BenchmarksAI cost & performance+1