30 秒看懂
Theo Browne 认为,获得大致固定水平 AI 能力的成本已经下降,尽管他自己的支出上涨了。他比较了 token 价格、基准任务成本和不同智能指数区间的历史价格,接着解释更长、更复杂的智能体工作流如何增加用量。 这些例子依赖基准测试的可比性,其中一项还依赖对 token 效率的假设。画面中的历史图表追踪的是混合 token 价格,并非每个任务成本的直接测量。
- 1成本的三个维度比较每个 token 的价格、每项任务的 token 用量,以及解决任务所需的能力。token 单价高,任务成本仍可能具有竞争力。
- 2工作负载决定成本构成输入量大的分类任务和长时间运行的开发智能体有不同的成本驱动因素,包括缓存和可靠性。
- 3比较固定能力水平Theo 根据重叠的基准比较 DeepSeek V4 Flash 与 GPT-5 Codex high,然后用假设的效率比例举例说明可能的节省。
- 4不同能力区间的历史价格展示的 Artificial Analysis 图表追踪的是各智能指数区间内混合 token 的价格,而非单项任务的直接成本。
- 5更多使用可能带来更高账单更便宜、更有能力的模型使更长、更复杂的工作流成为可能,因而增加用量,即使固定能力水平的价格下降也是如此。
要点建议
- 单看 token 价格,无法得知完成一项任务的成本或结果质量。
- 不同任务的 token 用量、输入输出比例、缓存和可靠性都会影响实际支出。
- 基准比较显示,达到某些以往能力水平的成本已经大幅下降,但相同分数并不代表模型完全一样。
- 当用户让智能体运行更久、完成更多工作时,单位成本下降仍可能伴随账单上涨。
- Theo 对某次比较中约便宜 20 倍的估算依赖未经实测的 token 效率假设。
按章节阅读整理后的全文
看似矛盾的账单
Theo 将个人账单上涨与 AI 会变便宜的承诺进行对照。他认为答案取决于比较的具体内容。
2025 年 7 月,Sam Altman 谈到智能的成本会低到难以衡量。但我在整个 2025 年可能只花了 800 到 1,000 美元使用 AI,到了 2026 年,一天就可能消耗价值 1,000 美元的 token。前沿模型的单 token 价格可能更高,产生的 token 也多得多,所以账单看起来像是在朝相反方向走。
Primagen 提出了这个看似矛盾的问题:Altman 也曾说 AI 每年会便宜十倍,但 Astra 却很贵。我的简短回答是,获得某一水平的能力确实变便宜了。问题在于,我们经常比较的是不同能力水平和不同工作量。
Token 价格只是起点
完成有用工作的成本还取决于 token 消耗和所需能力。不同任务有不同的成本驱动因素。
先看 token 价格。图表显示,GPT-5 medium 每百万输入 token 为 1.25 美元、每百万输出 token 为 10 美元;GPT-6 Astra 分别为 10 美元和 50 美元。最强的选项每个 token 可能贵几倍,但单看 token 价格,无法很好地衡量完成有用工作的成本。

我想区分三件事:单个 token 的价格、完成一项任务需要多少 token,以及解决它需要什么水平的能力。有用的问题是获得合格答案要花多少钱,而不是哪个模型的输出 token 最便宜。

也有非常便宜的模型。图上的 GLM-5.3-Flash 每百万输入 token 为 0.15 美元、每百万输出 token 为 0.50 美元;我还提到一些供应商提供折扣。按照我的体验,尽管它的 token 价格仅为 GPT-5 的一小部分,它在许多智能体任务中仍很有能力。
再看每项任务的 token 消耗。Gemini 3.8 Flash 的输出价格看起来不高,每百万 token 为 3.75 美元;但在展示的基准中,它消耗的 token 足够多,使得单项任务成本更接近价格较高的模型。Gemini 3.5 Flash 也是一个例子:token 单价低,并不保证任务成本同样低。

任务的形态也很重要。如果要对 80 万个输入 token 分类,输出又很短,输入价格可能决定大部分账单。对于智能体开发,缓存、可靠性和模型完成工作时的效率可能重要得多。没有一个模型对所有工作负载都是最便宜的。
比较能力与成本
基准图展示了价格与表现之间的取舍。Theo 比较了指数分数大致相同的模型,并解释了示例中的效率假设。
Artificial Analysis 将基准表现与每项任务成本画在同一张图上,并标出帕累托前沿,即特定成本下能达到的最佳测评分数。在我讨论的例子里,从约 45~46 分、每项任务 0.82 美元提高到 50 多分、3.26 美元,需要为不大的分数提升多花几倍。这是基准对比,并不保证适用于每种应用。

我还想换个角度:把能力水平大致固定,再看成本随时间如何变化。跨代比较模型很困难,因为基准会饱和并被替换;现有的重叠测试不一定能反映模型之间的所有差别。
在我能找到的对比中,DeepSeek V4 Flash 与 GPT-5 Codex high 的综合智能指数相近,单项基准结果却有所不同。我展示的价格显示,DeepSeek 的输入 token 约便宜 21 倍,输出 token 约便宜 55 倍。相近的基准分数只是能力可比的近似指标,并不证明两个模型行为完全相同。

我没有找到可靠的数据来衡量两者的相对 token 效率。我估算约便宜 20 倍时,假设 DeepSeek 使用了三倍的推理 token;这是基于假设的示例,并非对每项完成任务成本的实测。按这个假设,降幅可能超过引出这场讨论的十倍。
不同能力区间的历史价格
Theo 回顾了图中各智能指数区间的混合 token 价格降幅。图表使用对数成本轴。
Artificial Analysis 还追踪不同智能指数区间内的历史价格。画面中的历史图标注的是每百万 token 的混合推理价格,混合了缓存、输入和输出价格;不应将其理解为某个具体任务的实测费用。图中较早的能力区间出现了明显降价。
对于指数 10~20 的区间,图表从昂贵的 o1-preview 时代下降,到 2025 年 2 月 Grok 3 mini 的展示混合价格约为 0.16 美元,大约是早先约 15 美元的百分之一。我认为 o1 模型最初的高价格也是降幅如此显著的原因之一。

在更高的区间,我引用的数字也呈现类似趋势:约 20 分水平的模型便宜了许多,之后出现的模型也降低了达到 30 分和 40 分水平的价格。图表的成本轴使用对数刻度,因此相同的垂直距离代表的是倍数变化,而不是相同的美元差额。
在 40~50 分区间,我以 Opus 4.7、接着出现的 GPT-5.6 Terra、GLM-5.3 和 GLM-5.3-Flash 为例,展示相近指数水平的标示价格如何下降。新前沿刚出现时可能让人觉得昂贵,但旧有能力水平的价格仍可能大幅降低。

总支出为何仍会上升
能力更强的智能体能够完成更长、更复杂的任务。Theo 把用量增加与单位成本下降联系起来,并讨论实际工具使用。
还有一个因素:我们的使用方式变了。以前我们让模型自动补全一个函数;现在可以给智能体一张 bug 截图,让它调查问题并完成修改。它运行得更久、消耗更多 token,也能在较少人工干预的情况下完成更大块的工作。
这有助于解释,为什么固定能力的价格下降,却仍可能伴随总账单上涨。我把它比作杰文斯悖论:当某种东西变便宜并能用于更多地方,人们可能会大量增加使用。这是我对趋势的解释,并不是证明每个客户账单成因的计算。
我预计前沿水平的能力也会变便宜。改变的不只是价格:在我的工作中,我更喜欢 GLM-5.3-Flash,而不是旧版 GPT-5,因为按照我的体验,它的视觉、工具调用和长时间运行的智能体工作流受益于过去一年的改进。这是针对实际工作流的偏好,不意味着它在不使用工具时知道得更多。
记住的知识更少的模型,如果善于搜索和使用工具,仍可能更好地解决知识任务。在我关心的工作流上,配合好工具的小模型可以胜过较旧的大模型。这些实际差别未必能由一个智能分数体现。
一次纠正与最终结论
Theo 回顾自己曾错误预测 AI 进步已经见顶。他认为,完成可比工作变便宜与实际账单上升可以同时发生。
我以前也误判过进展。两年前,我看到一些基准成绩似乎趋于平缓,就认为 AI 可能已经到达顶峰。我们需要新的基准,而我低估了后来进步的速度和幅度。这段经历提醒我,对任何单一指标都要保持谦逊。
我的意思并不是说账单是假的。一天花掉 1,500 美元是真实的,也可能令人震惊。我的观点是,与去年相当的任务可能便宜了很多,而我们现在选择花钱完成更大、更难的工作;以前的模型无法以同样的方式完成这些任务。
AI 支出与我们要求模型完成的工作量,以及结果有多大用处有关。我预计能力会继续提高,获得某一水平能力的成本也会继续下降,即使我们的总支出看起来没有减少。真正值得比较的是,我们花钱换来了什么工作和质量。
同频道的其他文章
36:07EN → 简体中文
30:37EN → 简体中文
0:43EN → 简体中文
29:22EN → 简体中文
31:13EN → 简体中文
31:47EN → 简体中文