DeepSeek R1 与 AI 成本和算力之争

摘要

30 秒看懂

Matthew Berman 回顾 2025 年 1 月各界对 DeepSeek V3 和 R1 的反应，认为高效模型可能增加 AI 的采用和算力需求，而不是终结硬件投资。他梳理了研究人员、投资者和政策评论者的观点，并披露自己对 Groq 的少量投资。文章区分了 V3 公布的训练计算成本估算和 R1 的总开发成本，也区分了 R1-Zero 与 R1 的多阶段训练过程。股价预测、地缘政治解读，以及未经证实的 GPU 持有量或交易说法，仍是观点或指称，而非已证实事实。

1V3 成本比较Karpathy 比较了公布的 GPU 小时数；V3 估算覆盖特定训练运行，而非完整研发成本。
2强化学习R1-Zero 在没有初始监督微调的情况下使用强化学习，R1 则加入了冷启动和监督阶段。
3测试时算力Berman 和 Groq 的 Jonathan Ross 讨论模型生成回答时使用的算力。Berman 披露自己对 Groq 有少量投资。
4杰文斯悖论单次任务成本降低可能促使使用量增长，从而提高总算力消耗，但结果取决于需求。
5托管与隐私模型权重可以在本地或由第三方运行，这与使用 DeepSeek 自己的托管服务不同。
6未经证实的猜测视频讨论了芯片持有量和假设的做空交易，但没有足够证据证实这些说法。

要点建议

DeepSeek 对 V3 的 557.6 万美元估算，涵盖按假定租赁价格计算的特定 GPU 小时，并非全部研究或 R1 开发成本。
R1-Zero 和 R1 的训练流程不同；R1 包括冷启动数据和监督微调。
AI 价格降低可能增加使用量，但总算力需求反弹并无保证。
即使训练更高效，推理阶段的思考过程本身也可能需要算力。
开放权重允许本地或第三方部署，隐私取决于所选部署方式。
视频没有证实关于未披露 GPU 库存和可能存在做空交易的说法。
Berman 对市场和 AGI 的预测是对不确定未来的看法。

主题模型与训练 AI cost & performance Open-weight models Geopolitics AI research

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

V3、R1 与训练效率

Berman 回顾 Karpathy 对 DeepSeek 的反应和市场回应。V3 成本估算的范围小于完整开发成本。

DeepSeek 的发布引发了各种反应：有人热衷于可获取的模型权重，有人担忧与中国的竞争，也有人质疑训练成本和芯片数量。2025 年 1 月下旬，AI 相关股票大幅下跌。我想分析这些观点，包括为什么我认为模型成本降低并不必然意味着算力需求减少。

Andrej Karpathy 早在 12 月就关注到了 DeepSeek-V3。他将 V3 报告的约 280 万 GPU 小时与 Llama 3 405B 报告的约 3,080 万 GPU 小时进行比较，同时提醒这并不意味着大型集群不再重要。这一比较有参考价值，但没有控制硬件、训练过程或完整开发成本的差异。

幻灯片 1 / 4Karpathy 对 DeepSeek-V3 的比较帖子比较了公布的 GPU 小时数，并提醒高效训练并不意味着不再需要大型集群。

经常被提及的约 600 万美元数字需要明确范围。DeepSeek 的 V3 报告按每个 H800 GPU 小时假定租金 2 美元，估算 278.8 万 GPU 小时成本为 557.6 万美元，其中包括报告所列的预训练、上下文扩展和后训练运行。它不包括先前实验和其他开发费用，也不是 R1 或公司的总开发成本。

Karpathy 后来的观点是，深度学习仍然能够消耗大量算力，强化学习也是其中一种途径。有效的奖励信号可以引导模型生成期望的答案，但奖励设计和评估仍然困难。生成更多训练数据并不自动等于拥有无限有用数据，算力本身也不能保证智能水平提高。

我曾将 R1 描述为没有使用人类反馈，但这里的区别很重要：[R1 论文](https://arxiv.org/abs/2501.12948)描述，R1-Zero 在没有初步监督微调阶段的情况下开始强化学习；R1 则使用冷启动数据和包含监督微调的多阶段流程。这与说整个 R1 流程没有使用人类生成的数据或监督不同。

市场反应引发了对芯片和数据中心支出的疑问。我不同意一次发布就会让算力变得不重要的看法。我讨论的一份报告认为，DeepSeek 的工作展示的是受约束条件下的效率提升，而非规模扩张的终结。报告也提到有关更大规模 GPU 库存的说法，但具体库存和使用方式在这里都未得到证实。

我认为先进芯片获取受限可能促使团队提高效率。我也认为 DeepSeek 的技术报告值得认真对待，但公布方法并不能独立核实所有资源数字。我提到投资者 Gary Tan 关于下跌后买入 Nvidia 的帖子；这是他自己所述的行动，并非投资建议或未来收益的证明。

推理与需求反弹论点

他讨论测试时算力和杰文斯悖论，预测需求会增加，同时承认结果不确定。

Groq CEO Jonathan Ross 提出，关注点可能从预训练转向测试时算力。我披露自己是 Groq 的小额投资者。推理模型生成回答时可能使用额外计算，因此训练更便宜或模型更高效，并不会自动消除对推理硬件的需求。

幻灯片 2 / 4测试时算力的视角Groq CEO Jonathan Ross 评论了可能向推理阶段计算转移的趋势。

我用杰文斯悖论解释可能出现的反弹：如果服务更便宜或更高效，人们可能将其用于更多任务。在某些情况下，活动增加可以超过单次任务的节省，导致总资源消耗上升。结果取决于需求和其他限制，并无保证；使用量上升也不一定意味着总支出或某只股票必然上涨。

幻灯片 3 / 4需求反弹示意图表说明 Berman 关于成本降低可能带来更多需求的观点，并非经过测量的预测。

我预计更低的 AI 成本将扩大采用并加快进展，也对算力需求持乐观态度。这些是预测，不是 DeepSeek 发布已经证实的结果。通往通用人工智能或超级智能的路径和时间同样不确定。

开放模型、竞争与隐私

研究人员和投资者对开放权重作出回应，Berman 则考虑地缘政治竞争和隐私，并区分托管使用与本地部署。

NVIDIA 研究员 Jim Fan 欢迎模型权重的发布，认为这给开发者提供了研究和改进推理模型的机会。我同意更广泛的使用资格能扩大研究社区。同时，我担忧地缘政治竞争，也不认为美中关系的所有方面都会自动变成合作关系。

我测试了由 Groq 托管、基于 Llama 的 70B R1 蒸馏模型，在自己的体验中报告了约每秒 250 个 token。Perplexity 也宣布在其研究服务中提供 R1。这些例子说明第三方可以提供不同版本的模型，但一次速度测量不能预测所有工作负载或硬件配置的表现。

风险投资人 Bill Gurley 认为，与专有替代品相比，开放获取的外国模型可以有利于创新、竞争及其他公共利益。我也欢迎更广泛的使用机会，但仅凭开放权重并不能解决所有安全、网络安全或地缘政治问题。

David Sacks 和 Aaron Levie 认为，这次发布显示了在国际竞争环境中过度监管 AI 的风险。我支持更快开展研究，也担心限制性规则。这些是政策观点，并不能证明某项具体监管导致美国或欧洲落后。

幻灯片 4 / 4本地与托管部署画面中的讨论区分了在本地使用公开权重和使用托管服务。

一则社交媒体帖子对将数据发送到 DeepSeek 托管服务表达了担忧。社区注释指出，公开的模型权重也可以在本地运行；这一差别很重要。出于隐私顾虑，我个人选择不使用该公司的托管应用，但视频没有证实每位用户的数据都会发送给中国政府。第三方托管和本地运行也各有隐私与安全方面的考量。

价格、猜测与市场反应

Berman 回顾对推理成本的预测，以及关于芯片和交易的未经证实说法，最后展示关于未来 GPU 需求的表情包。

Stability AI 创始人 Emad Mostaque 描述了 Stable Diffusion 发布后对 GPU 容量的旺盛需求，Microsoft 的 Satya Nadella 也在讨论 AI 效率时引用了杰文斯悖论。这些是支持需求反弹论点的例子，并非证明未来整个 AI 市场会如何发展的测量结果。

一些观察者预测，推理价格和利润率会下降，从而让建立在模型之上的应用受益。我同意成本降低可以开辟新用途，也可能增加总需求。不过，变化的幅度、时间和对具体公司的影响仍不确定。

Chris Camillo 猜测，与 DeepSeek 有关联的对冲基金 High-Flyer 可能在发布前后做空 Nvidia。视频没有提供此类交易的证据，因此这仍是缺乏支持的疑问，而非已经发生的事件。我也讨论了对芯片持有量的不同说法，包括归于 Alexandr Wang 的估计以及 Elon Musk 的怀疑；这些说法在这里均未经独立核实。

公开的研究方法可以让其他人测试相关想法，但本身并不会披露所有使用过的资源，也不能证明已经精确复现。我期待社区开展更多工作，弄清哪些结果能够复现。视频还展示了有关市场反应和 AI 竞争的玩笑。

最后一张表情包对比了两种看法：效率提高会减少 GPU 需求，或更便宜的 AI 会增加采用和需求。我更倾向于后一种观点，但实际结果取决于价格、供给、采用程度和竞争。