Jonathan Ross 谈 DeepSeek、开放模型与 AI 基础设施

Groq 联合创始人兼 CEO Jonathan Ross 在 DeepSeek 发布模型后不久，与 Harry Stebbings 讨论其意义、训练成本、开放模型、AI 基础设施和地缘政治。Groq 销售推理硬件与服务，也托管 DeepSeek 模型，因此 Ross 在该市场有直接商业利益。访谈中的若干指控和预测没有获得独立证实。

Ross 称这次发布是重大事件，并说它表明强大的模型性能可能通过低于许多人预期的算力支出实现。他提醒，报道中约 600 万美元的训练算力费用，并非开发模型的全部成本。访谈没有提供完整、经审计的成本，因此不应将这一数字表述为整个项目的成本。

他解释模型蒸馏时，将小模型从更强模型的输出中学习，比作学生接受专家辅导。Ross 指称 DeepSeek 使用了 OpenAI 的输出，并为生成数据产生额外成本，同时称赞其强化学习方面的工程工作。他没有提供有关所称数据来源、支出或授权的直接证据；这些仍是指控，而非已确立的事实。

Ross 说，规模扩展的结果不仅取决于 token 数量，也取决于数据质量，并以 AlphaGo 和自我对弈说明训练如何产生更好的样本。他认为高质量生成数据可以用更少的 token 改进模型。这是概念性解释，并非 DeepSeek 训练流程的完整说明，也不是其数据来源的证据。

他称赞一种方法：对结果可验证的任务自动检查答案，减少人工逐条评分的需要。当 Stebbings 问及奖励模型的细节时，Ross 说自己没有深入研究该领域。这段对话没有证明 DeepSeek 的每项训练任务都可自动验证。

被问及硬件限制时，Ross 认为远程访问云算力可能使管制更加复杂，并说 Groq 屏蔽了一些来自中国的 IP 地址，尽管中间服务可能掩盖位置。他不知道某种具体云服务使用是否违反出口法律。他的评论是政策和运营观点，并非法律裁定或特定交易的证据。

Ross 担心输入托管 AI 服务的敏感数据可能被政府访问，并推测中国政府可能进行访问和施加影响。他没有提供证据证明 DeepSeek 向有关部门转交了特定用户数据，也没有证明所有服务都按他描述的方式保留已删除数据。隐私风险取决于服务的实际架构、政策和法律环境。

他认为政治约束可能影响在中国运营的服务所给出的回答，并以敏感政治问题为例。被问及 DeepSeek 是否是中国政府的工具时，他说在当地运营的公司会面临压力；他对动机和访问权限作出的更广泛断言属于观点和指控，并非访谈确立的事实。

Ross 说，Groq 此前拒绝运行中国模型，但在 DeepSeek 吸引用户后，通过其 API 提供了该模型。他称 Groq 不存储用户数据，并将其托管服务描述为一种替代选择。这是服务商的自我描述和商业定位；访谈没有独立审计数据保留或安全情况。

他认为 DeepSeek 让模型商品化更加明显，并将模型能力与品牌、网络效应和规模等潜在竞争优势区分开来。他认可 OpenAI 的品牌，同时将 Stargate 解读为建立基础设施规模的努力。这些是战略判断，不能证明模型差异或转换成本已经消失。

Stebbings 质疑，在出现更高效模型后，一项拟议的 5000 亿美元基础设施计划是否显得过度。Ross 认为推理需求可能使大量支出值得，并回忆在 Google 时推理成本是训练的数倍。他估计推理最终可能占算力使用的 95%；访谈没有为这一预测设定时间或提供实测基线。

谈到美国可能采取的应对措施，他考虑了限制和激励两种方式，但说自己不知道最佳方案。他推测免费服务可能因战略原因获得补贴，并建议对补贴采取对等回应。访谈没有提供有关所推测补贴的证据，也没有确立任何特定限制的法律依据。

Ross 认为开放模型可以广泛传播，并预测开放方式将占上风。他建议 OpenAI 考虑开放发布模型，以争取用户，并依靠品牌和分发渠道。这是他为另一家公司提出的策略，并非该公司计划的证据，也不能保证开放模型总会获胜。

他认为 Meta 的网络效应可能与开放模型开发互相补充，并说更换模型可能比更换云基础设施容易。他称模型没有转换成本，这是一种观点；集成、行为、评估和部署方面的差异都可能重要。他再次推测竞争对手的数据做法，但没有提供直接证据。

双方讨论欧洲、与中国竞争以及知识产权盗窃的指控。Ross 呼吁欧洲承担更多风险、开展公平竞争，同时批评他认为不公平的政府优势。他对国家行为的广泛指控是个人观点，在这次对话中没有得到独立证实。

他担心，如果芯片和电力能够增强劳动力，AI 可能改变人口与经济产出之间的关系。他建议欧洲快速建立许多类似 Station F 的初创企业中心，让有抱负的创业者聚集在一起。经济情景和所提议的结果都属于推测。

他将生成式 AI 与此前的信息分发技术区分开来，强调构建在模型之上的产品。谈到 Perplexity，他认为如果模型幻觉减少到足以支持更多应用，公司可能受益。他关于医疗和法律工作的例子是预测；访谈没有验证安全性，也没有消除检查输出的需要。

Ross 引用杰文斯悖论，认为推理价格降低可以增加使用量。他说 Groq 观察到模型成本下降时开发者兴趣上升，并预测算力需求会增加。这是推理服务商的经验和预测；价格降低本身不能证明总支出或需求一定会持续增长。

Stebbings 说自己在 Nvidia 股价下跌后买入了其股票，并问 Ross 是否同样乐观。Ross 认为效率提升可以增加算力需求的价值，同时指出市场不会立即反映基本面。他们的投资观点不是独立估值，也不是购买股票的建议。

Ross 预计训练仍将保持高利润率，但认为推理市场规模更大、交易量更高、利润率更低。他认为 Groq 等专门的推理供应商可以承接这部分工作，而 Nvidia 仍在训练领域保持强势。这是竞争对手的商业论点，并非经过验证的市场规模或利润率预测。

解释混合专家模型时，他说给定输入只会激活选定的专家，因此可以拥有大量参数，而不必对每个 token 使用全部参数。他给出了 DeepSeek 的粗略数字，并明确表示不确定实际选中了多少专家。这些估计仅用于说明，并非经过验证的规格或基准测试。

他以一个较小的 Meta 模型为例，称其通过微调取得显著改善，以此说明数据质量的重要性。他预测其他实验室会采用稀疏架构、合成数据和更多训练，并在训练成本与推理成本之间作出取舍。这些比较和预测是他的解读；访谈没有提供受控基准测试。

被问及 DeepSeek 限制部分注册时，Ross 将限制归因于算力不足，并说处理每条新增请求都需要容量。他还认为项目公布的算力数字获得了有效宣传。在没有直接证据的情况下，他对 DeepSeek 运营约束和营销意图的解释属于推测。

谈到 Stargate，他说自己听到关于融资的不同说法，并将该项目解读为争取基础设施规模的努力。他认为建设电力设施和数据中心需要时间，并预测 OpenAI 的品牌可能增强。关于 5000 亿美元的讨论并不能确立已承诺融资、部署情况或未来回报。

Ross 对更快的 AI 发展既兴奋又紧张。他担心模型可能自动发现和利用网络安全漏洞，造成攻击与防御循环，并使归因更加困难。这一情景是一项安全担忧，并非特定攻击或归因的证据。

他预计自然语言工具会加快软件创建，并描述了 Groq 工程师构建的一款应用。被问及如果许多人都能构建类似工具，价值还会在哪里时，他认为质量和工艺可以让产品脱颖而出。他区分了功能不完整的早期版本与无法达到基本可靠性的版本，不过他对未来生产率的说法仍是预测。