Nvidia 的 Groq 许可交易：AI 推理、人才与竞争策略

摘要

30 秒看懂

在这段 2025 年 12 月 25 日的视频中，Matthew Berman 讨论已公布的 Groq–Nvidia 交易，将专用推理硬件与 GPU 及 Google TPU 作比较。他披露自己是 Groq 投资者，表示没有内幕信息，也不知道是否以及何时会获得回款。 Groq 宣布了非独占许可、部分人员转移及公司继续独立运营；媒体报道称交易价值约 200 亿美元，但公告并未确认这一数字。Berman 对 Nvidia 动机、监管策略和未来产品的看法属于解读与预测，并非已公布的交易条款。

1交易与投资者披露Berman 引述报道中的 200 亿美元金额，并披露自己投资了 Groq。他表示没有内幕信息，也不知道自己的回款情况。
2不同芯片策略他比较 Nvidia GPU 和 CUDA、Groq 聚焦推理的 LPU 以及 Google TPU。它们的相对表现取决于实际工作负载和系统。
3推理为何重要Jonathan Ross 在采访片段中区分了模型训练支出与推理收入。Berman 认为持续性的推理需求具有战略意义。
4Groq 公布的内容Groq 描述了非独占许可和人员加入 Nvidia 的安排，同时称自身业务将继续独立运营。公告没有披露价格。
5许可与竞争Berman 将这一结构与其他 AI 人才和许可交易比较，并推测反垄断方面的动机。这些案例实际的法律和财务结构各不相同。
6产品预测他预测芯片组合销售和软件整合，但 12 月的公告并未确认这些计划。

要点建议

Groq 与 Nvidia 宣布的是非独占推理技术许可，并未宣布购买 Groq 公司。
Jonathan Ross、Sunny Madra 和其他 Groq 团队成员将加入 Nvidia；Groq 表示 Simon Edwards 将出任首席执行官，GroqCloud 将继续运营。
约 200 亿美元的数字来自媒体报道，Groq 公告没有说明交易金额。
Berman 披露自己投资了 Groq，并表示录制时不知道投资者回款的时间或结果。
GPU、TPU 和 LPU 的设计及软件各有取舍；相对成本与速度取决于工作负载和部署方式。
有关监管动机、未来芯片组合和 CUDA 整合的预测是 Berman 的分析，而非已确认的交易条款。

主题Semiconductors Inference AI Strategy 基础设施与部署

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

交易与 Berman 的投资

Berman 介绍媒体报道的交易价值并披露其财务利益，也介绍 Groq 创始人 Jonathan Ross 及其此前在 Google 的工作。

Groq 和 Nvidia 宣布了一项围绕 AI 推理技术的交易，媒体报道称价值约 200 亿美元。我将其描述为实质上的收购，但公布的结构是非独占许可和人员转移，并非购买 Groq 公司。我约在一年半前投资了 Groq，没有内幕信息，和大家一样在平安夜才得知这笔交易。录制时，我不知道投资是否以及何时能够获得回款。

Groq 创始人 Jonathan Ross 在创立 Groq 之前曾帮助开发 Google 的张量处理单元，即 TPU。他的出发点是，不断增长的 AI 工作负载会受益于专用硬件。Google TPU 表明，专门设计的加速器可以支持大规模 AI 工作负载；与其他芯片之间的具体取舍取决于各系统的设计和使用方式。

GPU、TPU 与推理经济

Berman 比较芯片架构，讨论 CUDA 和推理的作用。此前采访的片段展示了 Ross 对训练和推理的看法。

Nvidia GPU 支持广泛的计算任务，包括 AI 训练和推理。其 CUDA 软件生态为开发者提供工具和库，帮助这些系统实现规模化使用。Groq 的语言处理单元，即 LPU，侧重推理：运行训练好的模型以生成答案。这一区分有帮助，不过现代 Nvidia GPU 也包含专用 AI 硬件。

我认为这些系统在速度、延迟、成本和专用性方面各有取舍。我推测 Nvidia 正在关注推理需求增长，以及 Groq、Cerebras 等专用硬件带来的竞争。加速器是否更快或更便宜，取决于模型、工作负载、系统配置和测量方式；公告并未给出普遍适用的比较。

幻灯片 1 / 2关于竞争的观点帖Dev Shah 的帖子解读了 GPU 集中度和专用芯片；它是评论，并非交易文件。

我提到 Dev Shah 的一篇帖子，其观点是 Google TPU 表明 Nvidia GPU 之外的选择可以实现规模化，而 Groq 架构针对推理任务。帖子将报道的交易价值与 Groq 早前估值比较，并认为持续性的推理需求可能具有商业意义。这些是战略解读，而 Groq 公告没有说明报道中的 200 亿美元金额。

我的看法是，用户反复查询模型可以带来持续的推理需求，而训练需要大量前期投入。在我此前采访的一段片段中，Jonathan Ross 也区分了训练模型时花钱与通过推理赚钱。实际上，训练和重新训练可能反复发生，任何一项活动的成本和收入都取决于商业模式。

Groq 业务与许可公告

他描述 Groq 的推理服务并阅读 12 月 24 日的公告。协议涉及非独占许可和人员转移，Groq 将继续独立运营。

我描述了 Groq 从销售芯片转向通过 API 提供推理服务的过程，开发者不必购买完整系统就能运行开放权重模型。我认为，采用新硬件平台的成本和复杂性，以及 Nvidia 已建立的软件生态，有助于解释托管服务为何具有吸引力。这是我的解读，并非对所有销售安排的完整说明。

我推测，Nvidia 将专用推理芯片视为通用 GPU 业务之外的一项竞争机会。Ross 早先参与 TPU 开发，以及 Groq 对低延迟推理的关注，使这些技术和团队对 Nvidia 有吸引力。交易双方并未表示 Nvidia 承认 GPU 缺乏竞争力；我对其内部动机的描述是推测。

幻灯片 2 / 2Groq 许可公告公告说明许可为非独占，列出即将离开的领导者，并表示 Groq 将保持独立。

2025 年 12 月 24 日的实际公告表示，Groq 与 Nvidia 就其推理技术达成非独占许可协议。公告称，创始人 Jonathan Ross、总裁 Sunny Madra 和其他团队成员将加入 Nvidia。Groq 将在新任首席执行官 Simon Edwards 带领下继续作为独立公司运营，GroqCloud 也将继续运行。公告没有说明交易价格。

交易结构与未来竞争

Berman 比较其他 AI 公司交易，发表对反垄断动机的看法，并推测专用芯片、商业组合和软件整合的未来。

我将这一安排与其他涉及 AI 公司领导者和技术的交易比较。我认为，通过许可和招聘而非购买整家公司，可能降低反垄断方面的风险；但双方没有在公告中确认这种动机，而且此类交易仍可能接受监管审查。我称 Meta 买下整个 Scale AI 的说法过于宽泛：Meta 披露的是无投票权的少数股权投资，Scale 继续运营。

我还提到 Google 涉及 Windsurf 员工和技术的安排，以及此后 Cognition 对 Windsurf 的收购。这些是比较人才和许可结构的有用案例，但条款各不相同；假定它们都转移了相同资产或有相同监管目的并不准确。非独占许可本身也不能证明其他公司无法获得该技术的许可。

展望未来，我认为这笔交易可能帮助 Nvidia 应对 Google 的竞争，并扩充其推理产品。我指出，TPU 可以支持训练、微调和推理，而 Groq 的产品一直侧重推理。我还讨论了芯片制程代际，但仅凭这些名称无法确定完整系统的成本、速度或经济性。

我认为推理需求会随使用量增长，使专用硬件具有战略价值。这并不能证明未来所有 AI 利润都会来自推理，也不能证明训练只是一次性成本。我将这笔交易解读为对竞争对手的防守以及在推理市场的进攻，这是一项战略预测，而非公布的交易理由。

我推测 Nvidia 可能销售或组合使用 Groq 技术的硬件与现有芯片，而 CUDA 或相关工具最终可能支持统一工作流。公告并未承诺这些产品、定价和软件计划。获得许可的技术实际上将如何整合，仍有待观察。