30 秒看懂
2026 年 1 月,Matthew Berman 讨论 OpenAI 增加 Cerebras 推理算力的协议,比较专用芯片、速度图表以及模型训练与部署对资源的竞争。他认为更快的响应有助于改善编程工作流,但所展示的基准并不能证明他设想的 ChatGPT 百倍提速。视频包含 Zapier 的付费赞助。Cerebras 后续提交的文件澄清了合同与部署安排,其 6 月业绩公告宣布完成上市,并称交易价值超过 200 亿美元。
- 1分阶段部署算力的协议OpenAI 与 Cerebras 宣布部署 750 兆瓦低延迟推理算力。后续文件描述了 2026 年至 2028 年的分阶段部署,以及每批算力各自的服务期限。
- 2Groq 与 NvidiaGroq 表示,它向 Nvidia 非独家许可了推理技术;部分领导人和员工加入 Nvidia,而 Groq 仍保持独立。
- 3特定条件下的基准视频展示了输入 1000 个 token 时 gpt-oss-120b 的输出速度。数据比较的是该测试条件下的服务商,不能证明 ChatGPT 提速 100 倍。
- 4晶圆级存储Cerebras 拥有大量片上存储;部分系统也使用外部存储,因此并非所有东西都必然位于晶圆上。
- 5速度为何重要Berman 认为快速响应能减少编程迭代和其他交互工作的等待挫败感,而他愿意等待深度研究的结果。
- 6算力取舍他认为专用推理算力可能为模型训练腾出资源,但资源如何分配及其对未来模型质量的影响尚不确定。
要点建议
- OpenAI 与 Cerebras 宣布了一项多年协议,将分阶段部署 750 兆瓦推理算力,持续至 2028 年。
- 展示的 gpt-oss-120b 图表显示,Cerebras 与 Groq 分别达到每秒 3137 和 465 个输出 token,约相差 6.7 倍,这并不能证明 ChatGPT 将提速 100 倍。
- Cerebras 在晶圆级芯片上结合计算与存储,但其文档所述的权重流式传输系统也可使用外部存储。
- Nvidia 与 Groq 宣布了非独家技术许可及部分人员转职安排,Groq 仍保持独立。
- 更快的推理可以改善交互工作流,但端到端延迟还取决于模型、请求、工作负载及其他系统组件。
- 更多推理算力可能改变资源分配,但未来模型变得更好、所有用户都受益,是 Berman 的预测,并非有保证的结果。
按章节阅读整理后的全文
专用 AI 硬件的兴起
Berman 将 Cerebras 的交易置于 Google TPU 和 Nvidia 与 Groq 的许可协议背景下讨论。他认为快速、经济的推理具有商业重要性。
OpenAI 宣布与 Cerebras 合作,增加高速推理算力。我想解释这为何重要,先从 Google 的 Gemini 3 和围绕它的硬件竞争说起。推理是模型处理请求并生成回答时所做的工作。
Google 于 2025 年 11 月发布 Gemini 3,我认为它在许多基准上都是强大的前沿模型。Google 使用自己的 TPU 进行训练和提供服务,这说明 Nvidia GPU 并不是唯一能支持大型模型的硬件。不过,它并非首个使用非 GPU 硬件训练的强大模型。
圣诞节前夕,Nvidia 与 Groq 宣布了一项涉及 Groq 推理技术的交易。Groq 称这是一项非独家许可,表示创始人 Jonathan Ross、总裁 Sunny Madra 和其他团队成员将加入 Nvidia,而 Groq 将保持独立。报道称交易价值约为 200 亿美元;我关于其反垄断动机的说法是一种解读,并非已确定的解释。
我认为推理是 AI 收入的重要来源:训练需要投入大量前期成本,而部署后的模型可以处理大量请求。随着需求增长,更快、更便宜的服务可能提高利润率。但实际经济情况比模型训练一次、永久提供服务复杂得多:后训练、更新、推理成本和定价同样重要。
OpenAI 协议与速度图表
他介绍报道中的交易,并比较服务商运行 OpenAI 开放权重模型的速度。所展示的数据只针对特定基准,不能视为对 ChatGPT 的普遍保证。

《华尔街日报》报道,OpenAI 与 Cerebras 的交易价值超过 100 亿美元,涉及三年内 750 兆瓦算力。两家公司宣布了一项多年协议,从 2026 年开始分阶段部署;Cerebras 后续提交的文件称,750 兆瓦将分批部署至 2028 年,每批服务期限为三年或四年,OpenAI 可将其延长至五年。2026 年 6 月,Cerebras 称该协议价值超过 200 亿美元。
我能想象 OpenAI 最终收购 Cerebras,但这是推测,并非已宣布交易的一部分。Cerebras 首席执行官 Andrew Feldman 最近参加了我们的直播节目,却没有提到这件事。我还猜测 OpenAI 重视多元化算力供应,不愿过度依赖一家硬件供应商;两家公司并未确定这是其选择的唯一原因。

为了说明速度,我展示了一张图表:OpenAI 的开放权重模型 gpt-oss-120b 在高推理强度、输入 1000 个 token 时的表现。图表显示 Cerebras 每秒输出 3137 个 token,Groq 为 465 个,在这项特定比较中约相差 6.7 倍。服务商配置和测量条件都很重要,这并不能证明 ChatGPT 整体会提速 100 倍。
视频包含对 Zapier Agents 的付费推广,该产品将 AI 模型和工具与应用连接起来。有关产品和集成能力的表述属于赞助商的宣传主张。
晶圆级存储与速度的价值
Berman 讨论 Cerebras 硬件,并播放 Andrew Feldman 谈存储供应的片段。随后他解释为什么重视编程及其他交互用途中的响应速度。

Cerebras 还采用独特的晶圆级架构,在大型芯片上结合计算与大量存储。我说所有东西都在晶圆上,但这个说法过于宽泛:Cerebras 的文档描述了权重流式传输系统,它将模型权重存放在外部 MemoryX 中,再传输到芯片。因此,评估存储需求时要考虑硬件配置和工作负载。
在我们直播节目的片段中,Feldman 表示 Cerebras 不使用我们当时讨论的那种价格上涨、供应紧张的存储器。他认为,竞争硬件厂商等待此类组件可能给 Cerebras 带来优势。该说法针对的是讨论中的特定存储市场,并不意味着 Cerebras 不受任何供应链限制影响。
我设想了一个快得多的 ChatGPT,并强调在 AI 的取舍中,速度应与成本和质量一起考虑。在我于 X 上发起的一项投票中,质量获得最多票,而我记得速度约占 2%。这项非正式投票反映的是我当时的受众,并不能代表所有用户。
编程时,等待智能体完成任务可能打断工作节奏。任务排队和并行运行智能体有所帮助,但更快的响应将支持更多次迭代;我认为许多交互用途都有类似价值。深度研究对我来说是个例外:我愿意先启动任务,等结果准备好再回来查看。
算力、训练与早前的采访
他推测训练算力和 Cerebras 上市的前景,随后分享 Greg Brockman 对芯片开发的看法。视频最后谈到他认为算力需求将使用户受益。
我预计专用硬件将在推理中发挥重要作用,通用加速器则会继续用于训练。TPU 也表明,大型模型可以使用 Nvidia GPU 以外的硬件训练。实际速度和成本取决于模型与系统,因此专用芯片并不会自动在每种工作负载上都更快。
额外的推理算力可能减少对其他计算资源的竞争,从而为训练留出更多资源。我预测这可能帮助 OpenAI 构建更好的模型,但这项交易并不能确定公司的资源分配决定或最终模型质量。新增算力也不能证明所有现有 GPU 都会转向训练。
录制视频时,我认为这项协议可能有助于 Cerebras 的上市计划,并促使其他实验室关注其算力。这是一项预测。后续进展是,Cerebras 于 2026 年 6 月报告已完成首次公开募股。
我之前曾问 OpenAI 的 Greg Brockman,为什么前沿实验室没有更多使用 Groq 和 Cerebras 等公司的服务,以及软件改动是否构成障碍。在采访片段中,Brockman 回忆了 OpenAI 在 2017 年对 Cerebras 的兴奋,但表示非 GPU 架构的开发难度超出了预期。
Brockman 表示,OpenAI 曾与芯片公司讨论其工作负载的特点,发现有些公司没有接受他们对大型模型的看法。他认为,成功的硬件开发者重视深度学习专业知识以及工作负载的发展方向。他的回忆是对这些对话的叙述,并不能证明任何特定公司的内部决策。
我的结论是,越来越多公司认识到专用推理的价值,Nvidia 对 Groq 技术的许可和 OpenAI 与 Cerebras 的合作就是例子。我相信算力竞争可能使用户受益,但需求、定价、使用机会、可靠性和具体实施都会影响实际结果。
同频道的其他文章
34:21EN → 简体中文
0:26EN → 简体中文
0:36EN → 简体中文
0:21EN → 简体中文
25:50EN → 简体中文
32:20EN → 简体中文