OpenAI 与 Cerebras 的交易:加速 AI 推理的竞争

原标题OpenAI’s Cerebras Deal and the Race for Faster AI Inference

Matthew Berman 解释推理速度和算力为何重要,而对协议和基准的细看为他设想的百倍提速提供了背景。

MBMatthew Berman讲者 · Forward FutureAFAndrew Feldman讲者 · Cerebras
频道
Matthew Berman
发布
2026年1月15日
视频
12:13
阅读
7 分钟
幻灯片
3
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

2026 年 1 月,Matthew Berman 讨论 OpenAI 增加 Cerebras 推理算力的协议,比较专用芯片、速度图表以及模型训练与部署对资源的竞争。他认为更快的响应有助于改善编程工作流,但所展示的基准并不能证明他设想的 ChatGPT 百倍提速。视频包含 Zapier 的付费赞助。Cerebras 后续提交的文件澄清了合同与部署安排,其 6 月业绩公告宣布完成上市,并称交易价值超过 200 亿美元。

  1. 1分阶段部署算力的协议OpenAI 与 Cerebras 宣布部署 750 兆瓦低延迟推理算力。后续文件描述了 2026 年至 2028 年的分阶段部署,以及每批算力各自的服务期限。
  2. 2Groq 与 NvidiaGroq 表示,它向 Nvidia 非独家许可了推理技术;部分领导人和员工加入 Nvidia,而 Groq 仍保持独立。
  3. 3特定条件下的基准视频展示了输入 1000 个 token 时 gpt-oss-120b 的输出速度。数据比较的是该测试条件下的服务商,不能证明 ChatGPT 提速 100 倍。
  4. 4晶圆级存储Cerebras 拥有大量片上存储;部分系统也使用外部存储,因此并非所有东西都必然位于晶圆上。
  5. 5速度为何重要Berman 认为快速响应能减少编程迭代和其他交互工作的等待挫败感,而他愿意等待深度研究的结果。
  6. 6算力取舍他认为专用推理算力可能为模型训练腾出资源,但资源如何分配及其对未来模型质量的影响尚不确定。

要点建议

  1. OpenAI 与 Cerebras 宣布了一项多年协议,将分阶段部署 750 兆瓦推理算力,持续至 2028 年。
  2. 展示的 gpt-oss-120b 图表显示,Cerebras 与 Groq 分别达到每秒 3137 和 465 个输出 token,约相差 6.7 倍,这并不能证明 ChatGPT 将提速 100 倍。
  3. Cerebras 在晶圆级芯片上结合计算与存储,但其文档所述的权重流式传输系统也可使用外部存储。
  4. Nvidia 与 Groq 宣布了非独家技术许可及部分人员转职安排,Groq 仍保持独立。
  5. 更快的推理可以改善交互工作流,但端到端延迟还取决于模型、请求、工作负载及其他系统组件。
  6. 更多推理算力可能改变资源分配,但未来模型变得更好、所有用户都受益,是 Berman 的预测,并非有保证的结果。
全文

按章节阅读整理后的全文

只看原始文稿
01

专用 AI 硬件的兴起

Berman 将 Cerebras 的交易置于 Google TPU 和 Nvidia 与 Groq 的许可协议背景下讨论。他认为快速、经济的推理具有商业重要性。

OpenAI 宣布与 Cerebras 合作,增加高速推理算力。我想解释这为何重要,先从 Google 的 Gemini 3 和围绕它的硬件竞争说起。推理是模型处理请求并生成回答时所做的工作。

Google 于 2025 年 11 月发布 Gemini 3,我认为它在许多基准上都是强大的前沿模型。Google 使用自己的 TPU 进行训练和提供服务,这说明 Nvidia GPU 并不是唯一能支持大型模型的硬件。不过,它并非首个使用非 GPU 硬件训练的强大模型。

圣诞节前夕,Nvidia 与 Groq 宣布了一项涉及 Groq 推理技术的交易。Groq 称这是一项非独家许可,表示创始人 Jonathan Ross、总裁 Sunny Madra 和其他团队成员将加入 Nvidia,而 Groq 将保持独立。报道称交易价值约为 200 亿美元;我关于其反垄断动机的说法是一种解读,并非已确定的解释。

我认为推理是 AI 收入的重要来源:训练需要投入大量前期成本,而部署后的模型可以处理大量请求。随着需求增长,更快、更便宜的服务可能提高利润率。但实际经济情况比模型训练一次、永久提供服务复杂得多:后训练、更新、推理成本和定价同样重要。

02

OpenAI 协议与速度图表

他介绍报道中的交易,并比较服务商运行 OpenAI 开放权重模型的速度。所展示的数据只针对特定基准,不能视为对 ChatGPT 的普遍保证。

关于 Cerebras 协议的报道
幻灯片 1 / 3关于 Cerebras 协议的报道画面中的报道描述了计划部署的 750 兆瓦算力与报道中的交易价值;后续文件澄清了各批次的独立服务期限。

《华尔街日报》报道,OpenAI 与 Cerebras 的交易价值超过 100 亿美元,涉及三年内 750 兆瓦算力。两家公司宣布了一项多年协议,从 2026 年开始分阶段部署;Cerebras 后续提交的文件称,750 兆瓦将分批部署至 2028 年,每批服务期限为三年或四年,OpenAI 可将其延长至五年。2026 年 6 月,Cerebras 称该协议价值超过 200 亿美元。

我能想象 OpenAI 最终收购 Cerebras,但这是推测,并非已宣布交易的一部分。Cerebras 首席执行官 Andrew Feldman 最近参加了我们的直播节目,却没有提到这件事。我还猜测 OpenAI 重视多元化算力供应,不愿过度依赖一家硬件供应商;两家公司并未确定这是其选择的唯一原因。

gpt-oss-120b 输出速度比较
幻灯片 2 / 3gpt-oss-120b 输出速度比较图表比较了输入 1000 个 token 时各服务商的速度;这些数据不能证明 ChatGPT 提速 100 倍。

为了说明速度,我展示了一张图表:OpenAI 的开放权重模型 gpt-oss-120b 在高推理强度、输入 1000 个 token 时的表现。图表显示 Cerebras 每秒输出 3137 个 token,Groq 为 465 个,在这项特定比较中约相差 6.7 倍。服务商配置和测量条件都很重要,这并不能证明 ChatGPT 整体会提速 100 倍。

视频包含对 Zapier Agents 的付费推广,该产品将 AI 模型和工具与应用连接起来。有关产品和集成能力的表述属于赞助商的宣传主张。

03

晶圆级存储与速度的价值

Berman 讨论 Cerebras 硬件,并播放 Andrew Feldman 谈存储供应的片段。随后他解释为什么重视编程及其他交互用途中的响应速度。

Cerebras 晶圆级处理器
幻灯片 3 / 3Cerebras 晶圆级处理器视频展示了 Cerebras 系统使用的大型处理器,它在芯片上结合了大量存储和计算能力。

Cerebras 还采用独特的晶圆级架构,在大型芯片上结合计算与大量存储。我说所有东西都在晶圆上,但这个说法过于宽泛:Cerebras 的文档描述了权重流式传输系统,它将模型权重存放在外部 MemoryX 中,再传输到芯片。因此,评估存储需求时要考虑硬件配置和工作负载。

在我们直播节目的片段中,Feldman 表示 Cerebras 不使用我们当时讨论的那种价格上涨、供应紧张的存储器。他认为,竞争硬件厂商等待此类组件可能给 Cerebras 带来优势。该说法针对的是讨论中的特定存储市场,并不意味着 Cerebras 不受任何供应链限制影响。

我设想了一个快得多的 ChatGPT,并强调在 AI 的取舍中,速度应与成本和质量一起考虑。在我于 X 上发起的一项投票中,质量获得最多票,而我记得速度约占 2%。这项非正式投票反映的是我当时的受众,并不能代表所有用户。

编程时,等待智能体完成任务可能打断工作节奏。任务排队和并行运行智能体有所帮助,但更快的响应将支持更多次迭代;我认为许多交互用途都有类似价值。深度研究对我来说是个例外:我愿意先启动任务,等结果准备好再回来查看。

04

算力、训练与早前的采访

他推测训练算力和 Cerebras 上市的前景,随后分享 Greg Brockman 对芯片开发的看法。视频最后谈到他认为算力需求将使用户受益。

我预计专用硬件将在推理中发挥重要作用,通用加速器则会继续用于训练。TPU 也表明,大型模型可以使用 Nvidia GPU 以外的硬件训练。实际速度和成本取决于模型与系统,因此专用芯片并不会自动在每种工作负载上都更快。

额外的推理算力可能减少对其他计算资源的竞争,从而为训练留出更多资源。我预测这可能帮助 OpenAI 构建更好的模型,但这项交易并不能确定公司的资源分配决定或最终模型质量。新增算力也不能证明所有现有 GPU 都会转向训练。

录制视频时,我认为这项协议可能有助于 Cerebras 的上市计划,并促使其他实验室关注其算力。这是一项预测。后续进展是,Cerebras 于 2026 年 6 月报告已完成首次公开募股。

我之前曾问 OpenAI 的 Greg Brockman,为什么前沿实验室没有更多使用 Groq 和 Cerebras 等公司的服务,以及软件改动是否构成障碍。在采访片段中,Brockman 回忆了 OpenAI 在 2017 年对 Cerebras 的兴奋,但表示非 GPU 架构的开发难度超出了预期。

Brockman 表示,OpenAI 曾与芯片公司讨论其工作负载的特点,发现有些公司没有接受他们对大型模型的看法。他认为,成功的硬件开发者重视深度学习专业知识以及工作负载的发展方向。他的回忆是对这些对话的叙述,并不能证明任何特定公司的内部决策。

我的结论是,越来越多公司认识到专用推理的价值,Nvidia 对 Groq 技术的许可和 OpenAI 与 Cerebras 的合作就是例子。我相信算力竞争可能使用户受益,但需求、定价、使用机会、可靠性和具体实施都会影响实际结果。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1