媒体报道中的 Stargate 超级计算机与 AI 算力瓶颈

Sam Altman 曾提出，算力可能成为未来的货币。如果 AI 在经济中发挥更大作用，我认为这一想法值得思考。2024 年 4 月，我正在讨论一则关于 Microsoft 与 OpenAI 拟议的 Stargate 数据中心项目的报道，以及其规模为何重要。

另有报道提到，Altman 正在探索为芯片制造筹集规模极大的资金，讨论数字最高达 7 万亿美元。这是报道中的融资雄心，并非已知已经筹集到的资金。我认为，对芯片的关注是对训练和运行模型所需硬件的成本与可用性作出的回应。

我查看了 Nvidia 截至 2024 年初的股价上涨情况，并认为市场的热情很大程度上来自对 AI 芯片的需求。历史价格和排名会变化，增长也有多种原因。我担心，随着竞争加剧，模型公司购买稀缺基础设施可能会给利润率带来压力。

我把 AI 行业大致分为四层：芯片、基础设施、模型和应用。芯片是处理器；基础设施包括监控和其他开发工具；模型提供能力；应用则让企业和消费者使用这些能力。这些类别有所重叠，但有助于解释我认为价值正在何处积累。

在我看来，开放权重和专有模型之间的竞争可能让模型层更加商品化，而芯片获取了大量价值。我以当时可用的模型为例。这是我的商业解读，并不能证明所有模型都可以互换，也不能证明模型供应商无法创造持久价值。

The Information [在 2024 年 3 月报道](https://www.theinformation.com/articles/microsoft-and-openai-plot-100-billion-stargate-ai-supercomputer/)，Microsoft 和 OpenAI 正在考虑一个最高可能耗资 1,000 亿美元的数据中心项目，其中包括一台名为 Stargate 的超级计算机，可能于 2028 年启动。报道描述的是初步估算和私下讨论；它不是公司公告，也不是已经确认的建设预算。

报道说，Microsoft 很可能负责项目融资，并将 Stargate 描述为更大计划的第五阶段。据报道，规模较小的第四阶段系统目标是在 2026 年左右启动，而两家公司当时处于第三阶段。这些都是报道中的意向，不能证明系统或融资已经敲定。

我认为这个提案是基础设施竞赛的一部分，也认为 Microsoft 正在大力投资，以免错过下一波技术浪潮。我还质疑两家公司的关系和监管情况。视频中我说 Microsoft 持有 OpenAI 49% 的说法，不应视为对控制权或双方复杂合作关系的已验证描述。

讨论 AI 基础设施时，我不断回到两个要素：芯片和电力。我展示了一张大型数据中心与核电站相邻的示意图，把它作为未来一种可能的安排。我推测分布式设施可能缓解电网压力并带来安全收益，但结果取决于选址和电网；这张图不能证明项目已获批准，也不能保证免受攻击。

在我讨论的市场中，Nvidia 是主要芯片供应商，但我也谈到了潜在竞争者，例如 Groq 及其专注推理的 LPU 架构。我说 GPU 无法达到它的速度是概括性的说法：比较结果取决于模型、硬件、工作负载和测量方式。

在一段采访中，Altman 认为算力需求不同于相对固定的手机换机市场。他预计价格更低时，人们会将更多智能用于处理邮件等任务以及研究；价格更高时，可能只用于较少的用途。他认为能源、数据中心建设、供应链和芯片制造都是挑战。

我将这一论点与增加能源供应的需求联系起来，随后播放了一段马斯克的采访。马斯克预测，继 AI 芯片之后，电力降压变压器将成为瓶颈，接着会出现电力短缺。他的时间表是预测，而非已证明的结果；电力变压器和 AI Transformer 模型虽然英文名称相同，却是不同事物。

我问，如果算力变得更有价值，个人可以如何应对。我提到投资相关公司，也想知道个人 GPU 是否可能升值，但我不知道答案。这些评论属于推测，不能作为未来回报的证据。

其他公司也在追求算力。我提到 Meta 在 2024 年计划购买 350,000 块 Nvidia H100 GPU，并认为强大计算系统不仅能支持模型开发，也可能帮助吸引 AI 研究人员。采购计划本身不能证明设备已经交付或投入使用。

Google 也开发自己的 TPU，Groq 创始人 Jonathan Ross 过去参与过 Google 的 TPU 项目。最后，我担心本已大型的公司之间的竞赛可能使经济权力更加集中。结果尚不确定，但在我看到的竞争中，芯片、能源和人才的获取至关重要。