Dylan Patel 谈 AI 实验室、芯片竞争与超级智能竞赛

Matthew Berman 与 SemiAnalysis 创始人兼首席执行官 Dylan Patel 讨论 AI 实验室、芯片和计算行业。这场对话发表于 2025 年 6 月 30 日；Patel 对内部决策和未来结果的描述属于他的报道、解读或推测。

Berman 问 Meta 推出 Llama 4 为何没有达到部分人的预期，以及 Behemoth 为何延期。Patel 区分了公布的三个模型，并表示不确定 Behemoth 是否会发布。他对训练及相对质量的评价是个人看法，并非 Meta 披露的诊断。

Patel 声称，其中一个模型为回应 DeepSeek 而仓促推出，其混合专家模型的路由导致某些专家很少得到使用。他将此视为训练问题的证据。访谈没有独立核实内部原因，也没有给出官方解释。

Berman 问，一家拥有优秀研究人员和大量算力的公司为何还会遇到困难。Patel 说组织工作很难：团队必须选择要推进的思路，并让具备技术能力的领导者负责评估备选方案。

Patel 以 OpenAI 的技术领导者为例，说明如何从相互竞争的提案中选择方向。研究人员自然偏爱自己的想法，但实验室仍需要有人决定哪些值得投入资源、哪些应当放弃。

Patel 说，一旦团队选定一个没有成效的方向，可能会继续探索其分支，而不是改变路线。他把判断工作是否有前景的能力称作“品味”：当训练规模从数百块 GPU 扩大到数千乃至上万块时，小规模结果未必能延续。

Patel 把选择研究方向比作决定该相信哪位评论家。即使个人研究能力出众，如果决策、激励或内部政治让错误选择占据主导，结果仍可能令人失望。

Berman 转向 Meta 与 Scale AI 的交易及招聘报道。Scale 确认 Meta 作出重大投资，创始人 Alexandr Wang 转投 Meta；当时的报道描述的是少数股权，而非全面收购。Patel 认为招募领导人才是重要动机，但这是他的个人解读。

Patel 说他听说其他一些 AI 实验室出于竞争和数据方面的顾虑，正在重新考虑使用 Scale 的服务。访谈并未证实他关于客户支出金额及私人沟通的具体说法。

Patel 认为 Wang 带来了组织和产品能力，Meta 的重点似乎已转向超级智能。Berman 问为何这个词比 AGI 更受青睐。Patel 说 AGI 的定义已变得不一致，他认为术语变化部分属于重新包装。

他们讨论有关 Meta 接触其他 AI 公司及人士的报道。Patel 明确表示，可能的谈判、决定和个人动机都是传闻或猜测；这些交易在对话中没有得到确认。

Patel 认为，应聘者可能既看重薪酬，也看重在大公司塑造 AI 产品的机会。他称 Wang 和 GitHub 前首席执行官 Nat Friedman 是优秀的产品和组织领导者，而不只从模型研究能力评价他们。

Berman 问，巨额薪酬能否建立强大的研究文化。Patel 说，收购一家小型研究机构也相当于对其人员给出极高估值。他反驳了顶尖研究人员都不会跳槽的说法，并转述了自己听到的一份个人报价数字，但该数字未经证实。

Patel 认为，如果 Meta 领导层相信先进 AI 将具有重大经济价值，那么这笔支出就是一种战略选择。个别报价的金额、收款人的身份及最终能否成功仍不确定。

Berman 问到 OpenAI 与 Microsoft 的关系。Patel 描述了一段复杂的合作，涉及投资、知识产权使用权、收入或利润安排和算力。他反复表示自己是在凭记忆回顾，提到的具体比例和上限不应视作经核实的合同条款。

Patel 说，Microsoft 原先在算力上的排他安排有所放松，OpenAI 可以寻求更多基础设施。2025 年 1 月的公开公告提到了优先承接权和 Stargate 项目。两家公司后来重新谈判了合作关系，因此这段讨论反映的是当时的情况。

被问到 Microsoft 获得了什么作为交换时，Patel 提到报道中的优先承接权，并推测竞争和产能因素发挥了作用。他说 OpenAI 所需算力超过 Microsoft 能以期望速度提供的数量，但他没有在此独立证明这一说法。

Patel 认为知识产权使用权和 AGI 的定义可能成为紧张关系的来源。他设想 Microsoft 即使在 OpenAI 寻求更多投资时仍保有宝贵使用权等可能结果；这些只是情景，并非对合同权利或公司价值的判定。

他说，OpenAI 的资金需求使其复杂的公司和财务结构更难向投资者解释。他对收入和盈利能力的预测是前瞻性估计，而非已经确定的未来结果。

Berman 问起 GPT-4.5。两人起初对它是否已经退役意见不一。OpenAI 于 2025 年 4 月宣布弃用其 API，称 GPT-4.1 在许多能力上表现相当或更好，成本和延迟却更低；这与它在 ChatGPT 中的可用性是不同问题。

Patel 说，这个代号为 Orion 的模型侧重大规模预训练。他认为它在某些自然对话上表现不错，但相较替代方案，对许多用途来说速度太慢、成本太高。这是他对实用性的评价，并非对所有任务的独立衡量。

他认为，参数量庞大而新数据不足可能导致记忆化，最终收益递减。他以此解释 GPT-4.5，并声称早期检查点表现强劲，随后进展放缓；访谈并未核实这些私有训练细节。

Patel 还声称，训练代码出现错误，这次复杂的训练多次从检查点重新启动。他说，即使不考虑模型设计，协调大规模基础设施集群也很困难。这些是他对内部事件的说法，并非访谈中经确认的披露。

他以 Chinchilla 的规模扩展研究为例，说明如何在算力预算内平衡模型大小和训练数据量。Patel 指出，一个常被引用的每参数 token 数比例与特定架构有关，并非适用于所有现代模型的普遍规则。

Patel 对比预训练与后来的推理导向方法。他认为，在答案可以验证的领域生成候选解答，能够提供有用的训练信号。他的叙述概括了多种不同的训练和推理技术，属于一种解读，并非对任何公司模型的完整解释。

Berman 问 Apple 为何似乎在前沿模型方面落后。Patel 称 Apple 历来对大型收购持谨慎态度，保密文化也可能使其更难招募希望发表研究的人员。这是他对组织与人才的判断，并非对 Apple 内部工作的审计评估。

Patel 说，成熟的研究社区会吸引更多人才，因此新进入者很难组建顶尖团队。他将 Apple 的处境与 Google DeepMind、OpenAI、Anthropic 和 Meta 的研究文化作了比较。

Patel 回顾了 Apple 与 NVIDIA 之间的历史矛盾，包括存在缺陷的笔记本 GPU 和专利争议。他表示自己不记得所有细节，也没有就硬件故障归责。他推断这些事件解释了当前公司战略，但这属于猜测。

Berman 问端侧与云端 AI 的区别，指出本地处理在隐私和延迟上的优势。Patel 怀疑最复杂模型在本地运行的经济性：本地硬件受内存带宽与成本限制，而许多云产品提供免费层级。

Patel 说，消费者可能更愿意购买专用硬件较少的手机，再使用云端模型。他认为，搜索地图、查看日历和预订旅行等许多有价值的任务本就需要联网和远程服务的数据。

Patel 承认，键盘预测等简短交互可能适合本地推理。对于耗时较长的研究或预订任务，他预计最强模型和外部工具将在云端运行；他对消费者偏好的概括是一项预测，并不证明隐私从不重要。

Berman 认为本地和云端处理相结合有其价值。Patel 同意部分工作会在设备上运行，尤其是可穿戴设备上的小型识别和跟踪任务，但预计最有价值的推理将更多依赖云基础设施。

Patel 讨论 Apple 的云基础设施，称该公司即使推广端侧功能，也需要远程处理。他对人员配置和未来硬件计划的具体说法属于行业分析，并非 Apple 的公告。

话题转向 NVIDIA 和 AMD。Patel 说 AMD 有自身优势，但开发体验和系统集成落后于 NVIDIA，尽管他预计 AMD 会获得一些份额。他的判断取决于硬件代际和工作负载，不应视作永恒的排名。

Patel 强调互连的重要性：NVIDIA 紧密连接的系统可以组合许多 GPU，而他讨论的 AMD 系统中，紧密连接的组规模较小。他说，这对分布式训练和推理的影响不亚于单个加速器的规格。

在 Patel 看来，NVIDIA 的优势不止于 CUDA 本身。用户可能调用 vLLM 或 SGLang 等推理库，而这些库依赖 PyTorch、编译器和针对硬件的内核等更深层组件。这些组件的质量决定了部署模型有多容易。

Patel 说 AMD 软件正在改进，但要达到良好性能可能需要更多调优选择。他指出，大型实验室能投入底层工程，而许多客户只希望提供模型权重，再以最少配置运行。

Patel 描述了 NVIDIA 与大型云服务商及规模较小的“新云”服务商的关系。在他的叙述中，更广泛的 GPU 分销可能促成云价格竞争。他引用的每小时成本和利润率只是示例性估计，并非经过核实的当前价格比较。

他说，NVIDIA 的 Lepton 软件和 DGX Lepton 市场可以帮助出租闲置 GPU 算力，因此可能使其与云公司产生摩擦。Patel 报称一些服务商不满，并推测 NVIDIA 未来的部署方式；这些私人反应和计划在此均未获独立证实。

Patel 还描述了 AMD 向云服务商出售加速器、再租回算力的安排。他说此类交易有助于建立需求和客户信心，并明确区分这一商业安排与非法会计行为的指控。

他预计 AMD 会有可观销量，但不会迅速超越 NVIDIA。他说，对买家而言，选择取决于价格、工作负载和可用于优化软件的工程资源。他以同时使用两家供应商产品的 Meta 为例。

Berman 问到 xAI 以及马斯克对即将推出的 Grok 模型的说法。Patel 说他听说该模型不错，但不知道最终表现。他对 Grok 3 感到惊喜，有时使用其快速研究功能；关于未来版本的说法仍属推测。

Patel 说自己喜欢探索经济和历史问题，有时觉得 Grok 更愿意讨论他想研究的话题。这些例子是他对模型行为的个人印象，并不能证明任何模型的回答或历史解释必然准确。

Patel 说，日常查询时他经常使用 OpenAI o3 或 Claude 4；工作中处理长文档、许可证和监管文件时则使用 Gemini。他的选择取决于自己更看重速度、推理能力还是文档上下文。

他说 xAI 已积累大量算力，并积极投资数据中心容量和电力，但他不愿预测下一个模型会领先还是仅具竞争力。Berman 问它的方法是否与其他实验室有根本区别。

Patel 认为主要实验室普遍采用大规模 Transformer 预训练和强化学习，后者常用于代码和数学等可验证领域，同时也在探索计算机操作和较难验证的任务。他认为差异体现为重要的研究选择，并未声称实现方式相同。

谈到就业，Berman 提到许多白领岗位可能消失的预测。Patel 说，生产率提高最终可能减少工作时间、改善生活水平，但如何分配收益是核心挑战。他宽泛的历史比较是背景和观点，并非对结果会平等分配的预测。

Patel 对机器人技术感到兴奋，因为艰苦的体力工作仍难以自动化，而一些创意工作已经面临生成式工具的影响。Berman 指出，实用机器人可能仍需要时间部署。两人都没有为具体职业提供经验证的时间表。

Patel 预计 AI 执行的任务会越来越长，最终可能持续数小时或数天，并推测某些工作流程最终可能完全不需要人工参与。他对时间安排持谨慎态度，认为 20% 的工作自动化可能出现在本十年末或下一个十年初；这是预测，并非已确定的结果。

Berman 质疑能力转化为实际部署的速度，并问初级软件工程师将面临什么。Patel 看到编程助手迅速普及，担心即使企业将生产率收益投入更多工作，初级岗位招聘仍可能减少。

Patel 介绍 SemiAnalysis 一边使用 AI 提高产出、一边扩大规模的情况。他对比了经验丰富的工程师指挥工具与给予初级员工足够指导的挑战，同时承认年轻员工可能适应得很快。这个个例不能证明劳动力市场的因果关系或普遍招聘模式。

他鼓励初级开发者培养技能，并展示使用新工具完成的工作。Berman 指出，并非所有人都希望或有能力成为自主开发者；Patel 承认有些人需要一份工作和初期指导。

Patel 预测闭源模型最终可能占主导，并推测如果中国开发者取得领先，他们可能会减少公开权重。他希望市场不要只集中在少数几家公司。这些是预测和担忧，并非定论。

被要求选出第一家实现超级智能的公司时，Patel 选择 OpenAI，其次是 Anthropic，并认为 Google、xAI 和 Meta 也有竞争力。他认为除了现有推理方法，还需要更多突破。这个排名及超级智能的时间表都属于推测。

Patel 认为 Anthropic 在发布产品方面已变得不那么保守，并表示 Meta 的招聘可能增强其竞争力。Berman 感谢他参与讨论。