30 秒看懂
Cerebras 联合创始人兼首席执行官 Andrew Feldman 与 Harry Stebbings 讨论 AI 基础设施需求、芯片与内存经济模式、数据中心及企业采用。他还分享了对中美芯片出口、公司上市以及在技术挫折中领导团队的看法。 性能比较、财务数字和预测均为公司说法或他的个人观点;Cerebras 在他描述的市场中具有商业利益。
- 1需求与积压订单Feldman 报告积压订单并认为基础设施落后于需求;积压订单不是已确认收入。
- 2有条件的内存预测他预计如果需求持续强劲,短缺将继续存在;未来供应和价格仍不确定。
- 3特定速度比较所引用的 6.7 倍结果是 Cerebras 对一个模型和配置报告的比较。
- 4社区责任他认为数据中心运营商应与社区沟通,并自行承担基础设施成本。
- 5芯片出口政策Feldman 反对向中国出售领先芯片,同时承认反对论据;这是他的政策立场。
- 6IPO 时机他说公司不知道未来市场或上市时间,并将结果归功于坚持和运气。
要点建议
- Feldman 认为基础设施建设目前落后于需求,并引用公司积压订单,而非已确认收入。
- 他预计如果需求持续强劲,内存供应限制将继续存在,但未来供应和价格仍不确定。
- Cerebras 的性能倍数是公司报告的特定比较,并非适用于所有情况的排名。
- 他说数据中心开发商应与社区沟通,并自行承担基础设施成本。
- 他反对向中国出售最先进芯片,同时承认支持另一种政策的论据。
- 他将公司上市归功于坚持与运气,而非完美的市场择时。
按章节阅读整理后的全文
AI 需求与基础设施周期
Feldman 将当前需求与过去的基础设施泡沫作比较,并讨论积压订单。他的判断反映了自己在 Cerebras 的角色。
Cerebras 联合创始人兼首席执行官 Andrew Feldman 告诉 Harry Stebbings,他认为 AI 基础设施建设落后于当前需求,这与历史上基础设施建设远超实际使用的时期不同。他以公司报告的积压订单为证,同时承认讨论涉及自己所在的行业和业务。
Feldman 说,数据中心无法足够快地建成以满足买方需求,并引用 250 亿美元的积压订单。积压订单是公司报告的订单或承诺指标,并非已确认收入,也不能证明每笔订单都会交付或保持不变。
Stebbings 询问许可和建设延迟是否可能有助于防止过度建设。Feldman 同意有节奏的部署可以平滑扩张,同时称赞那些预见未来需求并提前签约获取产能的客户。两种观点都不能证明未来供应不会超过需求。
讨论一笔报道中的算力采购时,Feldman 说设备属于较旧一代,并认为这笔交易对买方而言并不理想。这是他对涉及其他公司的交易的解读,并非经独立确认的合同条款或性能。
内存、芯片与算力成本
他讨论供应限制、片上内存和芯片性能。比较及未来成本改善是公司说法或预测。
他说,快速增长的 AI 需求给内存供应商和制造产能带来了压力。Feldman 区分了 Cerebras 使用的片上 SRAM 与许多 GPU 系统使用的高带宽内存,并认为这一差异对公司有利。
他认为,内存制造产能扩张成本高且耗时,因此如果需求持续强劲,短缺可能持续数年。这是有条件的预测;未来需求、产量和价格可能不同。
Feldman 认为,模型在 2025 年前后变得足够有用,推动推理使用更广泛地增长。他预计,如果模型继续改善且用户发现更多用途,需求将增长;进步速度和使用量都没有保证。
他认为,大型云平台提供一些企业重视的安全性、可信度和集成软件,而其他客户可能主要需要低成本算力。他对 Nvidia 支持其他云服务商的看法是对其战略的解读,并非已确认的意图声明。
Feldman 说,Cerebras 的架构和供应链因避开某些内存和封装限制而受益。作为竞争性芯片公司的首席执行官,他在这些比较中具有商业利益;成本和供应情况因产品和合同而异。
他预计未来几年整个行业的芯片设计将提高每美元和每单位电力的产出。他还预测 Cerebras 的性能差距将扩大。两者都是预测,并非经独立核实的未来结果。
谈到 Google 垂直整合的基础设施,Feldman 认为控制从数据中心到模型的技术栈有好处,但指出如果定制芯片主要满足公司自身需求,可能存在限制。他认为其经济性仍是开放问题,尚不能确定赢家。
他说,在自有设施中使用自有硬件的公司,不必像购买芯片并转售产能的供应商一样支付中间利润。他引用的利润率数字是个人估计;实际成本取决于硬件、利用率、融资和所提供的服务。
Feldman 称赞 CoreWeave 在财务和部署方面的创新,同时将其与 Cerebras 的工程方式区分开来。他没有确立其他供应商的估值,也没有解决其利润率将如何演变的问题。
推理速度与大型客户
双方讨论公司报告的模型基准测试、客户集中度和电力需求。性能和合同数字未经独立核实。
Stebbings 引用 Cerebras 的报告,称一个 Kimi 模型运行速度比比较对象 GPU 云快 6.7 倍。Feldman 认为速度有价值,尤其对长任务而言。这一倍数是公司针对特定模型和配置报告的比较,并非普遍的硬件排名。
他举例说明延迟为何重要:如果一个工作流程更早完成,团队可能在同一时期运行更多实验。速度能否转化为更好的经济效益取决于质量、工作负载、价格和系统其他部分;访谈没有证明每位用户都需要最快选项。
被问及 Cerebras 能否服务更多大型实验室时,Feldman 说公司专注于履行一项大型 OpenAI 协议。他回应客户集中度担忧时表示,赢得并服务一个大客户有助于建立服务其他客户的能力。所引用合同是公司报告的多年期协议,并非已经获得的收入。
他描述了数据中心规划规模的快速变化:从几十兆瓦发展到多个吉瓦的提案。这些例子说明行业雄心,并不能证明每个宣布的设施都会建成或满负荷运行。
Stebbings 询问电力是否会成为决定性瓶颈。Feldman 说这是合理看法,但他并不确定:这一看法还假设模型会持续改善到足以让额外能源使用具有经济意义。他没有给出确定结论。
数据中心与采用
Feldman 考虑建设、社区影响、就业和企业采用。他对影响和未来就业的观点并非普遍适用的结果。
谈到数据中心延迟,Feldman 说大型建设项目经常遇到设备、承包商和许可问题。这个类比不能证明社区反对或环境影响无关紧要,但解释了他为何预计工期难以控制。
他说,行业与社区的沟通做得不够好,应该更加透明、自行承担基础设施成本并为当地带来益处。他关于就业和社区项目的例子是提议或一般说法;影响因地点而异,访谈没有独立评估。
Feldman 说,一些数据中心可以通过循环利用和闭环设计减少用水需求,并认为运营商应支付电网升级费用。这些是设计可能性和政策偏好,并非每个数据中心用水量都低或没有当地成本的证据。
被问及裁员时,他对受影响家庭表示关切,但认为近期许多归因于 AI 的裁员反映了此前招聘和其他生产率变化。他的比例估计和解释是个人判断,并非对个别裁员经核实的统计。
他预计生产率更高的工程工具会让 Cerebras 推进更多项目,并说公司打算招聘更多而非更少工程师。这是公司意向,并非对其员工队伍或整个行业的保证。
讨论企业在 AI 工具上的支出时,Feldman 将其与历史上昂贵的硬件设计软件作比较。他勾勒了每位工程师使用 token 的潜在大市场,但用户数量和支出数字是示例性假设,并非已实现收入的预测。
他预计将出现围绕 AI 治理的新角色,并说人力资源和管理中一些信息密集型任务可能改变。创造或取代的工作性质和数量都不确定;他的例子是预测,而非既定结果。
Stebbings 询问数据质量是否是企业采用 AI 的主要障碍。Feldman 认为法律和安全审批经常减缓初期采用,随后表示一旦公司开始推进,数据整理就会变得重要。这是他的经验和解读,并非不需要监督的证据。
他说,领导者必须权衡生产率与可能难以提前看到的风险。他承认一些风险是真实存在的;讨论没有确定特定组织应采取哪些控制措施。
开放模型、中国与芯片政策
他分享对开放模型、出口和美国制造的看法。这些是有争议的政策观点,而非法律结论。
嘉宾讨论开放模型和许可。Feldman 称赞了几个中国开发的模型,但表示法律和安全团队在是否采用方面面临艰难决定。他对性能的比较和对法律复杂性的看法属于观点,并非普遍排名或法律建议。
被问及美国公司是否应向中国出售先进芯片时,Feldman 回答不应该。他认为技术可能用于军事和工业目的,同时承认也有人认为出售可能保留影响力或阻止另建生态系统。这些是有争议的政策判断,并非访谈确立的事实。
他支持在美国重建先进制造和封装能力,并提出长期简化芯片工厂当地规则。这是他的政策偏好;访谈没有评估该提案的环境、社区或法律后果。
欧洲、IPO 与领导力
对话涵盖区域创新、公开上市和个人经验。Feldman 区分了坚持与事先掌握市场时机。
谈到欧洲,Feldman 担心监管和对失败较低的容忍度可能抑制技术发展。他承认存在反例,Stebbings 也指出成功的欧洲应用公司。他们的地区比较属于观点,并非全面评估。
被问及 Cerebras 上市的时机时,Feldman 说,公司曾尝试更早上市,也不知道其他上市或芯片市场将如何发展。他将最终时机归因于坚持和运气,而非声称具有完美的预见能力。
他说,上市公司的资源可能带来合作、投资或收购机会,但没有宣布具体交易。他区分了公开市场投资人与风险投资支持者的义务和获取机会。
Feldman 将此前围绕上市计划的监管审查描述为障碍,并说后来得到解决。他对过程和政府角色的叙述是个人视角;访谈没有独立确立审查或解决的所有原因。
他给创始人的建议是在无法控制的条件下继续改善业务。他回忆了 2008 年危机期间的融资,并说增加客户和改进技术帮助团队在环境变化时保持准备。
在快问快答中,Feldman 说 IPO 前后寻求业务的顾问和供应商数量令他惊讶。他还说自己重视为员工创造的财富;他引用的员工百万富翁人数是公司领导者的说法,并非经独立核实的统计。
被问到家庭生活时,他说伴侣需要理解领导公司所涉及的压力和出差。他描述了需要在关系中投入注意力,而不是让工作占据每一次互动。
Feldman 回忆了一段为期 18 个月的技术难关,当时公司每月支出约 800 万美元,并反复无法解决一个制造问题。他说,富有同理心的董事会和严谨的故障分析帮助团队坚持下来。财务数字和时间顺序均来自他的叙述。
他说领导者也会怀疑自己,困难的技术工作可能影响家庭生活。他感谢同事和妻子在那段时期的支持,Stebbings 以致谢结束对话。
同频道的其他文章
23:48EN → 简体中文
1:13:26EN → 简体中文
59:41EN → 简体中文
1:19:50EN → 简体中文
1:03:05EN → 简体中文
1:17:09EN → 简体中文