Roman Chernin 谈 AI 算力需求、推理与基础设施

原标题Roman Chernin on AI Compute Demand, Inference and Infrastructure

Nebius 联合创始人讨论客户需求、GPU 经济模式、托管推理和市场集中带来的风险。

RCRoman Chernin嘉宾 · Nebius
频道
20VC with Harry Stebbings
发布
2026年6月8日
视频
1:14:30
阅读
10 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Nebius 联合创始人兼首席商务官 Roman Chernin 与 Harry Stebbings 讨论 AI 基础设施需求、开放权重模型、客户集中度和推理经济模式。他介绍了 Nebius 的产品层次、资金需求和建设产能的方式。 他的市场预测、客户事例、产品节省幅度和公司数字均为个人叙述或公司说法;结果取决于工作负载、投资和市场条件。

  1. 1供应商的需求判断Chernin 预计算力需求将大幅增加,并承认自己在这一预测中有商业利益。
  2. 2低成本模型的事例他回忆一款低成本模型发布期间公司销售强劲;一个事例不能确立普遍的价格弹性。
  3. 3设想中的智能体层他设想优化整个智能体任务,并表示这尚非已经交付的产品。
  4. 4价格与实际成本他说涨价后需求仍然强劲,但无法量化价格翻倍的影响。
  5. 5推理优化所引用的最多节省 70% 是上限说法,取决于工作负载、质量和比较基准。
  6. 6集中度风险他说,如果市场由少数客户控制,Nebius 可能只能提供实体基础设施。

要点建议

  1. Chernin 预计算力需求将增长,并承认 Nebius 在这一预测中具有商业利益。
  2. 他认为前沿模型和专用模型都有空间,尽管其未来经济性不确定。
  3. GPU 每小时价格只是客户实际成本的一部分,利用率和模型表现也很重要。
  4. Token Factory 所引用的最多节省 70% 推理成本是上限说法,并非普遍结果。
  5. 他说资金、许可、电力和建设在不同时间尺度上影响部署。
  6. 他认为市场整合对独立基础设施供应商构成威胁。
全文

按章节阅读整理后的全文

只看原始文稿
01

AI 采用与基础设施需求

Chernin 解释为何预计需求持久,以及开放模型如何与前沿供应商共存。公司的经历和市场预测均归属于他。

Nebius 联合创始人兼首席商务官 Roman Chernin 告诉 Harry Stebbings,他不认为 AI 基础设施存在泡沫。他预计算力和企业采用将大幅增长,同时承认作为基础设施供应商,他有理由相信这种增长。

他认为编程是一个早期开始大规模发挥作用的用途,并说许多公司仍处于采用 AI 的早期阶段。他对当前采用情况的判断和对未来众多应用的预期属于观察和预测,并非独立测量的行业总量。

Stebbings 询问,更便宜、本地托管的开放模型是否会损害前沿实验室和基础设施供应商。Chernin 说,随着产品规模扩大,一些客户已经在寻找替代方案,希望改善特定用途的成本、质量或两者。

他区分了前沿模型最初的广泛能力,以及客户可以调整或微调的开放权重模型。在他看来,专用模型可能在特定工作流程中表现更好,而前沿供应商继续处理更新、更困难的任务。这种共存是他的市场判断,并非有保证的结果。

Stebbings 质疑,不断转向新问题是否足以证明模型公司极高估值合理。Chernin 认为许多问题仍未解决,并预计前沿能力和专用系统都有空间;访谈没有确立未来收入或回报。

Chernin 回忆,在较早一次 DeepSeek 发布前后,Nebius 股价下跌,而公司经历了他所描述的一个异常强劲的销售周。他说,更便宜的推理促使客户运行此前经济上不可行的工作负载。这是公司经历中的事例,并不能证明降价总会增加总支出。

02

基础设施的四个层次

他介绍实体产能、托管云、推理和设想中的智能体层,并讨论客户集中度与实际成本。

他将 Nebius 的工作分为四个维度:实体产能、产品、客户和资金。建设数据中心需要电力、设备、许可和供应链;他说团队希望在所有方面加快速度。

他介绍了面向大型实验室和超大规模云服务商的实体基础设施层,这些客户需要大量算力,并自带大部分软件。他认为,即使客户主要需要原始基础设施,按这种规模交付也很困难。

第二层是托管的多租户云,包含算力、存储、网络、安全和可观测性。客户无需建设底层基础设施,就可以配置集群并管理自己的工作负载;商业计量单位通常是 GPU 小时。

第三层是托管推理,包括 Nebius Token Factory,客户使用模型输出,而不必自行管理 GPU 集群。Chernin 说,该服务面向希望使用开放权重或专用模型的产品构建者和企业。

他勾勒了智能体可能需要的第四层:系统可以选择模型、管理上下文,并针对质量和成本优化整个任务。他明确表示,这是推测性的产品思考,而非 Nebius 已经交付的能力。

被问到 Nebius 是否能在一夜之间售出当前产能的十倍时,Chernin 说不能一夜完成,但他认为存在大得多的需求。他希望客户组合既包括大型基础设施客户,也包括托管服务的小型用户;这是公司判断,并非已签约需求数字。

他说,客户集中度是核心战略问题。超大型客户可能只需要实体产能,而软件平台可以服务更多企业和产品构建者。他希望客户组合多元化,但没有给出具体目标或经审计的客户结构。

Stebbings 询问价格翻倍是否会影响需求。Chernin 说 Nebius 曾涨价,仍看到待满足的需求,但他不知道市场的精确平衡点。推理经济性最终会约束客户:如果服务用户的成本过高,产品就无法持续增长。

他说,名义 GPU 小时价格本身不能决定客户的总成本。利用率、不中断运行时间、模型配置以及产生的有用 token 数量都会改变实际经济性。他的比较属于一般运营说法,并非每种工作负载都能节省成本的保证。

在托管云层,他的主要问题是当工作从模型训练转向推理和智能体时,客户需要什么。他说,Nebius 无法建设一切,因此必须选择产品能够提供独特价值的领域。

03

推理、产品与评估

Chernin 讨论反馈循环、垂直整合和 Token Factory。成本节省取决于工作负载与基准。

Chernin 说,生产环境中的推理带来了新要求:收集和观察数据、评估输出,并利用反馈改进模型或应用。他描述的是一个潜在的改进循环,而非把推理工作负载简单视作在不同 GPU 上训练。

他认为,随着平台隐藏部分基础设施和优化复杂性,构建 AI 产品的门槛正在下降。他的目标是让开发者专注于用户和使用场景,由平台处理更多底层服务。

被问到如何将 Nebius 与另一家新型云服务商比较时,他将公司的方式描述为垂直整合:下层是数据中心、服务器和平台,上层是托管产品。他认为这有助于控制成本和扩大客户群;这种竞争优势是他作为公司高管的判断。

他解释了一个常见的托管推理问题:基于封闭 API 开发的团队可能希望出于成本或定制考虑尝试开放权重模型,但可靠部署需要编排、缓存、监控和优化。Token Factory 是 Nebius 为处理这些工作提出的服务。

Stebbings 引述了推理成本最多降低 70% 的说法。Chernin 介绍了蒸馏、推测解码和缓存等技术。所引用的节省幅度是产品上限说法,并非普遍结果;实际成本和质量取决于模型、基准和工作负载。

他说,模型频繁发布使客户能够在不必每次重建基础设施的情况下测试替代方案变得有价值。在他看来,托管平台可以帮助完成这些工作,但访谈没有独立核实每次迁移是否都顺利。

被问到模型发布速度是否会持续五年时,Chernin 说自己不知道。他预计不同模态会出现更多专用系统,并以网络防御模型为例,说明如何针对特定任务调整现有基础模型。

04

企业采用与主权 AI

他介绍一个客户事例、评估和区域生态系统。客户支出说法和未来需求未经独立核实。

他将 Revolut 描述为一个最初高度依赖封闭模型、在部分用途采用替代方案前投资评估的客户。预算组合和客户经历是 Chernin 的叙述,并非 Revolut 独立确认的披露。

他得出的教训是,团队在生产环境中更换模型之前需要指标和评估流程。没有这一基础,更便宜的替代方案可能损害输出质量;他认为,有了这一基础,团队可以更快实验和部署。

被问到 Revolut 三年后可能多支付多少时,Chernin 拒绝给出数字。他预计先进企业的 AI 预算和使用量会快速增长,但未来客户支出仍不确定。

他不接受简单的封闭与开放二选一:前沿、专用和低成本模型各自可以服务不同任务。他设想未来由编排系统在其中选择,同时指出可靠部署和经济性与模型能力同样重要。

谈到主权 AI,Chernin 说,各地区不仅需要兆瓦级产能,还需要获得有能力的模型和强大的构建者社区。他认为基础设施会跟随研究人员和产品公司的需求;这是他对生态系统应如何发展的看法。

被问及会在基础设施、模型和应用中投资哪里时,他承认 Nebius 自身专注于基础设施,但称赞构建终端用户产品的创始人。他说,他们承担了客户可能不需要其产品的风险,也帮助创造了对其他技术层的需求。

05

Nvidia、资金与社区

他讨论供应商关系、产能扩张时间和社区沟通。公司支出和项目说法保留来源。

Stebbings 询问与 Nvidia 谈判的问题。Chernin 说,他的方法是建立强大的产品和工程团队,并认为相互的技术尊重有助于维持关系。他指出 Nvidia 可能有不同看法;他没有声称双方议价能力相同,也没有披露合同条款。

他再次提到规模、产品、客户和资金四个维度。在他看来,云业务是售后业务:签约形成承诺,面向客户的工程师随后必须帮助买方让服务发挥作用。

他说,如果资金无限,他会更快建设更多数据中心并部署 GPU。他引用了 Nebius 的资本计划和规模更大的超大规模云服务商预算,但这些数字来自他的公司层面讨论,不应视为经核实的未来支出。

Stebbings 询问许可延迟是否可能防止供应过剩。Chernin 说,不同时间范围的瓶颈不同:更多资金不能在六个月内立即创造产能,但可以在更长时期内支持并行项目。他没有量化行业供应的安全水平。

他说,Nebius 尽力在后续建设和 GPU 部署之前确保电力与土地。每个阶段都需要额外资金,准备项目组合有助于应对个别地点延迟。这是公司的规划方式,并非每个地点都会推进的承诺。

被问及社区对数据中心的反对时,Chernin 说开发商必须与地方当局沟通并回应关切。他介绍了管理多个可能地点的做法,并承认 Nebius 需要改进对外沟通;访谈没有独立评估其项目的影响。

谈到太空数据中心,他说许多有能力的人正在尝试解决这个问题,但承认存在重大挑战和不确定性。他没有预测太空将在特定时间内取代地面产能。

06

教育与行业整合

Chernin 考虑未来技能、市场集中度和执行。他对社会和财务的预期存在不确定性。

在快问快答中,Chernin 希望更容易的软件创建能让更多人将想法变成有用产品。他也看到教育面临的挑战:随着工具和职业变化,帮助人们学习、思考和适应。这些是预期,并非实测就业结果。

对于自己的女儿,他强调有同理心的沟通和创造力,同时承认无法确切知道将来需要哪些技能。他的建议反映了个人优先事项,并非对每位学生的处方。

他说,Nebius 面临的最大威胁是行业过度集中:如果少数公司控制市场,独立供应商可能只能提供实体产能。他希望多样化的构建者和客户能够保留更多选择,这也符合 Nebius 的商业利益。

被问到投资人 Leo Aschenbrenner 公开披露的投资兴趣时,Chernin 说投资和客户合同带来的是交付的机会和义务,而不是假定成功的理由。他没有预测股票回报。

Chernin 说,公司应该更经常认可团队的工作,同时继续在快速变化的市场中执行。他最后将企业比作必须不断游动的鲨鱼,Stebbings 感谢他参加访谈。

同频道的其他文章

23:48EN → 简体中文
20VC with Harry Stebbings· 2026年10月26日播客 · 2 人对谈Satya Nadella:AI 需要零信任架构,企业应该拥有自己的智能嘉宾 Satya Nadella · 主持 Harry StebbingsMicrosoft 首席执行官认为,在对齐研究仍未解决的情况下,强大的智能体需要安全边界;他也解释了为什么企业应保留自身使用 AI 所创造的价值。企业 AIAI security评估+2
1:13:26EN → 简体中文
20VC with Harry Stebbings· 2026年10月24日播客 · 2 人对谈Naveen Rao:能源、AI 硬件、结果验证与机器人的未来嘉宾 Naveen Rao · 主持 Harry StebbingsUnconventional AI 创始人认为,能源效率将塑造 AI 硬件;与此同时,模型生成内容的数量不断增加,也让验证变得更加重要。EnergySemiconductorsInference+2
59:41EN → 简体中文
20VC with Harry Stebbings· 2026年10月22日播客 · 3 人对谈20VC:风投基金规模、AI 估值与不断变化的软件市场嘉宾 Jason Lemkin, Rory O’Driscoll · 主持 Harry StebbingsHarry Stebbings、Jason Lemkin 和 Rory O’Driscoll 讨论风险投资集中、基础设施风险、代码审查,以及快速增长的 AI 公司估值背后的假设。Venture CapitalInvestingAI cost & performance+2
1:19:50EN → 简体中文
20VC with Harry Stebbings· 2026年10月19日播客 · 2 人对谈Sameer Dholakia:AI 投资、Bessemer 的成长策略与公司文化嘉宾 Sameer Dholakia · 主持 Harry Stebbings这位 Bessemer 合伙人解释如何为快速增长的 AI 公司估值、支持创始人并建立团队,同时讨论乐观预测背后的风险。Venture CapitalAI StrategyLeadership+2
1:03:05EN → 简体中文
20VC with Harry Stebbings· 2026年10月17日播客 · 2 人对谈Harrison Chase:如何构建可靠智能体,以及模型路由与记忆的作用嘉宾 Harrison Chase · 主持 Harry StebbingsLangChain 联合创始人解释为什么智能体仍然难以控制、领域专业知识的价值在哪里,以及他的团队如何管理编程智能体的成本。AI agentsAgent orchestration评估+2
1:17:09EN → 简体中文
20VC with Harry Stebbings· 2026年10月15日播客 · 3 人对谈20VC:按比例投资权、AI 定价与不断变化的软件市场嘉宾 Jason Lemkin, Rory O’Driscoll · 主持 Harry StebbingsHarry Stebbings、Jason Lemkin 和 Rory O’Driscoll 讨论投资人权利、模型经济性,以及软件公司和员工面临的选择。Venture CapitalAI cost & performanceRobotics+2