30 秒看懂
AI 公司往往要提前数月锁定紧缺算力,当时还不知道未来价格或客户能否付款。Ornn 联合创始人 Kush Bavaria 希望建立价格指数,最终推出期货合约,帮助他们管理这种不确定性。为获得可靠的价格数据,他的公司安排由其他人出资的实体 GPU 算力。他预计旧芯片仍可运行较小模型,但企业需求下滑或客户违约可能让基础设施贷款方蒙受风险。
- 1锁定 GPU 算力可能需要数月Bavaria 说,买家要等待很长时间才能收到并安装芯片,一些云算力甚至需要更早预订。他认为持续需求会支撑高价格,但需求减弱会改变这一局面。
- 2买家需要应对 GPU 价格变化客户必须提前 22 至 26 周作出承诺,最终市场价格可能不同。Bavaria 认为合约和对冲可以降低这种风险。
- 3旧 GPU 仍可运行较小的 AI 模型Bavaria 指出较早几代 GPU 仍有人租用,预计它们可用于要求较低的推理任务。
- 4分散的市场需要共同参考价格客户对地点和配置的要求各不相同,但 Bavaria 认为,一种标准配置就可以作为基准,正如特定等级的石油一样。
- 5Ornn 经营实体算力以获得价格数据Bavaria 说,由于供应商不愿轻易分享交易记录,Ornn 为芯片所有者安排融资并管理芯片,从而收集建立指数所需的数据。
- 6贷款方同时面临价格和客户信用风险租户违约时,供应商可能需要重新出售算力;首份合同到期后的芯片租价也无法预先确定。
- 7推理需求已经影响算力价格Bavaria 将付费使用模型的客户需求,与更具投机性质的新模型训练支出区分开来。
要点建议
- Bavaria 说,交付周期漫长迫使 GPU 买家在了解未来需求和价格前作出承诺。
- 为一种算力制定标准化基准,就能提供参考价格,无须让每块芯片和每座数据中心完全相同。
- 供应商和贷款方既面临 GPU 价格变化,也面临客户无力付款的风险。
- Bavaria 认为,旧 GPU 即使不再适合训练前沿系统,运行较小模型仍可能有价值。
- Bavaria 预计,运行 AI 模型的市场既会有通用供应商,也会有专业供应商。
按章节阅读整理后的全文
从学生投注应用到 Ornn
Bavaria 讲述如何开发小型体育投注应用,以及学会更坚定地谈判。他还回忆了一次没有按计划训练就参加马拉松的经历。
Stebbings 介绍了 Bavaria。Bavaria 说,他和一位大学朋友没能进入一家体育投注公司实习,于是自己开发了类似应用。两人会编程,却缺乏商业和法律经验;应用在麻省理工学院的兄弟会里获得一些使用,但没有进一步推广开来。
Bavaria 说,他把 Uber 创始人 Travis Kalanick 看作更有抱负、更敢于争取的榜样。他回忆曾以每月 5000 或 1 万美元向交易公司出售数据,后来才发现有些客户愿意支付高得多的价格。
他在创办 Ornn 前报名参加的一场马拉松开跑时,他已经没有时间训练。他以前跑过步,大约用三个半小时跑完全程,但称这是一次痛苦的经历,并非值得效仿的训练计划。
算力价格为何可能继续上涨
Bavaria 将基础设施所有者比作房东,认为 GPU 供应紧张支撑了租金。他也描述了需求逆转可能如何伤害贷款方。
Stebbings 问,AI 蓬勃发展时,基础设施投资人是否可能亏损。Bavaria 把数据中心所有者比作房东:对建筑和 GPU 的需求支撑租金,但如果 AI 市场疲软或租户自建算力,情况就会改变。
Stebbings 指出,企业客户仍然质疑投入回报和成本。Bavaria 同意,需求减弱会通过影响房租的同一种供需机制,压低每 GPU 小时的价格。
他描述了买家面对的紧张市场:一些供应商报出的可用时间已经排到几年以后,而订购并安装芯片可能需要约半年。这些数字反映他所看到的市场情况,并非交付保证。
Bavaria 对债务融资相对乐观,因为他看到 AI 产品有实际用途,其产出也有需求。他说,随着买家争夺算力,新旧几代 GPU 中一些型号的价格都在上涨。
Bavaria 说,以往长期合同通常假设未来每 GPU 小时会更便宜。固定价格续约权曾经免费提供,如今却有了价值,因为供应商认为未来价格可能更高。
谈及投资人为何担忧 CoreWeave 和 Nebius 等公司时,Bavaria 说,它们的借款既取决于芯片价值,也取决于 AI 公司租户的付款能力。他仍看好这些供应商,因为他预计算力需求会继续增长。
悲观情景是大型企业无法找到足够多的有效 AI 用途。如果供应商在需求出现前就购买了算力,而客户又无力付款,违约可能使债权人持有价值低于融资假设的设备。
Bavaria 说,购买芯片的交付周期可能要求客户提前 22 至 26 周规划。这让交付时的价格充满不确定性,在他看来也是买家对冲风险的理由。
管理不确定的 GPU 成本
他认为,采购周期长使对冲变得重要。他还讨论了 Ornn 使用的 AI 工具及旧 GPU 的剩余用途。
对于现金充足且决心投入 AI 的企业,Bavaria 主张尽早锁定算力。他认为多余芯片可以租给他人,但这一判断取决于他对需求和价格持续强劲的预期。
他介绍了自己如何用 AI 助手处理日常工作,并使用 Cursor 和 Factory 等编程产品。他说,通过 Factory 使用公司自己的模型额度很有帮助;Stebbings 表示自己是该公司的投资人。
Bavaria 说,新一代 GPU 推出并不意味着旧型号必然过时。他指出 A100 和 H100 芯片仍在出租,预计旧硬件可运行较小模型,或承担要求较低的推理任务,即由训练好的模型生成回答。
他预计,需求会分为快速推理、低成本推理,以及图像、视频或生物研究等工作负载。通用供应商可能与专业服务商并存;被问到行业整合时,他也承认竞争者数量可能减少。
过热的融资市场与实体瓶颈
Bavaria 认为,快速完成的融资反映出错失机会的担忧;他自己则愿意投资数据中心设备。他与 Stebbings 也比较了对纽约和硅谷的印象。
Stebbings 说,风险投资融资轮如今可能非常快地完成。Bavaria 认为这反映出投资人害怕错过下一家大型 AI 公司,并怀疑这种融资轮中的每位投资人都能仔细研究企业。
Bavaria 认为一些显而易见的应用类别已经拥挤。他更愿意关注建设数据中心所需的实体设备,包括电力变压器;他认为这些领域的机会规模可能被低估。
被问及 Ornn 设在纽约是否会错失机会时,他说自己重视那里的人际忠诚和团队情谊。Stebbings 则批评了他眼中硅谷的群体思维和交易式关系。
对 Bavaria 而言,创办 Ornn 的一大吸引力是每天与四位大学好友共事。他说,公司既关乎一起工作的人,也关乎他们试图建立的市场。
算力为何需要价格基准
Bavaria 说,分散的供应和众多买家使市场有其用途。尽管集群存在差异,标准化参考配置仍能为价格提供基准。
在咨询公司实习时,他使用 ChatGPT 生成表格公式,并编写 Python 程序快速完成任务。这段经历帮助他确定自己不想走传统企业职业道路。
算力为什么需要市场?Bavaria 说,许多供应商提供大体相似的 NVIDIA GPU,也有许多客户需要它们,虽然地点、内存等要求有所差异。这让价格取决于供需如何匹配。
Stebbings 问,如果算力可以互换,供应商是否还有可守住的优势。Bavaria 说,新兴云服务商正扩展模型推理等服务来形成差异;拥有稀缺基础设施仍可能是一门有吸引力的生意。
他将过去高度集中的云市场与如今数量更多的专业 GPU 供应商和买家作比较。他认为,芯片拍卖已经类似于他期待更正式市场提供的价格发现机制。
价格基准不必描述每一种算力。Bavaria 用石油类比:不同等级的石油交易价格不同,但一个标准参考等级仍能为更广泛的市场提供定价依据。
他说,关键是选择一种具体算力配置并使其标准化。Stebbings 问到信任时,Bavaria 说,定价和指数企业还必须建立长期关系,让客户信任其数字。
Ornn 从指数业务入手,因为 Bavaria 认为买家最终需要 GPU 价格的期货和期权。要建立可靠指数,公司还需要实体算力实际交易的证据。
通过安排实体算力获得数据
Ornn 开始管理由他人出资购买的芯片,以观察交易。Bavaria 解释谁可能使用期货,以及信用风险和价格风险如何相互作用。
公司发现,成熟供应商不愿交出有价值的价格数据。Bavaria 说,Ornn 因此安排其他人投资芯片或数据中心项目,自己则控制算力并帮助其变现;他把这种安排比作托管租赁市场。
这种做法比他最初设想的软件数据业务更加复杂。他说,投资人可以为资产出资,Ornn 负责管理,但背后的融资和运营比类比所呈现的更复杂。
他预计,算力期货的首批使用者将是已经面临 GPU 价格波动的参与者。为 AI 初创公司提供算力融资的贷款方,也要承担这家初创公司能否继续融资或创造足够收入来履约的风险。
如果租户违约,所有者必须按照当时市场价格重新出售算力。此外,芯片可能需要在首份合同到期后继续赚钱才能偿还融资,但之后的租价并不确定。
他把这种不确定性比作农民种植作物时还不知道收获价格。期货合约可以提前锁定价格,避免卖方在交付作物或算力之前完全暴露于价格波动。
Stebbings 问及 Meta 和 AI 基础设施公司的借款成本。Bavaria 说,投资人对数据中心支出的规模感到不安,也担心最终需求是否足以支撑这些投入。
标准化与推理需求
Bavaria 认为参考指数能促进算力标准化,让算力可在租户之间重新分配。他预计推理将成为越来越重要的需求来源。
Bavaria 说,指数可以促进 GPU 集群更加标准化。如果租户离开或违约,接替者就能使用同一批算力,正如新的租客可以入住标准公寓。
他说,一个有流动性的市场需要不止一个买家。Ornn 有时必须分配算力,而不是全部卖给愿意出更高价格的单一买家;这牺牲了近期收入,却有助于形成更广泛的市场。
Bavaria 将 Ornn 视为一家数据和指数公司,实体市场是产生可信数据所必需的。他指出大型商品数据和交易所企业显示了成熟市场可能支撑的规模,同时预测算力会发挥更大的作用。
他认为推理已在决定算力需求,因为客户付费使用生成的 token。按他的类比,训练新模型更具投机性:就像开发药物一样,需要在结果可知之前先投入资金。
他看到的一个风险是,为初创公司服务的新兴云供应商对客户信用调查不足。即使空出的集群最终可以再次出租,供应商仍可能受到个别客户失败和转售条件不确定的影响。
Stebbings 问什么决定 AI 实验室的胜者时,Bavaria 提到人才和算力;如果只能选一个,他最终选择算力。他预计模型会迅速改进,同时承认企业可能需要更长时间才能采用。
不确定性、AI 采用与信用评级
Bavaria 预计成熟企业采用 AI 的速度会慢于前沿技术变化。他也谈及为数据中心债务提供信用评级的计划。
Stebbings 说,不确定性让人难以估算企业五年后的价值。Bavaria 认为,企业可能还在摸索如何应用 AI,可用技术的能力却已以快得多的速度变化。
Bavaria 对 AI 和长寿提出一些高度猜测性的想法,包括人类寿命可能大幅延长。后来被问到对 2030 年的哪项看法最可能出错时,他承认更极端的预测可能不会在那个时间范围内实现。
他希望 Ornn 发展的一项相邻业务是数据中心债务信用评级。他认为,专业机构可以评估一般评级公司未必同样了解的租户和基础设施风险。
他说,如果资源不受限,他也会考虑建设数据中心。他预计推理供应商和新兴云服务商会进入彼此的业务,但认为已经历过几轮硬件部署的运营商拥有先发优势。
为长期经营选择投资人
Bavaria 解释如何选择支持者、为公司命名以及寻求建议。他也谈到创业带来的心理压力。
Bavaria 说,公司融资部分是为了获得合适的合作伙伴,并不只是因为需要现金。他希望与朋友共同建立一家持久的企业,而不是为了快速出售而创业。
他说,Ornn 这个名字来自《英雄联盟》中的一个角色,以及一个价格便宜的四字母域名。比起精心编造的起源故事,他更看重名字简短。
他说,与投资人 Miles 的一次谈话令他印象深刻,因为对方首先关注的是创始人作为人的一面。Stebbings 问,这与另一次晚餐上 Bavaria 似乎急于结束闲聊的表现如何相符。
Bavaria 解释,席间其他人当时在谈论网球,他不容易参与,之后又有另一场投资人会面。一家较小的基金后来提供了与大基金相近的条款,而他看重这笔投资对小基金合伙人的重要性。
他认为精品投资机构的激励与初创公司的成功紧密相连时,会更倾向于选择它们。他还讲述了另一位潜在投资人迟迟无法决定后,他如何从一家大机构融资,以及后来为何因合伙人关系选择 Thrive。
由于年轻且行业经验有限,Bavaria 向已经犯过错误的资深创始人和投资人寻求建议。他说,他们对人和决策的判断很难仅靠书本获得。
他说,自己低估了创业的心理压力。不确定性以及好坏消息之间的持续起伏会让工作消耗大量心力;Stebbings 问他如何应对这些压力。
被问及感情关系时,他开玩笑说要保持单身直到公司达到下一轮融资里程碑。他认为,感情关系可能让人分心,但也可能提供情绪稳定。
他说,只要生活舒适有保障,与朋友共事比个人财富更重要。他与人合租一间靠近办公室的六楼无电梯公寓,大部分时间都在工作。
Stebbings 建议,估值很高的公司创始人或许可以出售少量股票,改善生活条件。Bavaria 说,团队已经会在健身房和健康食品等方面花钱,他怀疑更好的公寓能在多大程度上改变日常生活。
为高强度团队招聘
他描述了希望同事具备的沟通能力和竞争意识。Stebbings 则对他的生活方式和工作节奏提出疑问。
Bavaria 说,自己起初低估了公司文化,但与同事长期共事后改变了看法。现在他认为,即使长期承受压力,人们也能享受共同工作非常重要。
他说,许多员工参加过竞技体育。他将这种经历与沟通能力和求胜欲联系起来,认为团队从约 30 人发展到 100 人时,这些品质会很重要。
Stebbings 看重持续锻炼但不会立即获得回报所需的自律;Bavaria 补充说,长期收益可以激励人。他们讨论了这些习惯如何转化为工作中的坚持。
公司还会让候选人与其他职能部门的人一起吃饭,观察他们在熟悉的技术场景之外如何互动。Bavaria 说,技术能力重要,但他也希望员工能够应对不确定性。
被问到如何避免相信关于公司的宣传时,Bavaria 提到收入、盈利能力和对估值的严格态度。他说 Ornn 选择投资人时拒绝了一些价格更高的报价。
投资人、编程工具与对 2030 年的期待
Bavaria 讨论自己的导师、算力限制以及他对编程工具看法的变化。最后,他谈到对长寿和 AI 的一些猜测性期待。
谈到最喜欢的一次投资人会面,他回忆自己 17 岁时认识了一位导师,对方多年来持续提供建议。他看重关注创始人作为人的一面,而不只是关注公司的投资人。
如果能让一个人加入董事会,他会选择尚未见过面的 Travis Kalanick。他说自己会问 Kalanick 如何处理情绪上的起伏。
被要求在假设估值下选择 OpenAI 或 Anthropic 时,Bavaria 选择 OpenAI,因为他认为获得算力是重大限制。他认为,光有钱并不能立即加快芯片制造。
他改变了对围绕 AI 模型构建的独立编程工具的看法。现在他看重为不同任务切换模型的能力,以及围绕模型构建的使用体验。
Bavaria 说,他特别喜欢 Factory 的编程产品,但并不声称了解这家公司的全部财务基本面。Stebbings 再次表明自己作为投资人的利益关系。
展望未来,Bavaria 承认自己对 2030 年的一些更激进预测可能错误。他对生物技术和长寿领域感到兴奋,希望更容易获取的算力能够支持改善人类生活的工作。
同频道的其他文章
1:15:12EN → 简体中文
1:15:58EN → 简体中文
50:17EN → 简体中文
57:17EN → 简体中文
1:08:33EN → 简体中文
1:02:12EN → 简体中文