30 秒看懂
Modal 联合创始人 Erik Bernhardsson 与 Harry Stebbings 讨论,随着需求增长,AI 基础设施企业可能如何竞争。他介绍 Modal 的算力与产品开发方法,分享对推理和软件工程的预测,并谈到融资、人才与财务风险。收入数字及预测均按访谈中发言者的说法呈现。
- 1推理平台Bernhardsson 认为,推理供应商除了提供 token,还需要沙盒、后训练等周边产品。
- 2汇集 GPU 算力他介绍如何从多个供应商获取算力,并汇集客户波动的工作负载。
- 3硬件价格的不确定性他预计价格长期会下降,但无法确定供应何时赶上需求。
- 4沙盒增长他说,模型生成代码的能力增强后,沙盒产品在推出多年才找到主要市场。
- 5开放模型推理他预计开放模型和专有模型推理都会增长,而不是把它们看成固定规模的市场。
- 6工程师的角色他认为,确定需求和理解人依然是软件工程的核心。
要点建议
- Bernhardsson 预计推理将成为规模庞大且分化的市场,对专业化服务产生需求。
- 他认为,单独提供 token 服务容易商品化,周边工具则可以构成更广泛的平台。
- 汇集客户波动的工作负载有助于管理 GPU 算力,但预测和采购仍然困难。
- 他预计开放模型和专有模型都会增长,同时承认定价与市场周期存在不确定性。
- Modal 的沙盒经历说明,基础设施产品可能在推出多年后才找到重要应用场景。
按章节阅读整理后的全文
编程、创业与融资
Bernhardsson 讨论早期编程兴趣、创业动机、融资和品牌。
Harry Stebbings 请来 Modal 联合创始人兼 CEO Erik Bernhardsson,讨论推理市场、AI 基础设施和公司增长。对话中的收入、融资和估值数字均为发言者的说法。
Bernhardsson 说,自己八岁时开始在 Macintosh 上编程,还做过游戏。他一直很感激童年爱好变成了工作,也回忆起少年时期参加编程竞赛的乐趣。
他三十多岁时创立 Modal,因为看到了一个自己认为很明显的市场机会。回头看,他认为更早拥有自信也许有帮助,但不确定二十多岁的自己能否成为优秀创始人。
他不认同创业必须每天像“吃玻璃”一样痛苦、只为最后的回报。当然有艰难对话和困难时期,但他说自己喜欢建设公司,希望多年后仍在做这件事。
Stebbings 也谈到出售自己业务时的类似问题:第二天会做什么?Bernhardsson 说,如果卖掉 Modal,他很可能会再创办一家类似公司,因为他喜欢工作本身。
融资对他来说没那么有乐趣。他说,讨论到的几轮融资中,他没有制作传统融资演示文稿,而是更喜欢提前与投资人建立关系,等公司需要资金时再讨论条款。
被问及创始人是否应该追求最高估值时,他说早期公司可能拿到超过需要的资金,也因此承担更多股权稀释。他将此与 Modal 当前必须投入大量现金获取 GPU 算力的阶段区分开来。
他称公司按损益表计算已经盈利,但因算力投资而处于现金流为负的状态。他说资本有帮助,不过对于把每种优势都称作“护城河”持谨慎态度。
Bernhardsson 认为,严格意义上的持久护城河很少出现在早期初创公司。他更愿意用快速行动保持领先来比喻;Stebbings 则强调团队、产品决策速度和品牌。
两人都认为品牌越来越有价值。Bernhardsson 将 Modal 的形象与开发者体验、网站设计、社区和一致性联系起来,同时表示自己仍密切关注 Baseten、Fireworks 等竞争对手。
他说,Modal 最初采用产品驱动的增长方式:开发者可以直接注册并体验产品。他过去在消费软件领域的经历,也影响了他希望让基础设施从首次访问开始就与众不同的想法。
推理平台
他主张提供一组基础设施工具,并预计推理会分化为专业化产品。
Bernhardsson 预计推理会成为规模非常大的市场,重要性可比一种新的云层。他认为,客户还需要后训练、沙盒、agent 工具、低延迟服务和批处理。
他说,如果供应商只按价格销售 token,客户很容易切换,定价也可能陷入逐底竞争。更广泛的工具以及连接工具的基础设施,能够提供更多差异化。
他认为这些周边服务存在毛利空间,但怀疑多数基础设施公司能达到过去某些软件企业所具有的极高利润率。
他的解释是,客户支出要经过应用、模型、基础设施、云和硬件等多个层面,每一层都有自己的经济结构。他认为 Modal 的利润率未来可能提高,但仍会低于传统软件水平。
他预测,随着市场扩大,推理将分化为许多专业化产品。他说,产品专业化并不妨碍一个平台同时提供多种产品;不同应用需要不同的延迟、批处理和训练组合。
GPU 算力与竞争
对话涉及算力汇集、定价、芯片供应商,以及与专业云厂商的关系。
他形容 GPU 采购市场非常繁忙,Modal 与许多专业云供应商合作。公司的目标是替客户完成这些谈判,一边汇集算力,一边汇集需求。
Bernhardsson 说,Modal 自行构建了调度、容器运行时和文件系统等组件。汇集许多客户波动的工作负载可以平滑总体需求,从而提供弹性算力,而不必让每个客户多年预留固定数量的资源。
由于 GPU 交付周期长达数月,公司会根据近期增长预测总体需求,并提前获取算力。他说价格已经上涨,但认为愿意支付足够费用的客户仍能获得 GPU。
被问及未来价格时,他说不知道供应何时会追上需求。他预计硬件价格在很长期内会下降,即使短缺可能让价格多年保持高位。
两人都认为 AI 算力需求仍处于早期。Bernhardsson 指出,有些产品在产生收入前已经消耗大量算力,因此投资与可持续收入之间的时间差仍是一个问题。
谈到专用芯片,他预计 NVIDIA 和其他供应商都会增长,而不是假定一方必须消灭另一方。他认为,相比 CUDA 本身的编程模型,以 NVIDIA 为优先的框架、内核和推理引擎生态才是更重要的优势。
一些专业云供应商向推理层扩张,因此既是合作伙伴,也可能成为竞争对手。Bernhardsson 承认自己有立场,但认为复制 Modal 的调度器、运行时和大规模编排能力并不容易。
他也尊重建设 GPU 云所需的财务执行能力:获得客户承诺、为设备融资、交付算力并偿还债务。这种资本密集型流程与构建软件面临不同挑战。
开放与专业化模型
Bernhardsson 讨论模型许可、区域竞争、专业化和品牌。
Stebbings 问,如果专有前沿模型变得更便宜,开放模型为什么仍然重要。Bernhardsson 预计,微调、控制模型以及针对特定延迟或吞吐要求进行优化的需求会持续存在。
他说,许可机制可以帮助模型开发者获得价值,为后续工作提供资金。他希望欧洲和美国也有强大的开放模型生态,同时对中国实验室的技术能力表示尊重。
他担心欧洲可能难以在前沿模型训练所需的规模上集中人才和资本。随后他澄清,欧洲拥有大量人才;他担忧的是如何将人才集中到同一个组织中。
Bernhardsson 将 NVIDIA 对开放模型开发者的支持看作生态战略。他说,这些公司资本需求很高,投资可以帮助维持美国本土开发的模型。
随着市场增长,他也预计会出现更多专业化模型。他以擅长分类和回归等任务的 Jev 为例,并推测一组专业模型有可能支撑一家规模巨大的企业。
话题回到品牌。Bernhardsson 说,Modal 早期增长包括在网上与开发者直接对话;他认为,每家公司都需要找到符合自身产品和受众的沟通方式。
从产品走向平台
他解释沙盒业务增长、资源分配,以及 Modal 对训练和周边产品的计划。
被问及如何改善客户体验时,他希望 Modal 提供更多产品,并增加能直接帮助客户的人员。Stebbings 追问,扩张是否有让公司精力过于分散的风险。
Bernhardsson 同意,确定优先级和分配资源很困难。多产品战略要求公司选择何时推出下一款产品,而不能试图同时做所有事情。
他说,Modal 在 2023 年推出沙盒产品,但主要增长发生在大约 2025 年,当时模型生成代码的能力显著提升。他称访谈时这项业务的年化收入规模约为 3 亿美元。
基础设施产品可能需要多年才找到决定性的应用场景。Modal 较早推出的无服务器函数后来在生成式推理中找到需求;沙盒则受益于公司此前没有完全预料到的编程工具、强化学习和后台 agent。
他将此归因于时机,也归因于愿意在最终用途尚不明显时先构建有用的基础组件。他说,公司在生成式 AI 需求后来加速之前就开始建设,因此受益。
回头看,Bernhardsson 认为 Modal 在开放模型推理上投入不足。DeepSeek 受到关注后,公司大幅扩充团队;此前他们曾担心推理主要是一种商品化业务。
Stebbings 提出相反观点:随着专有模型价格下降、一些企业避免使用中国模型,开放模型推理可能进入平台期。Bernhardsson 将此称为固定蛋糕思维,预测两类业务都会大幅增长;他的数字是预测,而非已实现结果。
两人讨论 Modal 的收入年化规模达到十亿美元。Bernhardsson 说近期增长很快,但不知道最终会稳定在哪里;他对未来收入的乐观表述是预测,而非保证。
对于可能的新收入来源,他提到训练、后训练和批处理。他也看到数据系统与编排方面的相邻机会,同时承认公司必须一次只选择少数优先事项。
后训练与软件工作
两人讨论反馈周期、工程师角色、agent 支出和数据业务。
他说,后训练适合反馈相对清晰的任务。代码可以在沙盒中测试,数学和某些安全任务也提供了评估结果的方法。
他不确定同样的方法能多快应用于反馈周期长达数月的任务。他承认自己过去曾多次误判 AI 进展,因此也不排除这些限制继续变化。
Bernhardsson 仍对软件工程持乐观态度。他认为,提高程序员效率过去往往会带来更多软件,而工程师的工作包括理解人的需求和工作流程,而不只是把英语翻译成代码。
他说,Modal 约有 150 名工程师,每月在编程 agent 上花费约 50 万美元。他预计工具改善后会出现更多用途,但未来支出和价格仍不确定。
他看到前沿实验室目前对数据和环境有强劲需求,尤其是编程环境。同时,他不确定每个当前有利可图的数据供应商,都适合接受风险投资或拥有持久的长期经济效益。
拥有模型与市场风险
Bernhardsson 思考微调模型、模型路由、市场回调、人才和长期机会。
被问到每家公司是否都应该拥有自己的模型时,他说这取决于场景。经过微调的开放模型可以提供一致性和控制权,但延迟、价格、性能及周边服务也很重要。
Modal 既支持使用开放模型的客户,也支持在其基础设施上提供专有模型的公司。Bernhardsson 将这种灵活性视为平台战略的一部分,而不是坚持一种模型选择适合所有人。
谈到模型路由,他说独立公司今天可以取得成功,但从长期看,路由可能自然融入包含评估、微调和性能工具的更广泛产品组合。他披露自己投资了 OpenRouter。
被问到可能对自己业务不利的观点时,他预计 AI 市场最终会出现回调,尽管他仍看好长期需求。这是他的市场预期,并非发生日期或幅度已知的预测。
他说,自己很少通过股权二级交易套现,但支持在设置边界的前提下允许员工出售少量股份。在他看来,流动性的先例可以让员工更真切地理解股权价值,同时保留激励。
AI 人才竞争十分激烈。他说,Modal 曾失去一些收到实验室高额薪酬报价的优秀应届毕业生,并认为公司自身的薪酬、股权和增长潜力组合必须保持吸引力。
他将沙盒需求列为自己低估了市场规模的领域。他警惕那些需要不断补充股权融资、却没有清晰收入路径的公司,尤其是在资本市场收紧时。
对话以育儿、斯堪的纳维亚文化和工作之外的兴趣结束。Bernhardsson 说,他对 AI 辅助药物发现感到兴奋,同时承认开发和监管过程需要时间。
同频道的其他文章
1:20:42EN → 简体中文
1:00:17EN → 简体中文
23:48EN → 简体中文
1:13:26EN → 简体中文
59:41EN → 简体中文
1:19:50EN → 简体中文