开源模型只占企业用量的 5%，GPT 套壳赢了

Redpoint 的播客《Unsupervised Learning》请来了 Latent Space 的联合主持人 Swyx 和 Alessio Fanelli。Latent Space 是一份技术通讯，也是一档播客，2024 年下载量突破了 200 万次。这期节目的形式是联动：Redpoint 的两位合伙人 Jacob Effron 和 Jordan Segall 每周都会向 AI 创始人提出同样的难题，Latent Space 的主持人也是如此。四个已经身处这个市场的人互相采访，聊去年的意外、哪些东西被过度炒作或被低估、哪些应用真正有产品市场契合，以及应用层公司如何建立护城河。

整场节目绕不开的一个数字，来自 Braintrust 创始人 Ankur Goyal。他对 Latent Space 说，企业内部开源模型的使用占比约为 5%，而且还在下降。Swyx 说，企业仍处在用例探索阶段。现在的做法是：先拿看起来最强的模型试一试，看能不能跑出有用的东西，等下一代模型上线，再从头来过。没有人有精力同时维护一套闭源技术栈和一套开源技术栈。

这个 5% 说明的是大型买家实际采用 AI 的方式。LocalLLaMA 那群业余爱好者依然很热闹，Alessio 说，他们也很真诚。整场对话都围绕着这个事实展开：推理模型来得时机很微妙，GPT 套壳在文化上赢得了那场争论，有意思的较量则集中在应用层，也就是模型之上的那一层。

被问到过去一年最大的意外，Alessio 把答案分成了好与坏两个。好的意外是推理模型。Ilya Sutskever 刚在 NeurIPS 上发表演讲，说预训练（pre-training）的路快走到头了，这时 OpenAI 发布了 o1，也就是此前以 Strawberry 为代号开发的那套系统。从外面看，人们的感受是“彻底完了”和“我们又回来了”同时出现。Swyx 觉得时间点巧得可疑：Strawberry 大约已经酝酿了两年，而 Noam Brown 加入 OpenAI 的日期是公开的。预训练“走到头”，推理时计算（inference-time compute）就在一次干净利落的交接中，成为新的规模定律（scaling law）。“如果真有光明会，”他说，“这大概就是他们的计划。”

坏的意外是开源模型。Alessio 说，社区的热情是真实的，但他与企业买家交流时，对方的反应更接近“挺酷的”。大家很爱争论许可证，可这场争论并没有改变 AI 的采用路径。Jacob 的反向意外，是开源在推理上追赶得有多快，他原本担心这种差距会像早期规模化那样不断累积，而它在缩小。Swyx 立刻纠正了措辞：别说“开源追上来了”，要说“DeepSeek 追上来了”。开源阵营并没有统一的整体，只有一些公司选择发布权重，另一些则不发布。DeepSeek 之后，其他大多数开源模型都在从 R1 蒸馏，而蒸馏追上来的门槛，远低于从零训练出有竞争力的模型。仍然值得期待的一张牌是 Llama 4。

他承认 R1 有一个独特的优点：完整的思维链（chain-of-thought）记录。此前的开源模型，基本都是“同一个模型，只是差一点、便宜一点”。R1 是第一个公开推理过程的。不过，就 DeepSeek 整体而言，他仍然认为被过度炒作了。复刻一套已被验证的方法，成本比发明一套要低一个数量级；DeepSeek 把一条已知的路走得非常漂亮，却并没有根本性的新想法。Latent Space 在年终回顾里就讲过 DeepSeek V3 细粒度的混合专家（mixture-of-experts）架构，当时的重点是更便宜的推理。Swyx 承认，他们在大声说出这件事上太被动了。

二级市场的反应更具戏剧性。DeepSeek 发布当天，英伟达在一个交易时段内下跌了约 15%，Swyx 做金融工作时的对冲基金朋友打来电话，问他为什么没提前告诉他们。他的解释是：一旦二级市场的叙事定型，它本身就成了故事，而技术工作通常已经是一两年前的事了。他说，作为行业分析师，他们的职责是把注意力放在真正重要的事情上，但有时候他们会太安静，直到股价已经动了，才有人开口。

Swyx 说，Latent Space 一贯主张的是 AI 工程：人们可以在模型之上做些什么，让模型更有用。这方面能做的事情很多。文化上的一个信号，是一个贬义词被重新接纳了。两年前，“GPT 套壳”还是一句骂人的话。Perplexity 的 Aravind Srinivas 来到他们的节目上，说自己为套壳感到自豪。Swyx 对这一转变的总结是：业界从嘲笑 GPT 套壳，变成了几乎一致地认为套壳才是唯一有意思的东西。在他看来，产品市场契合之前还在谈差异化，是一场很荒唐的讨论。先做出人们想要的东西，护城河以后再操心。

Jacob 更尖锐的问题，是那些本该拥有这一波浪潮、却没能拿到的公司。Bolt 和 Lovable 这类 AI 构建工具，大约三个月内营收就从零做到了约 2000 万美元。那些本来就有渠道、有用户，并且天生带着“非技术人员也能做软件”这一基因的低代码公司，比如 Zapier、Airtable、Retool 和 Notion，基本都错过了。它们有触达能力，也有快速跟进的本事，可不知怎的，几乎什么也没推出来。

Swyx 把错过的原因归结到创始人的思路上。Zapier 决定做 Zapier AI 时，做的是用自然语言创建 Zapier 的动作；Notion 做 Notion AI 时，做的是写文档和填表格。一家已经有基础盘的公司，往往是在原有基础上做改进。而那些创造出新物种的人，没有任何先入之见，问的是：这个模型能让人从零开始构建什么样的软件？时机也有运气成分：这些产品启动时，恰好赶上模型能力出现拐点。他指出，这两家公布的数字都大到离谱，以至于四个人到现在还在谈论它们。

被问到哪些东西被过度炒作，Alessio 立刻回答：智能体框架，不点名。工作负载仍在剧烈变化，可大家都在抢着成为“那个”框架。他肯定 LangChain 的迭代速度，每天都在发布，哪怕最初的抽象并不是最终版本；但他说市场已经变了。现在人们想要的，是能真正在上面构建、并且能用上两年的东西。他打了个比方：现在是智能体的 jQuery 时代，单文件，大量辅助库，而业界需要的是 React，可几乎没人在做。Jacob 的修正意见是，做框架也许还为时过早。Swyx 说，真正的工作在协议上。框架会内嵌协议，协议则可以先行。MCP 是目前的答案，可以类比为 XMLHttpRequest 让 Ajax 成为可能。在 TypeScript 这一侧，Mastra 势头很猛，但他们仍然认为机会很大。

Jordan 点名的被低估的东西，是 Apple 的 Private Cloud Compute（PCC）。Apple Intelligence 他给了负分：英国广播公司（BBC）公开抗议过一条通知，那条通知说一个人开枪自杀了，而他其实没有。但 PCC 试图把设备端的安全架构延伸到云端，他给了正分。Alessio 补充了行业的约束。大企业习惯把一切都放在私有 VPC 里运行，但 GPU 根本不够，没法让每家公司都独享一套单租户实例。未来的方向是多租户架构，同时提供单租户级别的隐私保障，这是一个实打实的难题，不只是一句口号。

Swyx 被低估的押注是记忆，或者说有状态的 AI。为了一场大会的主题演讲，他像研究者那样调查了人们如何定义智能体，并把各个阵营分门别类。之后一周，OpenAI 推出了 Agents SDK，Cloudflare 也推出了类似的版本。它们都没有记忆：对话记忆有，但关于你的事实知识图谱、能超过上下文窗口的那种记忆，没有。MCP 在首批官方服务器里发布了一个记忆服务器，他告诉大家应该从那里开始。Letta（即 MemGPT 团队）在他们的大会上发过言，Zep 和 LangChain 的 LangMem 也在这个圈子里。他的判断是，记忆应该像数据库一样，成为技术栈里再普通不过的一部分。投资逻辑很直接：凡是有状态的东西，对风投都有吸引力，因为它本质上就是数据库，而大家早就知道数据库怎么赚钱。

Jacob 额外补充的被过度炒作的东西，是那些训练基础模型的新公司。他原以为这股浪潮已经退去，它们却又重新冒了出来。机器人、生物学和材料科学仍然让他感兴趣，因为这些领域需要湿实验室，也需要大实验室手里没有的数据。他说，核心的 LLM 智能体赛道竞争非常残酷。BloombergGPT 的后续，从另一面印证了这一点：团队得出结论，闭源的通用模型更好，于是停止了训练。负责那个项目的人坚持认为，这项工作依然有价值。数据管线、微调团队和内部的执行能力都保留了下来；他现在在彭博统领十几个 GenAI 团队。模型死了，模型周围的一切都活了下来。

Alessio 主要通过 Decibel 投种子轮，他说，买那些已经能用的东西很难，因为那通常意味着你来晚了。他更倾向于市场风险低、技术风险大的项目：如果做成了，人们自然会用，问题在于它能不能做成。Swyx 更像是以分析师的身份作答，他说自己必须知道哪些已经有产品市场契合，因为人们总在问他现在什么东西管用。两年前，他写过一篇《Anatomy of Autonomy》，把营收门槛定在 1 亿美元。Copilot、Jasper 这类写作工具（后来已经掉队了），以及 Cursor，都在名单上。能用的产品形态名单越来越长了。

最新的一类是 Deep Research。Grok、Gemini 和 Perplexity 都有自己的版本；Alessio 则在 Brightwave 上押了一个偏金融的方向。Swyx 试着估算 OpenAI 靠这个产品赚了多少钱，最后估计是数十亿美元：从 20 美元档升级到 200 美元档的升级量本身就很大，即便并非每个订阅用户都会留下。之后 OpenAI 又把权限下放到了 20 美元档。他把这看作一条长期策略：顶级档位有的东西，就在低档位放一个缩小版，因为率先推出、成为默认选择的品牌效应最为重要。他提到，谷歌其实先推出了这类产品。他当面对谷歌团队说，OpenAI 把他们“mogged”（碾压）了，对方也表示同意。

谷歌的整体回归是一个反复出现的话题。Swyx 自己用 Gemini 的频率在上升，从总结 YouTube 视频，到原生图像生成，再到 Flash。他每天做一份 AI 新闻摘要，几乎全部由模型生成，还会手动对前沿模型做对比测试，大多数日子里 Flash 都胜出。开发者之间的桥梁仍然缺位。你仍然无法在 Cursor 里使用 Gemini 的思考模型，尽管 Logan Kilpatrick 说他们正在做。一个不好用的模型，跟不存在也差不多。被问到二级市场的多空组合，Jacob 的搭配是做多谷歌、做空苹果，Swyx 也很乐意沿着同一思路再发挥几句。

第二个站得住脚的产品市场契合案例是客户支持。Sierra 的 Brett Taylor 可以向任何人融到任何金额的资金去做任何事，他还是 OpenAI 的董事长；但他依然选择了客户支持。Swyx 的判断是：翻开任何一家大公司的损益表和组织架构图，都能从外到内逐个挑出成本中心，而客户支持规模巨大、粘性强，又很持久。Decagon 也在跑同一条赛道。Jacob 补充了一个叙事上的转变：过去两年的 AI 应用主要是为了降本，接下来的一波则是为了增长。黄仁勋在 GTC 大会上的说法，从“买得越多，省得越多”变成了“买得越多，赚得越多”。第一波应用面对的，是已经交给 BPO 外包商的工作，所以价格竞争会很激烈。能拉动营收的第二波应用，投资回报的故事更清楚，也可能更有护城河。

语音则处在两者之间。Jacob 研究过家庭服务的预约场景：电工大约会错过一半的来电，所以一个只有 75% 时间可靠的智能体，依然能带来可观的营收提升。这类工作不需要 100% 的准确率。Swyx 的泼冷水主要来自运营层面。如果电工的来电翻了一倍，店里有没有能力多接一倍的活？大多数生意没法一夜之间做到两倍或三倍；瓶颈会转移到招聘和培训上，像一场打地鼠。他在纽约的 AI 工程师大会上，遇到过一支自筹资金（bootstrapped）的团队，只为兽医诊所做预约排期，他们通常去的是兽医会议，很少去工程师大会。他们过得不错。他接下来关注的清单包括：能看着你工作并主动提供帮助的屏幕共享、主动外呼销售（outbound sales）、招聘、教育、金融，以及个人 AI，后者更难变现。去年他做过一件副业，推动新加坡的教育体系走向 AI 原生，并公开提出一个目标：让 Python 成为国家的第一语言；教育部门最初的反对意见是老师还没有准备好。像 Speak 这样只选定一件事、把想法的迷宫一路走到底的公司，比应有的数量少得多。

应用层的可防御性，是 Jacob 的合伙人每周一都会问他的问题。Swyx 的一个词回答是：网络效应。创始人们往往痴迷于单人体验，却忽视了多人体验。他举的关键例子是 Chai Research。它与 Character.AI 同期成立，靠 bootstrapped 起步，没有自研模型，运营着一个由社区提交模型的市场。短期看，没有专有模型是个短板。长期看，它处在用户与模型提供方之间的关键节点上，资金在其中流转，因此对任何模型变化都有韧性；结果它比 Character.AI 活得更久，后者的核心团队已经被谷歌收编。Jacob 补充了品牌这一点。在一些品类里，年合同价值（ACV）不降反翻了一倍，因为客户愿意为“这个品类就等于这家公司”支付溢价。速度同样重要：每隔三到六个月出现一个新模型，都是生死攸关的事件，谁先想明白，谁就赢了。他承认，内部听起来跟他们过去谈应用型 SaaS 的方式很像。这里没有什么天才式的故事，只是一千件小事在不断叠加。他说，早期那套“独有数据集加自训练模型”的说法，其实就是一个假动作。

未来六到十二个月最值得看的一场戏，是模型实验室进入产品层，而第一个战场是 Cursor 对阵 Anthropic。Cursor 现在估值约 100 亿美元，这让它很难被收购；Jacob 开玩笑说，他们本该在 50 亿或 60 亿美元时卖给 OpenAI，连同编程数据一起带走。Swyx 把编程分成内循环和外循环：内循环发生在 IDE 里、一次 git 提交之内；外循环发生在提交与提交之间，在云端完成。要成为外循环的编程智能体，就得与客户的代码库集成，还要签署安全相关的文件，这些都是实验室不愿意碰的苦活，而这正是 Cognition 的护城河。Sourcegraph 拥有十年的企业合同，在代码库上也有既有的信任，理应是天然的赢家，即便 Cody 在外循环上还没做出太多成绩。长期看，他们预计两边会趋于融合：你会同时想要 IDE 和云端智能体。

基础设施方面，他们谈到“LLM OS”，这个说法是和 Andrej Karpathy 一起用的。相比裸金属，他们对模型周围的那一层更感兴趣。代码执行（他们投资了 E2B）、记忆、搜索和安全都在其中。安全的逻辑很简单：只要 AI 被用于进攻，就得用于防守，覆盖邮件、身份，以及过去只是打个勾的红队测试。模型现在能推断语义，而不只是语法；二进制检查可以问一段代码整体想做什么，而不只是某条规则有没有触发。Swyx 对 GPU 推理服务没那么看好。它是门真实的生意，但资本密集，是大基金的游戏，而且基础设施的定价会趋于成本加成，应用则可以按效用收费。至于微调公司，他仍然看不出它们能单独成为一个风口，它们会被打包进 Writer 这类企业级产品里。AI SRE（站点可靠性工程）他也持怀疑态度，认为那不过是日志异常检测，一份老工作。Jacob 不同意：技术还没到位，但哪怕把平均恢复时间降低 10%，也是一门大生意，而自主的 SRE 还要再过几年。

整张地图之上还悬着三个问题。第一，Swyx 一直在大力鼓吹强化学习（reinforcement learning）。它在数学、代码这类可验证的领域显然有效。但在合同、营销文案、主动外呼销售这些没有唯一正确答案的领域里是否有效，将决定未来是自主智能体，还是一堆由人来把关品味的副驾驶。Jacob 指出，一个全面自主的程序员世界，却没有自主的销售邮件，是没有人写过的科幻未来。第二，前 OpenAI 高管 Bob McGrew 提出过“九的法则”：可靠性从 90% 到 99%，再到 99.9%，每一次跃升，算力都要增加一个数量级，周期大约是两到三年。硬件供应是个未解之题，英伟达的 CUDA 壁垒会不会被打破，也是未解之题。Swyx 是芯片创业公司 MatX 唯一公开点名的个人天使投资人；他的押注是，Transformer 架构已经足够稳定，可以固化进 ASIC，而在 2019 或 2020 年之前就开始做的公司，仍然太通用，因为那时 Transformer 还没有胜出。第三，是智能体的身份认证。当 Operator 代你访问一个网站时，网站如何确认访问者是你的智能体，还是你本人？他说，大多数“为智能体重建技术栈”的说法都没有必要，但这一项是必需的，它是一种新的 SSO。他补充说，每次 Sam Altman 说对了，都让人有点沮丧：也许你真的得去扫描眼球，而我们其他人又一次落在他后面。

这一小时里的最后一个新点子，是 Swyx 在纽约大会上感受最清楚的那个：智能体身份认证。《The Information》刚刚写道，企业已经开始为此担心。当一个 Operator 式的智能体代你访问网站时，它必须表明，访问者是智能体，不是你本人。他对“智能体体验”的整体看法，是为智能体重建技术栈的每一层，但其中几乎没有多少是必需的。这件事则是必需的。用他的话说，这是给智能体用的新 SSO。加密圈的人对此很兴奋，想要抢下这块地盘，但他不确定他们能不能做成。更让人不安的一面是，Altman 多年来一直在推动生物识别身份，而业界其他人，正在追赶他早已看到的问题。

对于构建者来说，这四个人指向的、最便宜的差异化，其实早已公开摆在那里。MCP 在首批官方服务器里就发布了一个记忆服务器；Swyx 的建议是从那里起步，让智能体的记忆能跨越单次会话保留下来。对于仍在探索阶段的企业买家，这一小时的证据表明，不值得为了等开源权重变得足够便宜而按兵不动。先拿最强的闭源模型，把一个用例跑通；把 R1 的推理记录当作学习蒸馏的素材，不必因此今天就另起一套生产技术栈。

对于正在写计划的人来说，Jacob 所说的每三到六个月一次的模型发布节奏，是生存问题，应当放在路线图的最前面。谁先吸收新模型，谁就能吃下增量。更诚实的问题是，产品是在削减成本中心，还是在创造营收，而后者才是下一波浪潮。对于评估 AI 创业公司的人来说，那个“独有数据集加自训练模型”的故事，正是这一小时里他们花大力气拆解的东西。不妨转而看看网络效应、品类品牌和迭代速度。这些都是老式 SaaS 的答案。聊完一小时的前沿话题，它们依然是答案。