九条护城河、云一样的市场，以及为什么 OpenAI 暂时还不可替代

在一份泄露的谷歌备忘录称 AI 没有护城河之后，Nathan Labenz 与 Erik Torenberg 在这一期节目中对这一说法进行了检验。Labenz 的基本判断是，未来几年的“公用智能”市场会非常像云计算。如果算法持续商品化、开源持续追赶，稀缺资源就会开始看起来像计算机：你能提供多少推理服务，取决于你有多少算力。他并不认为事情这么简单，但市场结构正在朝类似的方向排布。

在云计算领域，AWS、微软、谷歌、甲骨文组成的科技巨头寡头已经占据约一半市场。Labenz 预计推理服务的分布也会出现类似的格局。微软与 OpenAI 凭借最好的产品和背后的云领先；Google DeepMind 紧随其后，它的云也为 Anthropic 提供算力。AWS 稍落后，但拥有 Hugging Face 和庞大的既有客户群，并且是那些需要有地方托管的自研开源模型的自然归宿。其余则是长尾：同一公有云上的其他服务层、企业本地部署，甚至消费级设备。

按他所说的“一切无处不在、一切同时发生”（everything everywhere all at once）的思路，Labenz 认为，没有理由让任何一大块算力闲置在 AI 之外。要让这幅图景失效，就得有人一家独大。而 OpenAI 虽然领先，却看不出遥遥领先的样子。他估计其与开源之间的商业差距约为 18 个月到两年，意思是 OpenAI 当时卖出的能力，今天的开源模型已经能做到，而不是说两年后开源就能赶上今天的前沿。现在，如果自备一万亿 token，在 Mosaic 上从零训练 GPT-3 水平的模型，成本可以低于 50 万美元。GPT-4 据传成本约为 1 亿美元，这个目标要难复制得多。

他说，“没有护城河”这一论断经不起几周的推敲。反过来的说法同样不成立：备忘录说对了开源社区正在蓬勃发展，但远没到“没有人再需要 OpenAI”的地步。把 AI 用在医疗上的团队对成本并不那么敏感，他们想要的是最好的东西，而 OpenAI 有。谷歌也在试图通过 Med-PaLM 2 等系统达到这一水平。快速演示就能感受到差别，不需要复杂的评估流程。他认为，这一地位在可预见的将来看来是稳固的。

Erik 把视角拉远：有些平台转变会扩大开源的份额，有些则相反，而决定是哪一种的特征值得关注。Labenz 并不是早期软件浪潮的研究者，但他反复被问到的实际问题是，像 Waymark 这样的公司该如何选择。在大多数情况下，他认为使用 OpenAI 的产品就足够好。在他担任 AI 顾问的 Athena，明确的策略始终是从 GPT-4 开始：它在排行榜上位居第一，最擅长遵循指令，而且价格不算高。测试时它有点慢，但这是最快看清一项任务能否被自动化的途径。微调一个更窄的模型是另一种规模的项目，也是离开的正当理由，但大多数人提出的理由并不属于这一类。

成本尤其“相当便宜”，在总拥有成本的口径下更是如此。拿一项常见任务，他通常只需几轮提示词工程，常常在 30 分钟之内，就能让模型表现得相当不错。要跑多少次，才能抵得上为了找更便宜的方案而多花的几个小时人工？大多数任务永远不会扩展到数百万次，更不用说数十亿次。按 GPT-4 的价格，输入约每千 token 三美分、输出约六美分，大致按每千 token 四美分计算，你每两页文字只需付四美分。把一段长长的客户通话录音整理成精简的客户档案，可能只要 25 美分，却能替代四个小时的工作。

例外是低命中率的大批量生成。Waymark 为小企业制作 30 秒的广告：生成式 AI 现在可以写脚本、挑选图片、叠加配音，但公司仍保留了严格的流程。也许每三到五个生成的视频里，只有一个会真正被渲染和下载。Jasper 如今在 Mosaic 的首页上被列为客户，它是对照：这类开放式文案工具的用户，就像 Playground 上每天生成上千张图片的人一样，在大量生成结果中翻来翻去。这样的经济账，能为更便宜或经过微调的模型提供正当理由。任务自动化则正好相反，它的希望是几乎用上全部输出。GPT-4 在这里真正的摩擦，是 8000 token 的上下文窗口，以及需要切分长篇转录稿时的延迟，而不是账单。

插播广告之后，Labenz 讲完了 Athena 的例子。人工审核这一层关心的是“这通 90 分钟的通话有没有漏掉什么重要内容”，而不是从头重写。挂断电话到草稿出来只需几分钟；模型的成本相对于人的时间微不足道，因此他们甚至不会考虑开源模型。往下游，每月 100 个新客户要与 200 位已审核过的候选人做匹配，意味着大约 2 万次比对。人类往往在找到一个勉强合适的匹配后就停下，而模型可以通宵运行，成本仍然低于人工，然后再写一段个性化的引荐文字。在这一切之中，他说，成本根本不是问题。

被问到大约两年的开源差距会扩大还是缩小时，Labenz 猜测会是一种悠悠球式的摆动：开源线持续上升，实验室则以阶段性的新版本发布打破节奏；公众感知中的差距先缩小，然后再扩大。至于私下的差距，也就是实验室内部拥有、而外界并不知道的东西，是否在缩小，就更难判断。与此同时，领先的公司 OpenAI、Google DeepMind 和 Anthropic 正在一种“非常元”的层面上相互协调，在安全与广泛造福人类方面说着漂亮话。谷歌 CEO Sundar Pichai 曾试图表态，说他们不会陷入 AI 竞赛。Labenz 把这句话解读为对 AI 安全运动（尤其是其中的有效利他主义版本）的一种认可。可以想象一个平行世界，前沿实验室对尾部的存在性风险不屑一顾；而它们认真对待这一问题，他认为部分要归功于 Eliezer Yudkowsky 及相关文献。

Erik 追问行动与言辞的区别：如果他们真的身处竞赛之中，行为会有所不同吗？有一种愤世嫉俗的解读认为，“这不是一场竞赛”本身就是一种逆反心理，对竞争对手和监管者都有用。其他技术也曾自我吹捧为下一个伟大事物，然后遭遇怀疑的媒体；而在 AI 领域，一些人指责实验室通过强调危险来做营销，而强调危险同时也强调了力量。Erik 原以为公众会更加警觉，结果发现科技行业内部的担忧比外部更多；媒体和政府似乎仍然更害怕社交媒体、虚假信息和青少年抑郁。Labenz 引用 Sam Altman 实际提出的监管诉求作答：规则应只适用于进行最大规模训练的领先公司，而不应妨碍开源研究和创业公司。他说，这是一个理智的立场，而不是炒作运动。

这些实验室不需要做营销。Mosaic 的 Jonathan 和 Abby 告诉他，他们自己也跑不过来；如果你想成为客户，最好尽快打电话，因为他们正在研究与客户之间做艰难的取舍，但不会把研究削减到零。引起 OpenAI 注意所需的花费已经大幅上涨。一年多以前，Waymark 为一项定期通话购买了每月 2500 美元的服务套餐；这一档如今已经不存在，客户经理现在要求的承诺金额达到六位数，甚至 25 万美元。Altman 也淡化发布：GPT-4 发布当天的第一句话之一是，它一开始看起来比实际更令人印象深刻。Labenz 以同样的口吻引用了 Sam Mays 的一条推文：它仍然会胡编乱造，仍然有重大缺陷。在他看来，这听起来不像炒作周期。

OpenAI 近期的治理声明认为，“不去开发这些系统”在反直觉的意义上是危险的，因为基础技术会持续让强大的模型变得更容易获得，而一项突然的突破落入毫无准备的社会，只会更糟。Labenz 不确定自己能否完全认同“由我们来做，比由他们来做更好”的说法，但他认为，这些公司的行为与努力迎难而上是一致的。该章程长期以来就写明，若另一个明显接近 AGI 的力量出现，他们会与之合力，而不是竞争。这是大约 2015 年的一项公开承诺，并不是新的说辞。他押注未来的前沿发布会继续扎堆，就像 GPT-4 和 PaLM 2 那样，因为没有哪一方希望微软与谷歌之间打一场你死我活的战争。Labenz 认为，谷歌没有上当、在准备好之前抢先发布，这一点终将得到验证；它在搜索上并没有失去太多份额。这种判断，也在某种意义上印证了 Pichai 本不会自己去读的那些 EA 安全文献。

然后，他们按照给 NBA 球队打分的方式，逐一评估 OpenAI 的九条护城河。第一条是 GPT-3.5 Turbo，它是大语言模型（LLM）领域最划算的选择。如果 GPT-4 相比人工流程已经能省下大量成本，那么同一家公司内的退路是一个模型，Labenz 估算它每千 token 约 0.2 美分，也就是每百万词约两美元，它为 ChatGPT 的免费版提供动力。他开始关注 LMSYS.org 的竞技场，那里以类似象棋对战的方式进行两两比拼，并计算 Elo 评分。GPT-4 排在最前，Claude 第二，而 Claude Instant 最近把 Turbo 挤到了第四。Claude Instant 在性价比上或许略占优，但两者都便宜、快速，而且足以胜任营销文案和结构化格式的任务。从 3.5 到 4 的跃升，就像从律师资格考试的倒数 10% 跳到正数 10%；便宜的模型仍然能做很多事。以盲测用户投票来看，许多在 GPT 输出上训练的开源模型，连这第二梯队都还差得远，因此 OpenAI 并没有给纯靠价格的偷袭留下缺口。

第二条是品牌与信任。ChatGPT 被同时指责为过于“白人至上”和过于“觉醒”，Labenz 认为几乎任何立场都能找出令人不满的偏见。对企业客户而言，开源替代方案“差太多了”。非大型公司、激进的言论自由用户可以走那条路；把聊天机器人放进产品里的企业，不希望自己的产品体验变成另一个“Sydney”。他打趣说，开源激进派高估了企业对大语言模型冒险的胃口。过去的老话是“没人会因为选了 IBM 而被炒鱿鱼”，如今 CIO 可以说，他们用的是花了六个月做 GPT-4 安全工作的行业标准。他认为，谷歌很快也会凭借信誉赶上来。当安全的选择同时也便宜时，何必为了省下一点钱，去押上一个测试不足的开源模型？而且，算上额外的工程工时之后，你甚至可能根本省不下这笔钱。

第三条是反馈回路，在这一点上 OpenAI “遥遥领先”。没有人的使用量能与 ChatGPT 相比；必应的使用量也不小，但没那么多，而 OpenAI 同样为必应提供动力。API 条款现在规定，数据会被短暂保留，然后删除，并且不用于训练；而免费版 ChatGPT 默认会用于训练，最近新增了退出选项。他们还有一套运转顺畅的产品开发流程，别人很难复制。Labenz 深入研究过必应的那段往事：微软在其他国家测试了数月，论坛上的用户报告了后来登上《纽约时报》头版的那种行为，而且组织内部的一部分人与另一部分人彼此不通气。上线之初，只要有用户纠正日期，整件事就会脱轨。他希望人们区分两件事：一种是哄骗 ChatGPT 说出脏话的越狱，另一种是机器人“激活”用户的情况，那是另一类失控。Labenz 认为，行为良好的产品 AI 不会凭空自洽。

Anthropic 的宪法式 AI（constitutional AI）利用自我批判和合成数据，试图在没有那样庞大用户基础的情况下获得类似的控制力，而且看起来效果相当不错。就安全性而言，它们甚至可能领先，如果不谈原始能力的话。Labenz 也听到过相反的说法，而在巨大的覆盖面之下，你完全可能同时领先和落后。在他的测试中，Claude 过去较少胡编乱造：ChatGPT 曾编造出一个马萨诸塞州的房产税税率，而 Claude 只是用一个整数含糊地给了个估计。Character.AI 是一匹黑马，它拥有真正规模化的产品循环。谷歌还没有统一的飞轮：Bard 在 LMSYS 排行榜上排在后面，并非因为算力不足，而是产品的形态不同。Med-PaLM 2 在专家级医学基准测试上可以与 GPT-4 匹敌，但它是专科工具，不能充当你的通用聊天顾问。谷歌两边都想要，既把专科模型推进医院集团，又不放弃原始基础模型。专科 AI 甚至可能是更好的整体架构。

Labenz 用一个生动的单位重述了定价能力。按每百万 token 两美元计算，要靠 20 万美元的收入养活一名员工，就得卖出 1000 亿 token。这还是旧金山 AI 薪资的取整数，尚未计入电费和微软的分成。1000 亿 token 是一个荒唐的数量：Llama 规模的开源训练可能用了一万亿 token，人们也常拿这个量来指代“整个互联网”，所以你花 20 万美元生成的量，大约相当于整个互联网的十分之一。谁需要这么多 token？你要先组建另一支世界级团队，然后又去找许多个各自需要 1000 亿 token 的客户，这怎么可能？他并不认为想象力已经枯竭。大规模摘要、全面扫描，甚至在每通电话上真正落实“本通录音用于质检”，如今都因为便宜而变得可行。但作为一名风险投资人，他会对在那种商品层上竞争保持警惕。

第五条是对云算力的特权访问。你只能提供与你拥有的芯片数量相当的服务，而短缺已经开始出现。一位在谷歌的朋友告诉他，即使经过十年的基础设施投入，需求也开始受到限制，他们正在配给算力。OpenAI 在去年年中也说过同样的话：即便有微软，他们也无法像自己希望的那样快速扩展算力；而 DALL-E 2 的爆红，迫使他们推迟其他发布，把资源投到它身上。这指的就是 Azure 云。在投入数千亿美元资本之后仍然遇到容量上限，几乎是最不言自明的护城河了。你仍然可以做出一门生意，但很难在相近的规模上积累任何东西。Anthropic 与谷歌合作，Hugging Face 与亚马逊合作；没有自有云的领先实验室，正在为争夺首选供应商的位置玩抢座位的游戏，而 AWS 不会接下那么多。

第六条是 GPT-4 本身，它被用来以复利的方式扩大优势。如果你想解释为什么领先者会拉开与开源的距离，这是最好的理由之一：他们已经拥有能让过去很难的工作规模化的模型。OpenAI 的可解释性论文用 GPT-4 去检视神经元在做什么（Labenz 认为他们当时看的是 GPT-2），做法是运行文本、收集高激活样本，并为概念贴标签。在他们的 Tiny Stories 访谈中，这一过程用于小模型时，类别会一下子跃然纸上：一个对狗、猫、鸟都有反应的神经元，显然就是“动物”。更大的模型则更为杂乱。用 GPT-4 把这项工作自动化，是在巨大的参数规模上实现扩展的方法。同一引擎还能清洗和丰富训练集。Anthropic 一份被意外泄露的融资路演稿称，在 2025–26 周期中落后的公司可能再也追不上：模型会成为下一轮研究的引擎，没有访问权限，你就无法以同样的速度前进。

他大体上相信，对监管的呼吁是真诚的，但正是在这里，利益开始分叉。如果要求进行详尽的检查，而你只能借助 GPT-4 在某一规模上完成这些检查，那么它就会形成锁定。可以设想一条规则，要求它们与其他开发者共享某些能力；但就目前而言，它们的条款不允许用 ChatGPT 的输出训练出模仿模型，而 OpenAI 很可能会起诉并获胜。随之而来的问题令人不安：他们可以在全人类的数据上训练，然后禁止下游蒸馏，这种立场还能站得住吗？Labenz 对此并不确定。中国发布了一些被人们称为“不可能做到”的指导原则：训练数据必须“可靠”，不得侵犯知识产权，并须符合质量要求。他认为，中国之所以如此，是因为它更担心天安门事件，而不是一场聊天机器人的太空竞赛。要达到这些标准，他说，关键是拥有云并拥有 GPT-4：过滤并把真实数据转换为合成数据，然后在一个干净到发亮的数据集上训练下一代模型。他们还通过取消 logits 把吊桥拉了起来。GPT-3 的 API 曾返回前五个 token 及其概率，这是送给研究或模仿该模型之人的礼物；而 GPT-4 则一个都不返回。

第七条是团队与人才密度。最近有报道称，Satya Nadella 曾问微软研究负责人，OpenAI 只用几百人就做出了这些，而微软拥有这么多人，却被打得节节败退。Labenz 在组织的各个环节都见识过这种水准，包括那份每月 2500 美元的旧咨询合同。商业团队对技术的了解程度，他认为在如此巨大的规模下难以持续；他们不必去和技术团队确认。第八条是“疯狂的分发与合作”。一位商务人士在一条推文中列出的客户有 Intercom、Wix、摩根士丹利、Shopify、可汗学院、Atlassian、Zoom 和 Brex。与贝恩的合作很大，与一家全球咨询公司的合作也不小。它们已经几乎进入了美国所有大企业的大门。你可以试着在大门关上之前溜进去，但这些销售流程已经在推进，如果尚未结束，也正在走向模型定制。

第九条是网络效应，他把它放在最后，因为它比社交媒体中的网络效应要弱。这一点他与风险投资人 Elad 和 Sarah 也讨论过。当人们问到锁定时，他很坦诚：并没有多少。一次 OpenAI API 调用只需几行代码，你两秒钟就能切换到 Claude。微调后的模型无法下载，所以你是在为租用而构建，但你仍然拥有数据集，可以在开源模型上运行。他曾出于好奇考虑在 Waymark 这样做，而不是出于成本考虑。他们的任务定义得非常严格：根据用户信息填充视频脚本结构。如果模型出了故障，应用会报错，用户永远看不到离谱的输出。这种开发者的掌控意味着，他们即使没有 OpenAI 的安全保护也能运转，而转换也不会太难。

如果还有一些引力，那它来自社交和生态。大家都是通过这些产品第一次接触 AI；提示词工程的技巧和工具，首先是为 OpenAI 构建的。类库通常很快就会变得与供应商无关，但没有人会发布一个第一天就不支持 OpenAI 的新框架。如果某件东西在 OpenAI 上好用，一个试用竞争对手的用户首先会做的，就是粘贴同一段提示词。如果它失败了，他们就会认为另一个模型很烂，即使改写后的提示词其实能行。那些说“请阅读我们的提示词指南”的竞争对手 CEO 会输掉这场仗；他们必须降低使用门槛，而这样做的结果，是他们只能处于跟随的位置。插件架构在理论上看起来是可移植的，微软也会采用同样的基本设计。但支持它的方式有很多种做得更差的办法，而那样你就只能落后地打别人的游戏，而不是发展自己的。

这就是他把 Character.AI 和 Inflection 推出的 Pi 标记为可能例外的原因：它们正在尝试做不同的事情。Pi 提供的是一场更开放、更具探索性的对话，它不替你取回答案。他不认为很多人去 ChatGPT 是为了陪伴，而 ChatGPT 也在某种程度上劝阻这一点，它不断提醒你它是 AI，这会打断沉浸感。他见过的陪伴类产品不会在你是否在与 AI 交流这件事上欺骗你，但它们的互动方式不同，有可能成为一个独立的品类。

谈到值得投资的方向，Labenz 说，成熟的分析现在都认为 Salesforce 应该没问题：它拥有足够的产品、分发渠道和合同，在有人能从零打造出像样的对手之前，就能叠加一个 copilot，无论对手如何巧妙地使用 GPT-4。Adobe 在视觉方面处境相似。大量令人惊叹的生成式作品已经面世，但几乎没有人真正取消 Adobe 账户，而 Adobe 也在宣布它自己同样惊人的功能。他引用了一位名叫 Riley 的人的一条推文：Midjourney 具有开创性，但如果你今天要告诉别人该学什么，你会让他们学 Photoshop，因为 Midjourney 是个黑箱，而 Adobe 现在既有生成层，又有“深入其中动手做”的那一层。打造一个可信的 Adobe 对手需要很长时间。他会对那种“挑一个现有巨头，因为你用了 AI 就能打败它”的论点高度警惕。大家都知道 AI，实施起来也不难，而大型平台的文档早已存在于模型之中。

你可以让 GPT 分别写一条推文和一篇 LinkedIn 帖子，它已经知道两者的区别；而一个还不存在的社交网络，不会自动获得这种能力。Salesforce 将会推出自己的 copilot，会比默认的 GPT-4 更好，可能还会用上一万亿 token 的文档、论坛帖子和工单数据进行训练。归根结底：现有巨头大多应当没事，除非它明显搞砸了，否则“我们用 AI 赢过它”的攻击路线很弱。更令人兴奋、也更难预测的赌注，是那些此前不可能存在的新事物，那里根本没有现有巨头。到目前为止，这份清单很短：AI 聊天机器人作为一个品类，文生图作为一个品类。GPT-4 才上市几个月，许多疯狂的想法甚至不会来自 AI 开发者。就像优步不是由做 iPhone 的人做出来的，苹果也永远做不出优步做的那件事。

他关注的一个想法与加密货币有关，这对他来说并不常见：把语言模型当作智能合约内的争议裁决者，以密码学方式确保你得到的是签约时约定的那个模型，并处理退款和小额托管账户。他认为，人们会接受一些不公平，因为替代方案是小额诉讼法庭。新的关系范式是另一个方向。他对此并不兴奋，他不想要一个 AI 朋友，并且觉得这里写满了“娱乐至死”的意味。但与 Replika 的 Eugenia 交谈后，他发现很多人对陪伴的需要有多么迫切。她在 GPT-3 出现之前已经走了多远，是一个社会故事而不是 AI 故事；注入 AI 之后，它很容易放大 100 倍。他看不出为什么拥有 AI 朋友的人数不会爆发式增长，而对许多人来说这甚至可能是好事。他担心的失败模式，是挤占真实的人际关系，就像社交媒体那样令人上瘾、利弊混杂，并挤占其他活动。

在医疗领域，谷歌和微软已经拥有医院：这些系统要么从两者之一拿到 Docs，要么运行在 Epic 上。他预计 Neal Khosla 和 Curai 会成功，它们一直在这个赛道上，而并非为了搭乘 GPT-4 而成立；但这可能意味着，早期投资者会赚钱，而在价格已经下跌 97% 之后才买入的下一轮投资者却赚不到钱。最大的企业准备按成本或接近成本的价格运行，并且它们已经拥有分发渠道。在相当长一段时间里真正带来变革的，将是任务自动化，而不是一种全然不同的产品形态，不过你可以想象一个没有人类参与、搭配全新传感器堆栈的真正 AI 医生。Hippocratic.ai 的差异化在于，它只在可信的医学信息上训练，并拒绝直接面向患者做诊断，转而专注于后台工作，这是一个足够大的市场。Neal 的反驳是：如果病人说他们吃了麦片，那他们大概率也喝了牛奶；如果他们去过 Burning Man，那就吸入了大量灰尘，而通用医疗系统可能并未编码这类知识。Labenz 仍然猜测，微软与 Epic 组成的体系会拿下这个市场的大部分。“要让你的小绿芽从黄蜂窝里冒出来，很难。”