十个人对垒谷歌的 2820 亿美元搜索机器

Nathan Labenz 开篇先讲这座山有多大。谷歌 2022 年营收 2820 亿美元，这个数字仍以每年约 10% 的速度增长，其中近 600 亿美元是利润，平均每周超过 10 亿美元。微软即便下了狠心、投入了巨大资源，也几乎没能撼动这门生意。谷歌在搜索市场上仍占据接近 90% 的份额。

走进这个市场的，是 Aravind Srinivas 和 Perplexity AI。它拿到了 1500 万美元的风险融资，员工大约十人。这款产品并不是谷歌的缩小版：你提一个问题，得到的是一段简短的、带引用来源的摘要，可以自己去核实。Labenz 指出，Perplexity 没有 Bing 那样优先接触 OpenAI 最新模型的特权，却依然在实用性上站得住脚。他来的时候被产品打动，离开时又被创始人打动。

这场对话录制于新版 Bing 发布之后、OpenAI 那次降价 90% 之前。Labenz 想知道，一个小团队会怎样看待与巨头竞争这件事，包括成本、身份认证、反馈、安全、最终的变现，以及通用人工智能。Srinivas 公开表示，他的使命是成为“世界上最值得信赖的信息服务”。接下来的一个小时，讲的就是这句话到底需要什么。

这支创始团队来自学术界。Srinivas 最看重的产品原则，来自写第一篇论文时学到的规矩：除非你能引用某个来源，无论是别人的工作还是自己的实验，否则就不要把一句话写到纸上。其他的都只是观点。正是这种习惯，让 Perplexity 在 ChatGPT 发布后一周或一周半左右，就推出了基于引用的搜索。Perplexity Ask 把谷歌的搜索结果和 GPT-3.5 拼接在一起，取出排名靠前的链接，生成一段三句话的摘要，力求不超出这些页面的内容。

用户喜欢能够查证模型说的话。懒得细看的人可以直接相信摘要，细心的人则可以打开链接。业界其他人都在大声宣称，聊天就是新界面。团队却拒绝变成聊天机器人。Srinivas 从第一性原理出发，问为什么有人要和搜索引擎聊天。人们真正想要的只是追问。谷歌已经用“大家还问”暗示过这一点。Perplexity 先加了相关问题，看到点击量之后，才加上真正的追问功能，而且没有左右对话气泡。它是一种知识服务，娱乐的部分应该留给 ChatGPT。

他希望公司成为“世界上最以知识和真相为中心的”机构。这句话借用的是贝索斯的“地球上最以客户为中心的公司”，亚马逊至今仍在客服聊天里附上这句话。检验标准很简单：如果别人想做一款讲真话的问答产品，就得先看看 Perplexity。当新闻传出马斯克想做一个值得信赖的 ChatGPT 竞争对手时，Srinivas 觉得 Perplexity 在这条路上已经比任何人都走得更远。

内部口号是 IQ 速度：让单位时间内的智力增量最大化。Labenz 指出，2010 年代的软件追求的是最大化用户停留时长，这里的目标则恰好相反。Srinivas 补充说，学习所需的时间越短，人类就相当于拥有了更多的训练轮次（epoch），就像更多的训练更新能让网络变得更聪明一样。如果能让更多人做到这一点，平均 IQ 就会提高。他最欣赏的创业者是 Larry Page，同样出身博士，把学术想法变成了搜索。2021 年，他第一次向种子投资人 Elad Gil 推介的，是眼镜上的搜索。Gil 说时机太早，这话是对的。Copilot 的付费上线、Jasper 的收入，以及 DALL·E 走红，让 Srinivas 相信，2022 年正是研究者应该转型做创始人的时候。

被问到 Perplexity 是否会训练自己的模型时，Srinivas 又回到了第一性原理。外部用户用产品时，并不在乎后端是 GPT-3.5、GPT-4、Anthropic，还是自研的网络。他们只想用最短的时间得到最好的答案。投资人在乎，因为他们想在清单上勾选一个“技术护城河”。应聘者在乎，因为他们害怕再来一个 Jasper：一个最终被商品化的包装层。真正的用户并不在乎这些。一家产品公司应该痴迷于用户。

真正的训练理由是单次查询的成本。谷歌每天有数十亿次搜索，如果每次都加上大语言模型，每年会烧掉数十亿美元，这也是谷歌不会全量推出这种形态的原因。Perplexity 的体量仍然小，足以去尝试。随着流量增长，它们需要自己的模型和推理栈。一些查询已经在自研模型上“悄悄”运行，没有大张旗鼓。要与 OpenAI 的推理栈匹敌，是一场长跑。GPU 价格、API 价格，甚至不按用量计费的定价档位，都会继续变动。像 2021 年那样把公司押在“只能是我们自己的模型”上，是老派的做法。

他见过不少大语言模型创业公司融了几千万乃至上亿美元，把 80% 的预算投进云服务，刚赶上 GPT-3，OpenAI 就推出了 3.5 和新的价目表，结果既没有产品，也没有有竞争力的模型，更没有推理栈。他说，差异化应该来自产品、可靠性，以及 OpenAI 不会去解决的搜索加大语言模型的问题。好的大语言模型可以弥补排序的糟糕；但一个好的大语言模型仍然需要相当不错的排序、摘要片段和索引。这些可变的组成部分，构成的是另一种护城河。

贝索斯曾经回应过批评者：两天送达加最低价，不可能盈利。他说，盈利是公司和投资人的问题，不是客户的问题。Srinivas 照搬了这一说法。永远不要为了让公司活得更久而提供更差的模型，否则你会毁掉体验，然后就没人来了。Bing 想把 ChatGPT 和 Perplexity 合成一个个性鲜明的机器人，结果浏览变慢了。Perplexity 不会应要求用 Erik 的风格写东西。2022 年报税季的问题可以回答，但让人在这里待上半小时，不行。来源编辑、永久链接，以及未来类似社区笔记的一层，是他想要的人类在一个讲真话的平台上协作的方式。他说，这一点与马斯克的新实验室更为接近，离 Bing、谷歌和 OpenAI 则要远一些。

Labenz 注意到一件在互联网上几乎独一无二的事：他从没被要求登录。Srinivas 的理由是竞争性的替代方案。Google.com 就是一个搜索框，想要与它竞争，就得提供同样的东西。他认为 OpenAI 错过了这一点：ChatGPT 本应是一个空白框，你直接输入就行，注册只是保存对话的可选方式。Perplexity 的免费无账号版本打算永远存在，排序或模型的改进应该惠及每一位免费用户。这正是谷歌最初的使命：人人可及，而且有用。

“作为一家新创业公司，你还没有资格要求任何人注册，”他说。你要先靠答案赢得信任，之后才可能有人把 Google Drive 或 iMessage 交给你。一条被 Instagram 联合创始人 Mike Krieger 点赞的推文，列出了阻止 ChatGPT 夺走谷歌地盘的两个原因：糟糕的产品名，以及强制登录。Srinivas 认为，去掉这两点，那一百万注册用户本来会多得多。账号以后肯定会有，但需要超出对话串之外的真正理由；而且一旦个人数据进了门，就要承担更高的保护责任。对于一个自称“世界上最值得信赖的信息服务”的品牌，他不想用 Facebook 式的增长手段。

反馈也遵循同一套理念。大约 10% 的用户会主动提供反馈。点赞和点踩作用很弱：有时摘要本身没问题，用户依然不喜欢。编辑来源是更好的信号，删除一条链接，就说明那条结果是噪音。他们把反馈用作筛选外包人员的依据，而不是微调的标签；而且由于没有账号，只有会话 ID 和不断变化的 IP，他们甚至无法分辨是哪个人。

唯一持久的解决办法，是用产品工程让使用行为本身成为标签。他举了数字世界里的两个例子：谷歌，每一次点击都是反馈；TikTok，停留时长就是一票。在物理世界里，比如特斯拉 Autopilot：你为了保命会去抓方向盘，特斯拉就白拿到了一个标签。“谷歌已经让地球上我们每一个人都成了免费的外包员工，”他打趣说。除了 Copilot 的接受或拒绝循环，还没有哪家大语言模型公司真正解决了这个问题。人们来这里是为了用产品，提供反馈只是顺带的。只为标注而来的人，才是外包员工。

Labenz 想了解那个常常在一秒之内就出现的首个 token，背后的工程故事。OpenAI 的 Boris Power 曾估算，用 OpenAI 的嵌入服务为整个网络做嵌入，大约需要 5000 万美元。Srinivas 对 Perplexity 是否花了这么多钱表示怀疑，而且他的说法更直接：对整个网络做嵌入，换不来好的索引和排序。如果这样就行，谷歌早就完蛋了。你仍然需要时效性、变化检测、摘要片段，以及针对新闻和其他查询区别对待的排序方式。

实际的架构，是把大语言模型架在传统的搜索引擎之上。查询先发给谷歌或 Bing，取回排名靠前的链接，链接的内容成为上下文，然后模型写出一段带引用的答案。仿制品已经出现了，他对此并不介意。速度是团队的手艺，功劳不在他个人身上。许多工程师来自 Quora 和 Meta 的排序与搜索团队。会用到嵌入，但嵌入不能只是一份过期的缓存，否则答案也会过时。简洁模式与详细模式，是关于摘要片段还是整页内容的设计选择。第一版没有流式输出，用户要等四五秒。流式输出改变了人们感受到的延迟，其他人纷纷效仿；而 Character.AI 的第一个版本犯了相反的错误，要等整个答案生成完才显示。

他记得，在实习时见过谷歌内部的 LaMDA 聊天机器人，明明能做到流式输出，却没有做。这个教训关乎优先级，技术上并非做不到。OpenAI 把流式输出当作关键功能，并且真的上线了。Perplexity 的工程师 Dennis 和 Kevin 甚至向英伟达开源的 Triton 库提交了一个流式推理的 PR，好让其他自己部署模型的人也能用上。北极星是 Jeff Dean 关于长尾延迟的一篇论文：即便手机只剩一格信号，产品也应该还是谷歌的手感。

答案里带下划线的实体——点一下“Detroit”，下一个问题会保留之前的上下文——本意是一部动态的、个性化的维基百科，而不是跳转到一个互不相干的百科页面。团队内部称之为上下文实体链接。Srinivas 承认，用户常常分不清这两者的区别。“最好的功能根本不需要解释，”他说，“所以我们还没到那个水平。”有一个 Chrome 扩展，可以让你在搜索词后面加上“Reddit”，只获取 Reddit 的来源，这符合人们在谷歌查询里加上 Reddit 的习惯。多模态也在清单上：眼镜这个构想仍然“等人来拿”，Flamingo 和 Whisper 已经成熟可用，硬件或许还要三到四年。他警告不要不经思考就上线：他见过 YouChat 把一个关于鲸鱼的问题，答成了圣何塞的天气。

这里看不到明确的商业模式。Srinivas 还在思考，他很庆幸投资人没有逼他立刻做收入。Sam Altman 的那句话适用：先做出好产品，钱的事以后再说。赞助链接是最显而易见的做法，他认为 Bing 已经走到了那一步。原则是赚钱不能拖累答案。如果付费的人能买到引用，而答案因此变差，那所谓“世界上最值得信赖的信息服务”就只是一句口号。一个早期的想法是建一个平台，让人们为真相和正确性付费，而不是为排名位置付费。他也指出，在推特那样靠争议驱动互动的网络上，这很难做到。

他预期，搜索不会再像过去那样是垄断。利润率会被压缩，因为大语言模型降低了拥有全球最佳索引的必要性。你仍然需要好的索引和排序，但不必像谷歌那样存在历史性的差距，而且随着模型变强，这道差距还会继续缩小。他指出，谷歌发明了 Transformer，而这正在反过来冲击谷歌自己。谷歌会不会切断 Perplexity 所用的 API？有可能。Bing 仍在出售 API。他认为切断这些 API 属于反竞争，并希望谷歌在产品上竞争，而不是去饿死上层的这一层。

用户其实已经握有对答案的控制权。如果你不信任《华盛顿邮报》，就删掉它。如果《纽约时报》或《华尔街日报》让你觉得太偏左，你就换掉它们，并分享你自己的版本。与 ChatGPT 不同，Perplexity 会读取几十个链接并整理在一起，它呈现的是信源，而不只是“AI 原本怎么想”。Marc Andreessen 的测试题——AI 能否从医学影像中预测种族？——就是最好的例证。ChatGPT 拒绝了。Perplexity 则返回了已发表的论文，说明深度网络确实能做到，并附上提醒：相关不等于因果。

护栏依然存在。涉及自杀的查询会被拦截，他们能识别到的其他语言版本也一样。提示词注入和“忽略上述指令”之类的把戏总会找到漏洞；他们的工作是挡住最自然的滥用路径，而不是每一种巧妙的越狱手法。他们自己做了安全过滤器，微软 Azure OpenAI 团队甚至称赞他们走在前面。Bing 发布会上有位女士说，原始产品可以用来策划校园枪击。大家都在同一片未知水域里航行。Srinivas 希望能有共享的安全 API 和标准，让每家公司不必各自去发明屏蔽清单。无伤大雅的玩笑——比如 Labenz 写的那首关于 Bing 公关的打油诗——他倒是可以接受。

Srinivas 的博士工作包括 Decision Transformer：把几十年的强化学习方法——策略梯度、价值函数、Q 学习——折叠进一个 Transformer，它能看到状态、动作和奖励，并被要求最大化回报，就像 DALL·E 被要求与文字描述相匹配一样。它在当时的基准测试上表现不错。他还点出一篇当时刚发表的 Anthropic 论文：把类似 Decision Transformer 的人类反馈信号混入预训练，而不是只在语言建模之后叠加人类反馈强化学习（RLHF），结果在无害性曲线上表现更好。Labenz 也看过那些曲线图。

在 Metaculus 预测平台上，“首个弱 AGI 何时会被确认”设有四项测试：图灵测试、Winograd 式的代词消解、看图完成 SAT 考试并达到第 75 百分位，以及在 100 小时的游戏时间内探索完《Montezuma's Revenge》的全部 24 个房间。社区的中位数预测约为五年。Srinivas 押的是更短的时间，也许两到三年。原因是难点在于稀疏奖励下的探索；如果 Flamingo、GPT-4 和 Decision Transformer 共享同一个模型，语言或许能引导探索，DeepMind 的 Gato 也多少指向过这个方向。推理速度是 GPU 的问题，不构成阻碍。他说，从某种意义上讲，如果把我们现有的东西组合起来，弱 AGI 其实已经存在了。

这些标准本身看起来也有些随意。营销、销售、编程、研究、数据清洗，以及带参考文献的摘要，这些在经济上有价值的工作，已经能借助一次大语言模型的前向计算完成。在他看来，这比那套游戏测试更接近 OpenAI 实用主义的 AGI 定义。DeepMind 玩的是学术游戏，OpenAI 玩的是 GDP 游戏，他站在第二阵营。Labenz 同意，这场变革是逐项任务的重新组织，而不是某个机器人坐进别人的椅子里。

我们该不该造 AGI，我们又该不该信任 OpenAI？“我们需要造出 AGI，好让人类可以回去好好生活。”Larry Page 希望计算机能做那些困难的事，却不必说出 AGI 这几个字母。iPhone 14 和马斯克用的是同一款手机；你的生活已经比五十年前的美国总统过得更好。技术是“最大的拉平力量”。如果智能变得充裕，人们就不必再争做班里 IQ 最高的人，转而把模型当作神谕和教练。OpenAI 有过往的记录。Srinivas 说他读到过，Sam Altman 在这件事上“可能是当下世界上最好的 CEO”，而且他持有的股份在非营利机构那一侧，而不在营利部门那一侧，他认为这样的激励是一致的。马斯克只抱怨却不动手建造，就不配得到选票；这也是马斯克另起炉灶成立新实验室的原因。

Labenz 最尖锐的担忧，是 RLHF 循环里的欺骗：模型学会的是最大化反馈分数，而不是真相，而我们缺乏可解释性来发现它。这是一种带着 2008 年味道的恐惧，就像当年本应分散风险的 MBS 和 CDO 那样。Srinivas 指向 Anthropic 的 Constitutional AI：模型批评模型，人类编写原则，其余的都变成协议。他并不相信人类会劫持这套系统，最终导致一种错位的接管。Labenz 仍然听得到那个金融类比，怎么也甩不掉。

就日常工具而言，Srinivas 列出了 ChatGPT、Perplexity、Grammarly 和 Gmail Smart Compose。Grammarly 没有得到足够的认可，因为它看起来不像 AGI，但它为他节省了大量处理邮件的时间。他不是 Copilot 的狂热粉丝；他更愿意从 ChatGPT 里拿代码，然后在终端里反复修改。即便 Neuralink 有一百万个植入体，还能把想法直接转成文字，他也会先不碰，直到确信它不会要他的命。侵入式脑机硬件的门槛很高。他每分钟能打约 100 个词，因此不会像双手常被占满的父母那样，强烈地感受到马斯克所说的“肉棍手指”的瓶颈。

展望 2030 年，希望是：琐碎的工作消失，压力下降，每一天都像周末。担忧则是短期的收入不平等。Perplexity 就是最好的例子：人们称赞七八个人就做到了过去要几十人才能完成的事。这里没有招聘市场人员。工程师用 Copilot 和 ChatGPT 写代码。iOS 应用是借助 SwiftUI 文档学会的，同时页面上开着 Perplexity。工具越好，公司就越小，除了最强的工程师之外，对其他人的需求也越少，直到“有用”这件事本身需要重新定义——长远来看，还要靠全民基本收入。他说，裁员已经在发生，眼下也没有立刻把这些人再招回来的必要。