精选摘要覆盖率卡在 7%，一位 谷歌 老兵用语言模型把它提到 70%

Sridhar Ramaswamy 在 谷歌 工作 16 年后，于 2019 年共同创办了 Neeva。此前他负责广告、商业和隐私业务，那是互联网上最赚钱的业务。他在接受《No Priors》主持人 Sarah Guo 和 Elad Gil 采访时说，这是一次回归基本面的尝试。他离开 谷歌 时就想创业。与联合创始人 Vivek Raghunathan 讨论之后，两人仍然对搜索充满兴趣：帮人找到信息很有极客式的乐趣，而在搜索诞生二十年后，产品还能被重新构想。

真正的顿悟很抽象。如果不必处理广告，不必为变现发愁，他们就能从第一性原理出发。他提醒主持人，创业公司既要抓住机会，也要守住最初的方向。Neeva 头三年都在打磨一个更好的、私密且没有广告的搜索引擎。那段时间也给了他们严厉的教训，让他们看清消费者是否准备好改变。

前一年出现的 AI 与大语言模型，带来了第二次顿悟：他们可以坚持最初的原则，同时做出好得多的体验。Ramaswamy 说，Neeva 的核心是一个赌注：一定存在更好的搜索产品，世界不该只有一家公司、一种宗教、一款产品。很多每天用 谷歌 的人会说，现有的产品已经相当不错。但他认为，默认选项越强大，人们就越看不到还能更好的地方。

Neeva 早期依靠的是私密和无广告。Ramaswamy 对结果很直接：他们低估了人们，尤其是美国人，有多在乎这些。摸清消费者是件很棘手的事。人们常常不会做自己说会做的事，甚至不肯承认自己会或不会做什么。他说，这就是这场游戏的本质。

一个意外来自欧洲。Neeva 在欧洲的表现比在美国好得多，尽管两地纸面上看起来并没有太大差别。实际上，愿意花力气更换搜索引擎的人数差异很大。整合个人数据和偏好的效果也参差不齐。根本挑战在于，尤其是在美国，让人们迈出第一步：真正在意到愿意改变。

一旦人们真的切换，工作就轻松多了。他们开始看到旧体验里那些并不好的地方。作为一名消费产品创始人，他把这称为消费者心理的严酷课程，而且是必须学会的课程。产品质量和打破习惯的意愿是两个不同的问题。难的永远是第一步。

Neeva 后来的突破是 AI 摘要，它看起来一点都不像一列蓝色链接。Ramaswamy 说，谷歌 的工程师和高管完全可以回应：他们做这件事已经做了 15 年，某种意义上确实如此。谷歌 大约在 2010 或 2011 年推出了精选摘要。大家一直都清楚，主搜索体验里直接给出的答案，会胜过一切。与他在 谷歌 有过交集的 Elad 对这件事记得很清楚：谷歌 把图片放进主搜索框，就打败了当时全球最好的图片搜索 Live.com。Yelp 和本地搜索的情况也一样。如果答案就摆在结果页上，Yelp 再好也没有用。

精选摘要会从网站中挑出两三行与用户需求相符的内容，它一直是大赢家。人们喜欢这个产品，原因可以追溯到奥卡姆剃刀：任何减少工作量的东西都会赢。给一个答案而不是一次点击，他们自然喜欢。这就是为什么 谷歌 的货币换算小工具如此受欢迎：你其实能点进别的网站，只是根本不必点进去。从这个意义上说，答案并不新鲜。几十年来搜索真正返回的，是一组不透明的链接。谷歌 价值万亿美元的业务建立在一个事实上：用户其实分不清一个链接好不好。《纽约时报》的域名会让大脑直接判定这个网站靠谱。对大多数其他网站，你只能点进去才知道。不透明加上逐条扫描，就是搜索一直以来的运作方式。

无论用户是否说出口，他们都想以最快的方式拿到答案。精选摘要从来无法大规模部署，因为技术根本还没到位。即便 谷歌 把全部机器能力投入这个问题，覆盖率也从未真正超过五、六、七个百分点。网站主不高兴：你在抢我的点击。于是这项功能一直很尴尬，谷歌 能展示它，却不敢展示太多。大语言模型带来的顿悟在于：模型第一次可以接收任意内容，写出一段抓住页面核心的摘要，而且往往结合查询的语境。一篇有六个小节的博客，面对只问其中一节的查询，就需要总结正确的那一节。摘要曾是一个让人头疼的模糊概念：人能做得不错，但让模型普遍做好很难。

Neeva 花了一年时间让这件事规模化运转，并决定不受制于 OpenAI 的 API，不依赖它来为 40 亿页的索引做摘要。很多技术都是自己做的。整体产品是带引用的摘要：对一个复杂查询，给出一个流畅、可信的答案。Ramaswamy 说，他们能为 50%、60%、70% 的查询写出这样的答案。同一类通用学习器既能总结文本，也能提取结构化信息。他意识到，自己手里握着一座无与伦比的金矿。50% 到 70% 这个数字不包括已经会触发的一框式结果（one-box），比如股票和天气卡片。在做 Poe 集成时（Poe 是 Quora 的聊天机器人聚合平台），另一个团队的反馈是：如果有人问天气，就直接给出天气。核心论点很简单：只要能提供一个可信的答案，人们就总会比任何数量的链接更喜欢它。人们不喜欢点链接。

Elad 问起其余 30% 到 40% 的查询，以及成本。谷歌 做一框式结果时，每种类型都需要定制的索引、抓取和排序。最终的思路是不是都通过 LLM 来做，而成本会不会不允许？Ramaswamy 认为，语言模型能用于搜索的程度并没有明显的上限。不过他确实看到了一个强上限，即有多少问题能被有效回答。他有些震惊地说，搜索引擎对于很多长尾查询其实相当糟糕，而人们现在却毫不犹豫地把这些问题输入聊天机器人。Jason Calacanis 在 Neeva 和其他引擎里输入了“尼克斯队今年表现如何”，然后得出结论：AI 不好用。真正的重点是，过去没有人会想到把这种问题输进 谷歌，因为它从来给不出好答案。长尾查询一直服务得很差，这不会立刻改变。

Neeva 采用的是检索增强生成（RAG）的思路：把搜索引擎当作大语言模型调用的一个工具。即便如此，这也只是开始。系统完全可以识别一个算术表达式，然后调用 Python 解释器，或别的 API。聊天机器人与把聊天机器人和检索结合起来的搜索引擎之间的界限，会越来越模糊。难题依然很难。很多人期待得到答案的问题，会在 LLM 作为工具之一时变得相当容易回答。过去，触发规则是一大团正则表达式。从查询中提取结构化信息，以及以前为不断变化的网站维护 Beautiful Soup 解析代码的噩梦，如今用最小的可用模型就能泛化解决。

成本是另一个约束。Elad 注意到，Satya Nadella 谈到把 LLM 集成进必应时，语气几乎像是“你的利润率就是我的机会”，仿佛必应愿意补贴这项功能，以压低 谷歌 的利润率。Ramaswamy 说，这句话可能有两层意思：服务的成本，或者 谷歌 与苹果那类交易中赚取的利润。OpenAI 刚刚把 API 价格降到原来的十分之一，他说这在这么早的阶段有点疯狂。算术依然难看。一次平均的超大模型调用大约花费 5 美分，也就是每千次查询 50 美元的千次成本（CPM）。美国查询的平均收入（RPM）在 40 到 50 美元之间，而他对世界其他地区的印象大约是 20 美元。必应的 Sydney 每个问题最多会发出三次查询。这么算下来，成本高得惊人。

他自己的看法是，大多数事情用不着最大模型的全部能力。对于页面摘要，Neeva 对 50 亿到 100 亿参数范围内的模型感到满意，并在内部微调，很快就会启动人类反馈循环。他的态度是：运行六种模型，而不是寄希望于一个模型征服一切。对于已知、定义清楚的问题，模型规模其实不会成为真正的障碍，而规模和服务成本应该会持续下降。如果 Nadella 说的是苹果的流量，Ramaswamy 愿意拿出 100% 的收入来换取它。这是有先例的：在早年，谷歌 给 AOL 的分成超过了 100%，给雅虎的分成也接近 100%。市场就是这样做出来的。必应还面临一种公众看法，无论是否公平，都认为它的质量不如 谷歌。地球上很少有人能客观判断搜索质量。他说，必应先做出更好的产品，再主动去确立滩头阵地，这是完全理性的选择。

Guo 问，一家无法投入十亿美元的初创公司，做搜索最难的是什么。Ramaswamy 说，搜索在拥有像样的产品之前，需要相当大的规模。广告系统三个人的团队就能搭出来，因为数据量有限。一个新的邮件客户端是个小问题，规模问题要等到用户达到一百万之后才会出现，而不是第一天。搜索更像是搭建一个新的移动网络。光是为了被看作有点竞争力，你就得做大量工作。从抓取到索引，每一环都是一场挣扎。这类问题里，有些资深工程师做了三个月就跑了：他们受不了，只想赶快离开。

Neeva 凭借一支格外强大的团队撑了下来。他特别提到 Asim，此人搭建了一套完全运行在闪存（flash）上的系统，迭代极快：两天之内就能整体替换索引，或者随意注入数据做实验。谷歌 花了 15 年才解决的问题，他们一开始就解决了，因为 Asim 以前就遇到过其中很多问题。他们也走了捷径。语言模型是通用的输入输出机器。很多 谷歌 靠海量规模和用户数据解决的问题，Neeva 可以改用模型来解决，比如查询改写、提取结构化信息。人们问天气的方式千变万化。一套写死的触发系统，正被能提取结构的 LLM 取代。

团队最大的正面因素是正式推出答案。在那之前，他们有一种感觉：即便自己和 谷歌 一样好甚至更好，也不会有人在意，因为人们反正分不清几份链接列表。一旦它变成真正的答案，用 Ramaswamy 的话说，“我妈看了都会说，比一堆链接强多了”，兴奋感就出现了。过去几个季度，人们意识到这可能是一次颠覆性的体验。他形容那是一股强大的电流穿过每个人：大家有多兴奋，干得有多拼命。

Ramaswamy 说，分发很难。习惯很难改变。你可以用更好的产品撼动一部分，也可以用金钱撼动一部分。十五年前，谷歌 就已经每年在分发上花费数亿美元；苹果的默认搜索协议只让这个数字越来越大。Neeva 推出实验性应用 Gist，部分原因是一个刻意的提问：如果搜索看起来像 Instagram Stories，它应该是什么样？有时候，你得在变化发生的地方去寻找变化。他们还在一个出版商自己的语料上提供对话式搜索，包括 Reddit、Boston.com 等。此时，网站的搜索流量可能会消失，LLM 也可能扰乱聚合平台与出版商之间的关系。

与隐私产品合作，比正面硬攻默认搜索框更有效。Dashlane 已经上线；ProtonMail 正在洽谈中。思路是出现在用户已经有明确意图的地方。对 Neeva 怎样扩大规模，分发仍然稳居他最担心的问题。在商业模式上，他们早早选择了以隐私为核心、不带广告的订阅。对 Neeva 而言，这是一种让自己脱颖而出的方式，也能给公司一条清晰的跑道。广告做得好的话，是一台不可思议的巨型机器：它能带来规模，还能让变现与产品几乎分属两个团队。但当它非常成功时，就会变得烦人。他已经不喜欢看广播电视了。体育转播会让他抓狂，因为要看那么多广告。

他说，广告天生带着自我毁灭的成分。做的时候，总是想多放一点，这很有诱惑力。混合方案，比如一开始无广告，之后再把广告当作额外机制，可能更可持续，尽管也有人合理地主张，越晚引入广告的团队越激进。在他的叙述里，谷歌 的搜索广告很长时间内都非常努力地坚守质量门槛和用户指标。相比之下，他觉得亚马逊的搜索体验简直是个笑话，广告太多，甚至包括误导性的广告，很难找到你真正想要的东西。

如果你做的是提供答案的生意，比如 ChatGPT，广告就难得多，因为你押注的是答案的质量。对于轻度消费型产品，比如社交媒体，或者搜索未来可能去的地方，这仍是一个悬而未决的问题。他指出，Gist 式的体验，即一段摘要后面跟着一组卡片，可以把广告塞进去，但 Neeva 没有这个计划。Elad 回忆起 谷歌 早期的一种说法：愿意付费本身就是一种质量信号。Ramaswamy 的回应是这一小时里最尖锐的一句话：只要方便，聪明人总能为他们所做的一切想出很好的解释。“最好的宗教，就是那些与你的商业利益一致的宗教。”他说，旧的论点有一定道理，但它解释不了一部手机屏幕上塞满两屏广告的现象。那些说广告让厄瓜多尔的人能免费用上产品的故事，由坐在帕洛阿尔托的亿万富翁讲出来，在他看来完全是出于自利。他的态度是：是的，广告可以赚钱，效果也很好，我们很有钱，这也没什么不好的。

如果引用式摘要和聊天机器人的答案对消费者如此有吸引力，那些发布底层页面的人会怎样？Ramaswamy 称之为最大的未知数之一。更大、更有远见的创作者（他把 Reddit 和 Quora 归在这一类）会说，他们希望参与搜索，但不希望成为答案的一部分。把他们的数据拿去放进 LLM，按他们的抓取政策其实并不允许。他们还会推出自己的聊天机器人，让你在对话里浏览 Reddit 或 Quora 的内容。小出版商则做不到这一点。

他把这一刻比作在许多人获取信息的核心位置投下一颗炸弹，或者一股巨大的冲击。冲击会向一大批网站和整个内容生态扩散。很难预测，但感觉内容创作可能会出现更多集中或整合。那些原本能靠广告自我补贴的普通小博客，在答案的世界里将很难竞争，尤其是当人们期待的体验变成：我并不想读很长的页面，给我一段摘要，然后我再追问。这些体验是可能的，但并不适用于现存的每一个博客。内容创作的另一种平台形态，或许会慢慢演化出来。

被问到 AI 除了搜索还会颠覆什么，他甚至不谈合成内容。那一定会发生，而识别它会是一场猫鼠游戏。内容被大量生成的一个显而易见的地方是广告。个性化、多模态的广告可以扮演相当大的角色。他开玩笑说，Michael Jordan 会直视你的眼睛，叫出你的名字，然后让你去买 Air Jordan。广告以其用于优化的闭环和对效率的执着，是一个自然的领域。在位者的反应也会比 SaaS 的叙事来得更快。微软在这么晚的阶段还能这样创新，这种事你不会从 IBM 那里听到，至少在消费者和全球规模上不会。纯粹的 SaaS 式创新，在我们习以为常的产品上，会变得更难一点。

他个人最感兴趣的领域是泛化：如果你把 LLM 看作一种机器语言，那么自然的下一步，就是把它和我们已经在用的工具结合起来：搜索引擎、计算器、API、程序、其他网站。动作型 Transformer 的威力可能会非常大，不只是对 RPA，还包括 AI SRE、AI 代码审查员，或者随便填一个别的角色。这项技术比人们对语言模型的期待要稚嫩得多。OpenAI 可以源源不断地推出新一代 LLM，但这个调用工具的层还没有到能让大量人在其上构建应用的程度。Guo 称之为世界的智能体化（agentization）。Ramaswamy 正屏息以待。

最后，Ramaswamy 说，对技术人员来说，这是非常令人兴奋的时刻。新技术很强大，并且正在以非常快的速度被普及。对他而言，WhatsApp 是移动计算的开创性时刻：一个 30 人的团队就能为全世界做出一款产品。这代表着移动平台的威力。现在的等价测试是：两年后，三个 20 岁左右的大学生能否构建出一款全新的应用，以根本性的方式使用我们已知的东西，比如 Web 服务器、数据库，再加上语言模型，并让人们说他们从没想到过这样的东西。

他说，这感觉非常可能，而这正是我们所处阶段真正令人兴奋的地方。在这之前，他对 Neeva 能把搜索带向何方非常兴奋，并且指望主持人的智慧与支持。这一小时的实际启示藏在这份乐观之下。像“尼克斯队今年表现如何”这类长尾问题，从来都不能被关键词框很好地服务；它们应该交给引用式答案引擎。成本应该按千次成本（CPM）对比你所在市场的平均收入（RPM）来算，这就是为什么大多数 Neeva 任务运行在经过微调的 50 亿到 100 亿参数模型上，而不是单一的巨型模型。如果你的产品卖的是答案，广告就会变难，因为赌的是质量；如果你的产品卖的是停留时间，广告仍是一个开放的选项。