Google 给你 3300 万条结果，Exa 只想给你 54 条

Will Bryk 开门见山，提出贯穿整场对话的一个区分：Google 是搜索引擎，你大致知道自己想要什么；如果不知道，那就是在做研究，而这正是 Exa 应当发挥作用的地方。他更愿意用数据库来比喻，而非搜索框。每一次查询，都应该从世界的知识中过滤出你要的那一部分。在这个框架下，Google 在页面顶部打出“约 3300 万条结果”，就是一种自白。“我拿这 3300 万条结果能干什么？”

Nathan Labenz 花了几个月试用各种新的信息类产品，并给每一个都起了绰号。ChatGPT 仍是他处理临时任务的主力；Perplexity 是快速给出准确段落的答案引擎；you.com 的 Research Mode 是一个自主助手，会搜索、阅读，并把多页内容综合成报告；Elicit 则是结构化的文献综述工具，会把论文排成表格。Exa 仍然返回链接，和传统搜索引擎一样。用过之后，他认为差距在于质量、可控性和深度，于是开始把它称为“例子引擎（example engine）”：一台吐出列表的机器，你可以把这些列表喂给其他 AI 工作流。

Bryk 告诉 Labenz，Exa 是一款为 AI 系统打造的搜索引擎，落到实处就是重新设计算法，而非给 Google 套一层外壳。他说，人们与 Google 相处已久，而 GPT-3 和 GPT-4 这样的模型，如今已能以接近人类的水平理解文本。Exa 的赌注，是把这种理解能力和一套十年间几乎没有变化的搜索技术栈结合起来。它是一家研究型创业公司：拥有自己的 GPU 集群、为搜索训练的基础模型，并且热衷于 Google “非常不擅长”的复杂查询。这次对话录制于 2024 年 3 月，那时他们已经干了两年多。

Exa 官网上的一句话一直让 Labenz 印象深刻：Google 限制了人们对互联网上能找到什么的想象。Bryk 说，人们以为搜索已经解决了，可一旦试着列出“把 AI 用在法律上的创业公司”，就会发现 Google 不会给出一份创业公司清单。加上“湾区”，它依然不给。继续叠加修饰词，你就会意识到这个引擎根本没在做这份工作。每当你离开 Google，去 LinkedIn 找人，去 PitchBook 查公司，去 Twitter 看高质量新闻，去交友软件约会，都是因为 Google 没能把世界的信息过滤成你真正想要的那份知识。

真正拓宽他对搜索可能性认识的，是那些你根本不会想输入 Google 的查询。把一位设计师的页面整体贴进去，让它找相似的设计师：这是以整个网页作为查询的相似性搜索。找在湾区有 Rust 经验的研究人员。找真正论证 Rust 为何胜过 Python 多进程应用的文章。“你不会想把这种东西输入 Google，因为你知道它根本行不通。”这一构想，是把已经存在的 PB 级数据，实时过滤成你要求的那一份。

Labenz 提出“例子引擎”这个标签。Bryk 承认，连搭建它的人也不确定该叫它什么，“研究引擎”或许更接近。Google 以及建在它之上的大多数工具，仍然从关键词引擎出发，再加一道后处理。对他来说，搜索是“Taylor Swift boyfriend”，或者是你自己的名字：你知道目标是什么。研究则是用自然语言讲清楚你想要哪一类东西，然后拿到一份匹配的列表。他把 Exa 比作图书馆。你走到图书管理员面前，说想找“把 AI 用在法律上的创业公司”。其中有些公司从不使用“AI”或“法律”这两个词，它们会说自己把机器学习算法应用于法律文档。一位聪明的图书管理员仍然能把你指到那里。

这家公司以 API 为先。目前的消费者界面是一份链接列表，那是因为他们希望人们看清 API 究竟返回了什么，并非因为链接列表就是消费级搜索的正确形态。Bryk 说，语言模型将是这一界面的重要组成部分。他们正在探索一种更像研究人员工作台的形态，他们希望客户能在 Exa 之上构建这类产品。

Labenz 和一位朋友担任 Athena 的顾问，那里的 AI 助手要帮客户达成他们自己都不知道如何拆解的目标。举个例子：提高肺部的氧气容量。助手本身并没有特别的专业知识，但专业知识就在网上。Exa 提供一份专家文章列表，语言模型再把这些文章转化为具体行动，比如订购一台设备或报名一门课程。Labenz 接触的几乎每家公司，都想扩大某种形式的相似搜索：找更多和成交客户相似的账户，找更多和那位明星员工相似的简历。模型已经能以接近人类的水准做个性化外联。尚未解决的输入，是清单本身。垃圾进，垃圾出，他认为这正是 Exa 真正发挥作用的地方。

Bryk 最喜欢的一个专业案例，是一款写论文的工具：它借助 ChatGPT，为作者提供接下来可以写什么的点子，帮他们打破僵局。ChatGPT 单靠自己不够聪明，所以需要搜索，而传统搜索引擎是一根很窄的管道。有了 Exa，你可以贴上自己的一段思考，问哪篇论文会自然地接在这个想法之后，这是 Google 无法执行的查询。他说，如果这款产品能把世界的知识开放给那些在有限工具上耗了二十年的学者，那正是他创办这家公司的原因。另一个工具，是一款为风险投资人准备的聊天机器人，它会推荐那些他们通过普通渠道找不到的创业公司。用他的话说，更好的搜索能够开辟新的市场。

更怪的一端是人物搜索。贴上一份交友资料，就能得到二十个相似的人；Bryk 认识一个人，因为用了 Exa，在现实中见过好几个约会对象。有一段时间，消费者页面上写的是“重新发现互联网”，因为那些有趣的页面一直都在，只是旧算法把它们藏了起来。有人把这种感觉形容为发现了一座隐藏的知识神殿。他对分工的划分很清楚：Exa 是知识引擎，ChatGPT 是组合引擎。找出一百份相关文档，交给 GPT-4，以后再交给 GPT-5，体验就会变得神奇。他引以为豪的产品，大多是由一个 AI 系统负责搜索的。

“为 AI 打造的搜索”是一句很有挑衅意味的说法，Labenz 说，但它究竟如何落地，并不明显。Bryk 的回答是，AI 搜索者几乎是人类搜索者的反面。人类很懒，只会输入几个关键词；AI 却能瞬间输出一段话，精确说明它想要什么，所以引擎必须能处理这类复杂查询。Google 是为“Walmart homepage”这类查询优化的。人类点击两三个链接就走了；AI 却能一口气消化上百条结果，所以你需要返回的是一百条，而非几条。人类搜索“Taylor Swift”时，往往并不知道自己想要什么，更喜欢多样化的混合结果。而一个要求一百家公司的 AI，并不想先拿到一家公司，再拿到一篇博客、一条 LinkedIn 动态、一个 Reddit 帖子。

最后一处错位在格式上。AI 不想要链接和标题，它们要的是完整的网页，因为它们不想坐在浏览器里自己阅读。Bryk 说，你可以把 AI 接到 Google 上，但那等于把一种新生物接到了为人类这种有机体设计的东西上，搭配并不好。寻找信息是人类经验中极为核心的一部分，所以他不想把一种“超级新东西”配上旧技术。Labenz 总结了四项要求：更深入的查询、更多的结果、真正的内容，而非 URL，以及对返回内容类型的控制。

Labenz 问，这与 Google 从 PageRank 转向 BERT 式语义排序相比如何。Bryk 说，把一篇论文摘要贴进 Google，要求找相似论文，得到的是同一篇论文的翻版，而非它的邻居。Google 之外的人并不了解完整算法，但在他看来，BERT 的部分更像末端的一次重排序：先用关键词把网络筛成一批候选集，再套用神经方法。这与从第一步就采用神经方法截然不同。如果你先筛出 10000 条，而相关网页从未进入这批候选，重排序也无济于事。Google 不只有关键词：提到奥巴马时，知识图谱（knowledge graph）会注入相关事实。但 Bryk 仍把它的核心称为基于关键词的算法。

Exa 的训练，从网络上人们谈论链接的地方开始。设想一条 Reddit 评论：“看看这家很酷的航空航天创业公司”，后面跟着一个网址。他们把链接隐藏起来，让一个类 Transformer 的模型去预测后面跟着的是哪篇文档。重复数亿次，你就得到了一个搜索引擎。查询时，“航空航天创业公司”会预测最可能被跟随的链接。如果人们在引用“一篇很棒的融资文章”时，总是指向 Paul Graham，模型就会学会返回 Paul Graham。Bryk 称之为学习型 PageRank，并说这只是 v1 版本。

Labenz 显而易见的质疑是，ChatGPT 也能逐个 token 地补全“这里有一篇很棒的融资文章：https://”，并且会编造出无处可去的网址。Bryk 同意他们并不这样做。模型预测的是来自索引的文档 ID，而非网址的字符。你没法直接在下一个 token 的网址预测上微调 Transformer，因为那会迫使模型去记住地址，而这行不通。他们不得不发明一种新的训练目标。它基于嵌入：Transformer 输出一个嵌入，检索就在这个空间里进行。把它在规模上做到足够精确，花了大约一年的研究，之后才在其上推出产品。他指出，很少有创业公司真的这么做。

Labenz 一直有个假设：系统之间会越来越多地用嵌入而非自然语言字符串来交流。如果双方本来就工作在同一个嵌入空间里，那么先翻译成 token 再翻译回来，既低效又有损耗，而且更难让人类理解。在他看来，Exa 像是这个未来的一瞥。Bryk 立刻回应：嵌入感觉已经属于过去。如果将来我们靠嵌入来传递知识，他会失望。把文本压缩进一个向量，再与文档向量做点积，你就已经丢掉了信息。Exa 今天基于嵌入，他们已经从中榨出了很多东西，但它本质上仍然有局限。

“湾区里、创始人有 Rust 经验、把 AI 用在法律上的创业公司”是贯穿始终的例子。你不能指望一个嵌入加一次点积就应付层层叠加的修饰词。他描绘了一个光谱。一端是查询嵌入与文档嵌入的点积：足够便宜，可以跑遍整个网络，但很弱。另一端是把查询文本和文档文本一起放进 Transformer 的上下文窗口，运行全部权重，输出一个分数：强大得多，却不可能在全网范围内做。他说，这个光谱的中段几乎尚未被探索。这正是 v2 和 v3 的方向：超越嵌入。今天最好的系统，很可能会把关键词和向量混合使用。天花板更高。

因为模型是被训练来预测一段文本之后跟随的文档，所以查询 Exa 最好的办法，是写一段链接自然会接在后面的提示。如果你想找创业公司，就以“(startup:”结尾，因为在网络上，这个标记后面通常跟着公司主页。Bryk 把这一时刻比作 ChatGPT 出现之前的 GPT-3：那是一个补全模型，你得用别扭的方式去提示它。RLHF 让聊天产品简单到连他妈妈都能用，但也让它更难控制；Exa 没有在这类“打磨”上投入资源。大多数客户是企业，它们可以请 ChatGPT 替自己写这种古怪的提示。

Labenz 对叠加修饰词的第一个想法，是把查询拆开，运行多次最近邻搜索，再合并结果集。Bryk 说这个直觉是对的，他们也正在为此招人；这也正是人类处理难题的方式。不过，当事实分散在不同网页上时，这种方法仍然会失败：一个法律 AI 网站很少会提到创始人写过 Rust。出路在于一种类似知识图谱的结构，而且它永远不会变成离散的元数据，这样你就能在图上运行模糊、任意的查询。他认为，相比生成文本、图像和视频，改进搜索这件事受到的关注少得奇怪。你已经很少看到博士生在网络搜索领域发表论文。Labenz 开玩笑说，这一代最优秀的头脑，仍在精心打磨思维链（chain of thought）。

公开信息显示，他们募集了约 500 万美元。Labenz 想知道，一个全网规模的索引加一个 GPU 集群，如何能用这笔钱做出来。Bryk 说，他们很节俭，而且并非抓取整个网络。他们抓取的是客户真正在乎的一个高质量子集，这让资源较少的创业公司也能运行更复杂的算法。像 Google 那样持续抓取数千亿网页，成本很高；而以更慢的节奏抓取更少的页面，是创业公司做得到的。他认为，其他搜索创业公司过早地想要面面俱到，结果是样样尚可，却没有一样出色。老生常谈的建议依然成立：先让少数人爱上你。

Labenz 提到 Brave 的索引，它是根据人们实际浏览的地方构建的。Bryk 的对应物是分享量，而非停留时长。模型被训练来预测人们互相传递的链接。没有人会分享那篇满是广告、讲食谱的 SEO 博客文章；大家分享的是好菜谱。因此，模型被训练成不去预测 SEO，转而学会原始的、值得推荐的内容。这就是这一架构的反垃圾机制：训练数据来自人们的认可，这也是为什么一个小索引仍然能让人觉得互联网更好。

谈到定价，Labenz 的第一印象是贵：每 1000 次搜索约 10 美元（最多 25 条结果），返回 100 条则更贵，另有企业合同；而常见的 API 产品通常每 1000 次只收 1 到 2 美元。但在聊到用于销售和招聘的相似搜索后，他改了看法。检索环节的质量，既能节省迭代时间，也能降低下游语言模型的成本。Bryk 说，客户很少抱怨价格，因为他们是在 Bing 的 API 或 Google 包装服务无法只返回人、只返回公司或只返回新闻之后才找上门的。Exa 把自己定位为别处买不到的高端搜索。他点名的用法有检索增强生成（RAG）、自动化分析，以及一种极端情形：拉取数十万甚至数百万条结果，用来微调模型。

Labenz 给开发者的建议是：不要先优化成本。成本会下降；首要问题是，你能不能用 GPT-4 或 Exa，或者任何最好的东西，做出一个能用的产品，之后再考虑企业版套餐，或者等价格下降。评估则是另一个头疼的问题。在 Google 式的查询上给 Exa 打分，Google 会赢；在 Exa 式的查询上给 Google 打分，Exa 会赢；公开的网页检索数据集，是为旧的搜索方式设计的。他们的解法，是把主观的“这个好不好”拆成客观的能力：如果查询的是 Paul Graham 的文章，你有没有返回 Paul Graham；如果主题是太空探索，页面是否确实与之相关。主观的质量就变成了一组内部可检查的技能。开源基准测试里没有任何与之类似的东西。

他们自建向量数据库，是因为带有他们所要求过滤条件的网络规模搜索，远不止一次简单的最近邻查找。开源向量存储在他们内部对比时，并没有为这些过滤条件设计，包括用一个嵌入来搜索、再用另一个嵌入做过滤；而通用性又让它们变慢。在某个特定工作负载上提速两倍或五倍，回报是巨大的。Bryk 喜欢数据库这个类比，因为这其实不只是搜索。查询“把 AI 用在法律上的创业公司”，你应当得到 367 条结果，而且全都符合要求。加上“湾区”作为过滤条件，就只剩 54 条。Google 的“3300 万条结果”让你不知所措，而且你仍然拿不到要找的东西。他们想在一种新型数据库里把神经方法和非神经方法结合起来，这就是他们自己写的原因。

Labenz 猜测，每份文档可以有多个嵌入，分别投影到作者或地理位置上。Bryk 说这行不通：可以预先计算的方向太多，所以你需要一种更通用的方法。他们会卖这个数据库吗？他拒绝了。团队只专注于一个使命：以尽可能快的速度，把世界的信息过滤成你需要的知识。抓取、解析、训练和服务都必须做到出色，而其中任何一层都可以成为一款产品。但这种规模的公司，不能同时卖向量数据库、搜索服务和爬虫。专注。

他们是一支小团队，工作强度很高，却不把这当作工作。Bryk 说，把这个问题当成一份差事的五十人团队，会比把它当成游戏的七人团队慢。Labenz 注意到，他们都很年轻，有些人住在一起，那栋房子同时也是办公室，这与 Sam Altman 所说的创始人越来越老的说法相悖。招聘页面上有两条价值观让人印象深刻。“以最优的速度与准确性权衡来执行”，意味着并非每个查询都应该耗费同样的算力。Google 无论你输入什么，都假设几百毫秒就够了；而有些查询足够复杂，值得花上几秒甚至几分钟去搜寻。同样的规则也适用于公司内部：有些问题值得花一天去思考，有些则值得花一年。优化的是精确的投入量，别一味“快速行动、打破常规”。

“负责任地驾驭巨大的力量”，源自 Exa 作为通往世界知识之门的身份。掌控知识的人，也就掌控了权力。Google 早已影响了什么内容会被创造出来，以及人们甚至知道哪些东西存在。Exa 的理念是把充分的权力交给用户，让他们得到自己要求的东西，而非让结果偏向公司认为正确的答案。Bryk 承认这里存在道德问题：你可以像 Twitter 添加语境那样提醒人们注意某些内容，但借助类 Transformer 的技术，人们终于可以得到他们所要求的东西，无论它多复杂。他预计 Exa 会成为主导者。信息检索市场会大得多，因此相比以前，容得下多家公司的空间也更大，但规模带来的好处依然存在。他们正在招人。