最多只给五条链接：Perplexity 押注答案引擎

2023 年 3 月的这期《No Priors》，Sarah Guo 和 Elad Gil 请来了 Perplexity 的两位主要创始人。CEO Aravind Srinivas 曾是 OpenAI 的研究科学家，拿过伯克利计算机科学博士学位；CTO Denis Yarats 此前在 Facebook AI Research 做研究科学家，还在 Quora 做过机器学习工程师。第三位联合创始人 Andy Konwinski 帮忙完成了公司注册。坐在桌子另一头的 Elad 是公司的首位投资人，在创办初期就表示愿意出资。

公司约在 2022 年 8 月成立，录制时已有七个月。Aravind 回忆创业之初的场景，颇有电影感：旧金山 Noe Valley 一处空旷的办公空间，斜对面是一家叫 Martha's 的咖啡馆。他向 Elad 提议，做一个视觉搜索引擎会很有意思。他当时认为，想冲击谷歌，就得绕开文字检索，直接用摄像头捕捉的画面去搜。Elad 说这条路走不通，Aravind 得先考虑分发的问题。

Aravind 至今仍认为 Elad 说得对。他说，搜索在很大程度上是一场分发游戏，跟技术游戏同样重要。在最初几周，他们手里其实没有产品，只有一股共同的兴趣：大模型很让人兴奋，而搜索，无论是通用搜索还是垂直搜索，都是他们的出发点。那时 ChatGPT 还没有改写消费互联网，他们只是在互相抛想法。

Elad 曾建议他们试试 text-to-SQL，大家一兴奋，就开始做原型。Denis 当时在改一个 Jupyter notebook 扩展，想让每个单元格里都有一个 copilot，再把它接到数据库上。他们还聊过为 Twitter 等信息流的部分内容建立索引，并在上面做搜索。Aravind 用“一堆非线性的路径”来形容那段时间，这些路径最终才通向了今天的产品。

Guo 对他们的迭代速度印象深刻：先确定一个方向，做出原型，看看行不行，然后转向下一件事。两位创始人都把功劳归于学术训练。在博士实验室里，你手里同时压着几百个想法，快速做实验、读结果、再迭代。做产品还要多学两个循环：先把工程做到能拿给别人看的程度，再真正把它放到用户、公司和潜在客户面前，收集反馈。Aravind 说，这两件事正是这家公司存在的理由。

工程和招聘能跟上节奏，Denis 功不可没。他拉来了联合创始人 Johnny Ho。Johnny 曾是竞技编程的世界第一，Aravind 打了个比方，说他是编程界的 Magnus Carlsen。Denis 把他们手上在做的东西拿给他看，Johnny 很兴奋，就加入了。Aravind 说，少数几个人就能让事情加速很多，Johnny 正是 Perplexity 进展如此之快的一大原因。整个秋天，Denis 都在重复这一招，把同类型的人一个个拉进来。

Denis 招人，第一道筛选看的是好奇心，大模型方面的履历排在后面。很多人对大语言模型（LLM）有所耳闻，但并没有相关的具体背景；他想找的，是那些渴望学习、愿意投入大量精力的人。比起经验更丰富却不肯拼的人，他宁可选有这股劲头的。第二道筛选是试用期。一旦他们看到真正的录用机会，就请对方先和他们一起工作一段时间。与其说这是一连串 45 分钟的面试，不如说更像是住在一起几个月。

他们打算把团队规模保持得很小，这让每一次招聘都很昂贵。大公司那种四五轮的面试，有时管用，有时不管用；Denis 说，试用能让双方都更有把握，候选人也能看清自己是否想做这类工作、是否接受这种节奏。这个节奏，他不打算遮掩：工作与生活的平衡谈不上理想。在他看来，这是赢过竞争对手的唯一办法，快速推进，做出大事，所以彼此的预期必须从一开始就对齐。

Aravind 把招人的标准变成了一种策略。如果你还不知道要做什么产品、要进入哪个市场，那么你唯一能指望的，就是迭代速度。在他们搞清楚业务之前，“大家必须和我们快速迭代”是绝不能让步的。Elad 补充了创业公司版本的同一道算术题：现有巨头有更多的人、更多的钱、更广的分发渠道和更多的产品。创业公司真正的优势，只有速度。

Elad 回忆起 Twitter 做移动端那段日子流行的一个荒唐说法：只招有移动开发经验的人。他觉得应该找到优秀的工程师，让他们自己去学 iOS。他问，大语言模型圈是不是也长出了类似的教条。Aravind 的答案，早在看 OpenAI 的时候就有了。做出 GPT-3、后来又创办 Anthropic 的那批人，出身物理学：CEO Dario 是物理学博士，Jared Kaplan 是物理学教授，写过规模定律（scaling law）那篇论文。OpenAI 的成功，靠的是把一批极有天赋、又愿意转行的物理学家先拉进机器学习，再拉进语言模型。

工程团队的底子，是来自 Dropbox 和 Stripe 的人，都是扎实的软件工程师，能做基础设施和前端，现在转去做 AI 工作。对 Aravind 来说，结论是：要做 AI 研究或 AI 产品，并不需要事先就是搞 AI 的人。Johnny Ho 就是公司内部的例子。他出身竞技程序员，做过交易员，在 Quora 待过一年，学新东西的速度和谁都不差；AI 不是他原来的领域。更让人意外的观察则关于模型本身：Aravind 说，那些用 LLM 做产品的人，往往比真正跑过梯度下降的人更懂这些模型。一个斯坦福或伯克利的博士生可能知道怎么训练模型，却未必是把模型做成产品的最佳人选。

Denis 补充了研究实验室的情况。早期的 Facebook AI Research 位于门洛帕克，那里有一种排他的文化：没有博士学位，就拿不到研究科学家的头衔。他很反感这种做法，这也是他后来去读博士的原因之一。这段经历让他得出了与学术圈那种自视甚高截然相反的结论：最好的研究科学家，同时也是很优秀的工程师。过去五六年里，DeepMind 和 OpenAI 取得最大进展的地方，正是聚集了大量顶尖工程师的地方。在他看来，认为工程师不够聪明的学术观点，是本末倒置的。

Aravind 用谷歌早期的招人经历收尾。Jeff Dean 出身编译器和系统方向，Urs Hölzle 是系统方向的教授。谷歌告诉这些人，它手里有最有趣的计算机科学难题，而且能把它们规模化，邀请他们来做搜索。那些后来很有名的研究员，大多是第一次进入这个领域的人，而不是信息检索领域的老兵。Elad 注意到，人们想要的履历又翻了一个面：几年前，公司想要的是实验室出身的博士；现在，他们想要的是跑过数十亿参数规模训练的人，而这些人大多来自 OpenAI 和 DeepMind。

对 Aravind 来说，从研究界走出来之后，最陡的学习曲线是怎么经营一家公司。他自己已经不太做核心工程，那部分主要由 Denis 负责。他找到的一套可行办法，是快速向 Elad 等人请教，同时对自己犯的错误保持极度诚实，听取反馈，并尽快纠偏。对 Denis 来说，难点在于组建团队：谁负责什么，怎么排优先级，该做什么。在一个小团队里，你必须找出那件最重要的事，把全部精力都放上去。

起初他们犯的是相反的错误。创办六七个月时，他们已经做了 Twitter 搜索、Salesforce 集成、HubSpot 集成等等，其中大部分从未发布。Aravind 说，作为领导者，如果你拿不定主意，团队就会失去信心：他们会觉得你没有方向，所以才每周都让他们去做新东西。正确的做法是一次只做一件事，做错了就改，而不是同时铺开五件事，等着看哪件能成。学术界教会他们分散押注：一个以自己为第一作者的项目，加上三四个合著项目，指望其中一个能成。创业公司不能这么干。先聚焦，再围绕一件事，或者少数几件事反复迭代。

Perplexity 公开宣称的使命，是做全世界最值得信赖的信息服务。Guo 问他们如何看待事实准确性、偏见，以及如何处理拼凑起来的来源。Aravind 举的是博士导师批改论文时最先划出来的一条规矩：你只能写你能引用出处的内容，其他都只是观点，不是科学事实。这就是为什么第一版是以引用为基础的搜索。他强调，这套东西从一开始就以引用为先，它不会说任何找不到出处的话。像 ChatGPT 那样问它是谁，它仍然会去搜索引擎里找来源，然后给出答案，而不会说“我是 Perplexity，一个机器人，你好吗”这类话。他们并不在意它的个性或性格，他们在意的是真实和准确。

剩下的麻烦是聚合来源的问题。把多个来源搅在一起，模型可能会产生幻觉，把人的身份弄错。Aravind 举的例子就坐在桌子对面：世上有好几个 Elad Gil，一个是风险投资人，另一个是医生。如果模型同时读了 LinkedIn，它可能会判定那个拿了生物学博士学位的 Elad Gil 和这位投资人是两个人，然后写出一段荒唐可笑的摘要，把两个人的经历错配在一起。他们目前还没有像样的解决办法。模型在细节上越来越好，还允许用户像维基百科那样，剔除自己认为不相关的来源。但他不认为靠一个 LLM 就能神奇地解决问题。真正需要的是一个端到端的平台：用户可以纠正错误，同时激励机制要设计得让同样的工具无法被用来隐藏信息。

在强化学习（reinforcement learning）上，他们目前还停留在 RLHF 的范围：根据用户对摘要的反馈，由外包人员给结果打分，现在也让语言模型承担一部分外包工作，Anthropic 就此有过一篇论文。他们尚未涉足智能体（Agent）和浏览器。Aravind 希望至少六个月到一年内先专注于现有的部分。Denis 补充说，提升质量并不一定要完整的 RLHF。拒绝采样（rejection sampling），即对多个 Llama 样本加一个判别器，再由另一个模型排序，某种意义上已经算是强化学习的一步，效果也很不错。

他们相信聊天式界面是未来，用户也大量使用追问。但这里有个前提：要对用户负责，如果第一次就能答对，就应该第一次答对。谷歌其实已经通过“people also ask”做了一种隐性的对话：你点进一个追问，不需要聊天框。对于复杂问题，聊天界面比十条链接更诚实。像“下周湾区会不会下雨”这样的问题，不需要对话。Perplexity 想两种都支持。自从上线聊天功能以来，至少追问过一次的查询比例一直在上升。

被问到五年后的搜索会是什么样子时，Aravind 借用了 Andrej Karpathy 在 Twitter 上提过、Satya Nadella 也在用的一个说法：答案引擎。也就是直接回答问题，不再甩给你一堆链接。他认为 Perplexity 是第一个对话式的答案引擎，而且答案引擎会自成一个细分市场，就像今天人们都有默认的搜索引擎一样。追问会变成常态。行动会叠加在答案之上，就像谷歌已经允许你从搜索结果直接订机票一样，产品会变成一个助手。与此同时，流向底层内容网站的流量会少很多，因为需要点开的链接少了。

最后这一点是产品决策，本身并非限制。Perplexity 不会引用超过五条链接。有用户要求给十条或二十条，或者在摘要下面加上老式的十条蓝色链接，团队都拒绝了。他们希望用户能真切感受到其中的区别。第一版上线时，给出的是三四个链接和一段五十字左右的摘要。标签页更少，只保留你真正需要的那几个。从“用户去拿”到“信息主动推送”的转变，并没有五年科幻式的距离那么远。Google Now 早就试过通知你所支持的足球俱乐部有什么消息；语言模型可以做得更好，Aravind 认为这一步一年内就会发生，而不是五年。Denis 作为普通用户，已经会跳过前两三条结果，因为它们要么是 SEO，要么是广告。答案引擎意味着点击变少，而点击正是谷歌赚钱的方式。他认为，这正是谷歌很难完整推出同样系统的原因。新范式是点击变少，但每次点击都更值钱，而且从提问到直达具体行动的路径更短。

Guo 问，点击变少的时代会给出版商带来什么。Aravind 相对乐观。引用把 PageRank 最初的逻辑带了回来：PageRank 本来就受学术引用启发，一篇重要的论文会被反复引用。在基于引用的界面里，更好的内容更有可能被语言模型引用，除非有人发明出一种像关键词 SEO 那样廉价的“答案引擎优化”（answer-engine optimization）。但他认为这不太可能，因为模型在相关性判断上要强得多。照他的说法，激励机制更像 Substack：内容归自己，把质量做好，留住自己的订阅者。至于这套模式在谷歌那种点击广告的规模下如何变现，仍是个悬而未决的问题，而他很高兴有许多公司同时在尝试。

Elad 给出了一个历史参照。谷歌最早的收入来自出售搜索服务，按每千次查询收费，授权给其他网站使用；后来是面向企业的硬件设备，然后才是广告。当年有人说，YouTube 和 Facebook 永远不会赚钱。Perplexity 手里有好几张牌，但还没有选定哪一张。成千上万的人要求开放 API，就像 Bing 出售搜索能力那样。Chrome 扩展程序的用户正朝 100,000 人的规模迈进，走的是类似 Grammarly 那种免费加面向专业用户的付费路线。等访问量达到数亿，广告就有可能了，但他们不想重蹈谷歌的覆辙，把广告混进核心搜索产品里；Facebook 那条路子看起来更健康。订阅制搜索是 ChatGPT 正在尝试的方向。如果谷歌或 Bing 免费推出一个效果达到 80% 的产品，订阅产品就活不下去，所以他们大概会避开这条路。

平台化路线也在考虑之列：如果有人希望在自己的链接、书签或公司数据之上使用 Perplexity，这些也能变现。短期内，他们专注于用户、流量和体验。Aravind 说，谷歌和微软基本上会做出同样的东西。唯一的活路，就是他们在节目一开始就谈到的那一条：更快的速度、更多的发布，在产品的核心价值上保持领先。

Guo 对他们行动导向的风格印象深刻，她认识的大多数学者都习惯事先做大量规划。两位创始人有一位共同的导师 Pieter Abbeel，他是另一种类型的学者，会推着学生尽快出成果。这一点，加上 Denis 在业界的经历，就是他们这样做事的原因。对于在读博、进业界研究岗位和创办公司之间犹豫的人，Aravind 的建议毫不客气：现在读博，是你能选的最糟糕的工作之一。AI 正热，薪水很高，你可以加入公司，也可以自己创业。读博意味着放弃这一切，无视 Twitter 上每天的喧嚣，过清贫的日子，去啃难题。与其说这是选对课题的问题，不如说是一场心理考验，能扛下来的人很少。

他对自己的动机也很坦率。他来美国读博，是因为没有别的路：他贷不了读硕士的款，而博士是全额资助的。如果当时能拿到业界的工作，他会直接去做。如果这些障碍仍然拦不住你，他也不建议你花好几年去改进 Transformer。现有实验室有巨大的动力，去让 GPT 的核心架构更高效，去训练更大的模型。更好的选择是激进的替代方案，甚至是质疑 Transformer 本身，那也是他自己想去写的论文。他提到斯坦福在状态空间模型（state-space models）上的工作，以及 FlashAttention，后者已经被用来提高大模型的效率；他还提到视频生成，这个方向仍有大量空白。

Denis 会再补充一个实际的建议：本科毕业后不要马上读博，先在业界待上几年。最好的研究者同时也是很出色的工程师，这段经历对之后的博士研究会有推动作用。AI 越来越偏向工程领域，如果你想做大模型或大规模系统，就必须是很强的工程师。如果你想留在纯学术一侧，思考深层次的想法，他同意 Aravind 的看法：不去追大语言模型，去做些激进的东西。