2018 年的提示词论文被拒，如今他的搜索 API 超过了谷歌

Nathan Labenz 介绍 Richard Socher，称他是深度学习自然语言处理的先驱，曾任 Salesforce 首席科学家，现在是 You.com 的创始人兼首席执行官。这款产品最初以一种全新的搜索引擎面世，现在则是一款 AI 助手。Socher 的道路比大多数嘉宾讲的那种“GPT-3 让我皈依”的故事要早得多。2003 年他在德国学习计算语言学，既喜欢语言，也喜欢数学，却觉得自然语言处理只是一个小众领域，数学含量不够。他在 Max Planck Institute 读计算机视觉硕士，接触到统计学习和模式识别，之后去斯坦福读博士。

在斯坦福，他注意到，即便是顶尖的 NLP 论文，也都在宣传漂亮的模型，比如条件随机场、隐变量设定，而真正带来提升的却是特征工程（feature engineering）。命名实体识别（named-entity recognition）靠的是加上“这个词首字母大写”或“这个词在城市名单上”之类的特征。他把这叫作研究生式的爬坡。视觉那边，Andrew Ng 还在把固定尺寸的像素输入神经网络和受限玻尔兹曼机（restricted Boltzmann machines）；Socher 想为语言争取同样的交换：数据进，结果出，不用手工做特征。2010 年，他发表了第一篇神经网络 NLP 论文。拒稿接踵而至，领域里几乎没有人关注。

博士毕业后，他先在斯坦福做讲师，后来成为兼职教授，因为当时仍然没有人把神经网络作为 NLP 的正式教学内容。Hugging Face 的几位创始人都是他的学生，他还投资了他们的第一轮融资。他的第一家创业公司 MetaMind 做了一个通用的神经网络平台，覆盖视觉和语言，后来被 Salesforce 收购，他随之成为首席科学家。2018 年，他经历了自己所说的最后一次、也是最大的一次拒稿：一个统一处理所有 NLP 任务的模型。用不着为情感分析和翻译各训练一个模型，只需直接问：“这段话的情感是什么？”“这句话的摘要是什么？”“这段文字里提到的总统是谁？”OpenAI 后来在 GPT-2 和 GPT-3 的论文中引用了这项工作。现在这种做法有了名字，叫提示词工程。Nathan 指出，同行评审还是会以同样的方式出错：他刚刚看到 Mamba 那篇论文收到一份语气笃定的拒稿意见。

被问到从那个通用模型的想法以来，最让他意外的是什么，Socher 说，技术的走向基本和他期望的一样。真正的冲击来自应用层面。到 2022 年初，You.com 就已经有了能在搜索结果里写代码、写文章的应用。每当团队把默认体验做得离谷歌太远，绝大多数用户都会说他们已经习惯了谷歌，不想换一种找答案的方式。产品总被拉回“十条蓝色链接”。

随后 ChatGPT 上线，人们一下子就懂了：答案本来就可以是纯文本。You.com 一直在慢慢往这个方向靠，但用户需要更猛烈的一击。“真正的答案，就是获取答案的最好方式，而且答案本来就是文本。”Nathan 自称是 Perplexity 的忠实用户，也邀请过 Aravind Srinivas 上节目，他说 You.com 已经进入了他每周要用好几次的工具之列。如果是一份多页的综合报告，Research 模式往往是他手边最好的工具。

Socher 说，一年前 You.com 是唯一一个既有联网语言模型、又有数百万用户的搜索引擎。这个想法之后被多次复制，包括 Perplexity 也在做。所以竞争力现在必须来自更好的技术，而不只是在网页上放一个聊天机器人。在一项针对 500 条真实用户查询的比较中，用户有 50% 的时间更喜欢 You.com 的回答，30% 的时间看不出差别，其余的时间更喜欢 Perplexity。这是默认 Smart 模式的结果：完整的事实性回答，附有仔细的引用，包括昨天或今天的文章。

他把这些模式和 Daniel Kahneman 的快思与慢想联系起来，用的是助手的比喻。Smart 模式相当于让助手花 2 到 3 分钟做一次快速查询。Genius 模式针对的是需要编程、网页搜索和数学运算的问题：给助手大约几个小时，而你等待的实际时间只需 5 到 10 秒。一个负责调度的模型会调用其他模型，编写 Python、执行，然后画图。在现场演示中，它查询了印度和美国当前的人口数据，假设了一个增长率，然后画出一条一直延伸到 2100 年的曲线。当某个库没有通过安全检查时，系统会绕开这个库，用又长又绕的办法重写代码，然后再试一次。

Research 模式相当于让助手花一两天时间。它搜索的是开放的网络，而不只是现有索引，顺着新线索追加查询，然后综合成一份报告。Socher 的演示内容是伯罗奔尼撒战争的背景与影响：一篇长文，每句话后面都有一两个可以点击的引用。Nathan 曾经把一大串 200 词的问题一次性丢给 Research 模式，内容是混合专家（mixture-of-experts）的细节：有多少个专家，每层激活几个，是否存在任何规模定律（scaling law），然后他不断追问。他则用 Genius 模式对世界上的大型数据集与 GPT-4 的训练数据、可用算力做了一次费米估算（Fermi estimate）。Socher 对这一整层能力的概括是：未来已经来了，只是分布得还不均匀。

引用逻辑不是可有可无的装饰。团队发现，有的竞争对手“随便在句子里加数字和引用”：点进去，页面根本没提到那个事实。Socher 认为，这会动摇整个聊天式搜索的根基。引用的准确性只是众多需要做对的子系统之一。涌现能力仍然让他吃惊：要一副好用又不贵的降噪耳机，系统会生成一张表格，包括图片、优缺点和价格，没有人为耳机写过模板。

Socher 描述了底层的两套体系：搜索和聊天。必应价格高，质量也不够好；谷歌不经特殊协议很难接入，而抓取 SERP API 又处在他不想碰的法律灰色地带，所以 You.com 自己做了网页索引。旧的谷歌和必应索引假设的是一个人看十条蓝色链接，所以每个 URL 只存很短的一段摘要。大语言模型可以读长得多的段落，提取答案，只把答案展示给用户。他们对 API 做基准测试时，它比谷歌和必应都更准确。他承认，诀窍几乎有点像作弊：片段长得多。

评测方法借用了问答领域的做法。拿 HotpotQA、SQuAD、MS MARCO、FreshQA 这类数据集来说，每条都配有一段文字、一个问题和一个简短的标准答案片段。把这些段落全部去掉，引擎就得从实时网络中找回正确答案。他们就是用这种方式，把自己和谷歌以及公开 API 放在一起比较。Nathan 的概括是：每个 URL 上的上下文更丰富，并且与读取它的模型无关。Socher 说大体如此，但需要补充一点：他们并不声称索引总量更大。印尼某地用当地方言写成的冷门皮划艇租赁页面，可能仍然只存在于谷歌那里。但在西方新闻和用户实际会搜的查询上，他们每条结果返回的文本更多。

他开始把这套聊天体系称为 LLM 操作系统（LLMOS），这个比喻受到 Andrej Karpathy 的启发。语言模型是 CPU；基于向量数据库的检索增强生成（RAG）是硬盘；互联网是 You.com 提供的以太网卡；你编排的其他模型像是某种 GPU；Python 解释器则是架在上面的应用，也就是 Genius 模式。使用搜索 API 的客户，正在重复 You.com 自己走过的弯路。开源的“LLM 套壳”看起来很简单，直到你先问“奥巴马是哪年出生的”，再接着问“他出生在哪里”，搜索后端就完全不知道“他”是谁。

查询改写只是大约十个这类系统之一，每天要运行数百万次，服务数百万用户。“一家大型 CRM 公司是什么？”会得到 Salesforce；而“他们的股价是多少？”不能原样把“their”这个词发给搜索引擎。另一个子系统是判断要不要搜索。“写一首关于湾区日落爱情故事的诗”不需要每一行都加引用；把诗歌史塞进提示词里，只会让提示词变乱。有些网站会把搜索结果硬塞给每一件事，包括一段关于你情绪的对话。后面还会提到另外两个子系统：选择调用哪个模型，以及根据查询动态改写发给该模型的提示词。

谷歌让人们习惯了免费、靠广告支撑的搜索。新一代 AI 原生的搜索引擎更倾向于订阅；Nathan 在 You.com 上没有注意到赞助内容。Socher 不喜欢广告，但说得很直接：风投的钱只能烧这么久，免费产品必须活下去，而你如果不付费，就会看到广告。聊天引擎很可能会在今年推出广告产品，这会让用户不满意。搜索 API 长期是双头格局：消费级搜索是谷歌，API 是微软，微软利用这一位置把价格提高了 5 到 20 倍，小公司只能手忙脚乱地应对。他很高兴现在竞争多了。

订阅业务在增长。You.com 右上角仍然保留经典链接，因为有时候你想一键回到类似谷歌的结果，也有时候你需要的是一个能直接显示实时股价的应用。Safari 不允许设置第三方默认浏览器，所以他们做了一整款完整的 iOS 和安卓浏览器。Socher 非常兴奋，因为 You.com 将在 3 月出现在欧盟要求的 iOS 17.4 浏览器选择弹窗里，它是名单上唯一的聊天式浏览器，与 Chrome、Firefox 等常见选项并列。这一点，加上把年轻人带进助手、再引导他们使用 Genius 和 Research，是他们分发策略的重要部分。节目接近尾声时，他还提到，Hugging Face 的 CTO Julien Chaumond 刚刚成为一名天使投资人。

Nathan 提出一种“AI 套餐”：他愿意每月花 100 美元，按份额使用一千种工具，因为单一产品的免费增值模式太难熬了。You.com 每月 10 美元的订阅价，是他见过最低的之一。Socher 说，他们很快会涨价：愿意付费的人往往不在乎是 10 美元还是 20 美元；想用 GPT-4 的人（“与 ChatGPT 底层完全相同的模型”）则应该趁现在价格还是 Plus 的一半时入场。Nathan 自己公司 Waymark 的用户常见的情况是买一次、取消，偶尔再回来，而风投很讨厌这类指标。Socher 对套餐的回应简短而礼貌：听起来是个好主意。Nathan 开玩笑说，他要么自己动手做，要么等着别人私信他。

Nathan 想知道，几家大型科技公司的套件，比如微软的 Teams 和必应、谷歌的 Workspace，或许还有 Salesforce 的 Slack 和 You.com，会不会玩抢椅子游戏，把年轻的 AI 搜索公司吞并进去。Socher 认为，谷歌的垄断会更难维持。他不太喜欢这个类比，但搜索可能更像快餐：不只有麦当劳，还有汉堡王、肯德基和塔可钟。新一代是在 TikTok 和 Reddit 上长大的。这些应用中的每一个，都已经在从谷歌那里分走一部分查询。

亚马逊是最成功的一次“突袭”：如果你想买一件 50 或 100 美元以下的东西，你会去能直接完成购买的地方搜索。TikTok 则抢走了年轻人的餐厅搜索，他们更想知道这家店拍出来的视频好不好看，而不是地图上的一个图钉。聊天还扩大了蛋糕的大小。没有人会让谷歌写一篇复杂的伯罗奔尼撒战争论文，或者算一笔带两个利率变量的房贷，因为谷歌不会写代码，也不会替你总结五十个网站。你也不会向搜索框倾诉自己的感受。事实越复杂，你就越不会去谷歌。

Nathan 认为，这道门槛看起来很像云计算：需要数据中心、算力、带宽，以及只有大公司才有的各种输入。Socher 说他非常兴奋，也愿意接招。他们进入这个领域，是因为看到了 Transformer、注意力机制（attention）和提示词工程，并认为这项技术已经成熟到足以颠覆搜索。谷歌每天的营收大约在 5 亿美元的量级；这么大的生意并不想被颠覆，这也是 Transformer 论文的几位作者离开谷歌的原因之一。开源把门槛从数十亿美元和十年的工作降了下来，但要把它变成一个每天运行数百万次、持续在线、引用准确又能保持更新的产品，依然很难。如果把 You.com 压缩成两个词，他说，那就是“惊人的答案”。在 ChatGPT 陪伴下长大的这一代人，不会再回头了。

在局限性方面，Nathan 先从推理讲起。Genius 模式的编排通常调用 GPT-4；编程也常常如此，但并非总是。这就是第三个子系统：用哪个模型，有时要用好几个。第四个子系统是动态提示，同一款产品会根据查询发送截然不同的提示词。Nathan 问，未来的推理能力从哪里来：是思考词元（thinking tokens）、额外的测试时算力，还是 OpenAI 奖励中间数学步骤的过程监督。Socher 先指向那三种模式，它们已经是可变的算力分配；随后又指向代码。

他认为，未来对推理影响最大的，是能够编程、然后执行的模型。这是第五个子系统，而一打开它就成了安全问题：有人会要求它一直挖矿直到机器资源耗尽，或者让它爬上五层目录、导出密码文件。隔离必须先做好。怀疑论者说语言模型做不好数学，这一点说得有一部分道理。你用自然语言让一个模型计算 5600.3 乘以 365，它会假装做了几十亿次内部乘法，结果却仍然算错。但如果教会同一个模型识别数学题、写出 Python、运行并读取输出，它就能做好。有人说这是作弊。Socher 说，这是“一种新的推理方式”，一种不必看起来像一个人在脑子里做长除法的智能。

他在具身智能上用了同样的思路。希望有能打扫公寓的机器人是有用的；但把身体当作智能的必要条件，是想象力的局限。盲人和聋人同样有智能；缺少某种感官并不会取消资格。智能的某些方面依赖感官，比如解释日落或听懂一首奏鸣曲，但大多数方面并不依赖。AI 可以检索事实、编写程序、编排它们并给出答案，而不必把整个互联网烘焙进权重里。Nathan 同意，因为这些系统会说英语，人们便以为它们内里更像人类，其实不然。他还引用了 Eliezer Yudkowsky 关于心智可能空间的文章，认为即使快速起飞（FOOM）的情景看起来不太可能，这仍是有用的准备。

Socher 很喜欢科幻小说。他平时读的大多是非虚构作品，但很喜欢《三体》，希望剧集改编能不负原作。他认为，扮演 AI 安全研究者的科幻作家，在叙事上占据了太多话语权。《终结者》是他小时候喜欢的电影，却在“积极地伤害”欧盟。美国更像一个诉讼社会，欧洲更像一个立法社会；两种逻辑都有道理，但科幻情景在法律上获得了太大的分量，以至于欧洲正试图禁止或过度监管超过某个参数门槛的模型。GPT-2 当年被炒作成太危险而不能发布，如今更强大的模型已经发布出来了。他没有见到末日，甚至没有见到大语言模型推动的网络虚假信息出现巨大跃升。

他说，没有人在研究自己设定目标和目标函数的有意识 AI，因为这不会为任何人赚钱。试想一下，花数十亿美元做一个能理解自身的系统，然后请它帮你赚钱，它宁可去看日落。没有人会为此付费。研究进展如此之少，很难预测这样的系统何时会出现。Nathan 的立场更接近自由主义，希望自动驾驶出租车更早到来，同时保留“根本性的不确定性”：Geoffrey Hinton 的观点是，人类之所以统治地球，是因为我们会规划、推理和使用工具，而如今 AI 三者都能做，而且进步曲线更陡。被问到末日概率时，Nathan 给出的范围是：一百年内，在 5% 到 95% 之间。

Socher 的第一点更正是数学上的：末日概率听起来像先验概率；它应该是基于数据的后验概率，而目前的数据并不支持人类沦为宠物那种生存性末日。他想提出一种区分：超人类的能力与超人类本身。AI 在翻译一百种语言、预测蛋白质序列中的下一个氨基酸，以及天气预报方面，已经是超人了。2018 年他的 Salesforce 研究团队发表的蛋白质工作，如今已有公司在沿用。这些曾经是 AI 的巅峰；一旦解决，它们就不再被叫作 AI。语言也许是唯一保留这个名称的例外。只要容量足够，预测下一个词元就足以学会：从纽约开车往北，更可能到的是波士顿，巴黎的可能性小得多。他说，这个目标里没有任何东西暗示模型该消灭人类，让未来的每个序列都是字母 A，而困惑度（perplexity）降到零。“这太荒谬了。”

他与感到末日焦虑的对话者交流过，包括与 Nick Bostrom 的一次对话，刊登在一家德国报纸上。他发现这些情景天马行空：灰色黏液、一种潜伏一年再杀死所有人的完美病毒、并不存在的科学。他正在写一本关于 AI 用于科学的书。在具有自我意识的机器方面，目前没有突破。认为最聪明的实体必然统治一切，这并不是政治运作的方式。他“非常非常乐观”，但也承认当下确实存在问题：模型会学到种族主义、性别歧视，以及网络上那些不光彩的其他偏见。

针对 Yoshua Bengio 提出的三类威胁，即有意滥用、无意滥用和失控，Socher 把有意滥用放在首位，并称它是真实存在的。他认为，开源有助于人们理解这些威胁，并与之抗衡。人们本来就应该对互联网保持怀疑；从 Photoshop 问世以来，他们就应该对照片保持怀疑，如今也必须把这种怀疑延伸到视频和语音上。各个文化对旧有伤害被放大后的回应会各不相同。否认大屠杀在德国是违法的，在美国则不违法。他认为，完整的生存性情景并没有可以当真的概率。大多数情况是，人们借助更强大的工具去对付其他人。

Nathan 赞赏正面未来愿景这种稀缺资源：《杰森一家》对 2030 年的设想，至今仍接近最先进水平。他还分享了一个 GPT-4 红队测试的趣事：一个仿《三体》风格的硬科幻故事，讲的是文本到蛋白质的模型，最后演变成一场围绕分子的提示词大战。他说，这很荒诞，但也许并非完全荒诞。他会用与 Socher 相同的方式排列风险，把 ChaosGPT 式的恶意行为体，甚至把谈论“全面灭绝倾向”的说法，放在风险清单的最前面。他对末日概率为零的保留意见来自积分：每一条科幻路径的概率都可以趋近于零，而路径的空间却极其庞大，一个函数趋于零，并不能保证积分也趋于零。

Socher 给出了一个极小的数字，10 的负若干次方，因为在 50 亿年的时间里，任何事情都可能发生，包括《三体》式的外星文明带着 AI 到来。但在他看来，这并不足以成为花费数十亿美元和大量公众注意力去对付它的理由。Twitter 上的 Pessimist Archive 就是他的例证：人们曾经认为小说、报纸、互联网和无线网络会是文明的终结。现在就设计应对措施，就像在真空管计算机时代为对付“机器发疯”写防御方案，或者像 1970 年代 ARPANET 的 TCP/IP 专家那样，预言外国势力会通过社交媒体干预选举。他们谁也没有说中。拨出几名研究者去研究那些酷炫的情景就够了；不要把普通人吓得远离这项技术。即使没有意识，它也会带来比农业、蒸汽、电力或互联网更大的生产力跃升。工作会大幅改变，新的工作也会出现。但这不会一夜之间发生：很多公司仍然没有上云，美国和德国的一些地区也仍然没有完整的互联网。

蛋白质是他的例子，既说明什么样的监管确实有道理，也说明他为何依然兴奋。一切疾病都要通过蛋白质发生作用。几个月前他读过一篇论文：把铁分子放在碳纳米管的一端，另一端连接只与脑癌细胞结合的蛋白质，然后把纳米管注入患有脑肿瘤的小鼠体内，再用磁场转动铁分子，对每一个癌细胞做纳米手术。美国最近禁止了能让病毒更致命的功能增益（gain-of-function）研究。科学家本身并不是漫画里的反派，只是目前认为这种权衡不值得。他认为，开源蛋白质模型并非造出新病毒的决定性因素。如果你已经有湿实验室（wet lab），就可以做 Frances Arnold 为获得诺贝尔化学奖所做的事：定向进化（directed evolution），即随机变异加上实验流程，反复迭代。

在 You.com 内部，涌现的能力仍然让人惊叹：用户会问耳机表格是不是专门写过程序，其实没有，只是下一词元预测把零件拼在了一起。行动类功能显然已经在路线图上。把最惊艳的回答推到底，就是“我已经按你说的做了”，用不着再告诉你该怎么做。这类酷炫的演示很容易做，真正杀手级的用例却很难。在聊天里订机票就很难：系统订下了你指定的时间，却因为漏掉了那个多半小时中转、多一程、但能省 50 美元的选项而显得很笨。Expedia 花了几十年做一个可视化界面，把每一种权衡都摆在同一屏上。一个与你共事了几个月的人类助理，知道你对价格的敏感度，知道你什么时候愿意坐红眼航班，有时还会带回三个选项。在演示与那个人之间存在一道恐怖谷（uncanny valley），纯文本跨不过去。这就是为什么 You.com 仍然推出股票行情应用，为什么链接也保留下来：语言加上设计好的界面，往往才是正确的组合。

谈到通用人工智能的时间表，Socher 说，必须留意术语。老的定义（包括他自己的）是：超级智能加上意识加上自设目标，能力超过所有人类。营销把“AGI”一词拉低到了能够交付的产品上，而把“超级智能”搁置为长期的标签，就像一家多星球公司仍然要先把卫星送进轨道一样。投资人和金融圈有一种务实的定义，他觉得并不荒谬：80% 的工作可以被自动化到 80% 的程度。很多工作是重复性的，不需要新的科学发现。他会把范围收得更窄：在浏览器或电脑上完成的数字化工作，那里可以大规模收集训练数据。“没有人在为水管工、屋顶工、瓷砖工或保姆收集训练数据。”这些工作短期内不会被自动化。

他怀疑，连放射科也能发现头部 CT 上 80% 的问题；剩下的 20% 是长尾，放射科医生可能一辈子都只在教科书上见过，而单样本学习（one-shot learning）在这方面还不够好。自动驾驶让责任哲学变得具体。在一个功利主义的思想实验里，如果 AI 驾驶 2000 万英里造成 10000 人死亡，而同样里程里人类司机导致的死亡是这个数字的 5 倍，那你就应该部署它。如果 AI 汽车造成的那一起死亡是你女儿，你会起诉，并试图让这家公司倒闭。好的一面是，模型可以从事故中学习；发短信开车的人类已经违法，却照样这么做。未来几年，重复性工作的自动化在他看来很可信。至于能自设目标的完整有意识超级智能，他不做预测，因为没有人在这方面取得进展；而如果一个系统的唯一目标仍然是交叉熵或困惑度，他也不会称它为超级智能。

在一轮快速问答里，谈到检索、记忆和在线学习，他对这三者都很喜欢。检索就是对网络的 RAG，现在也包括对上传文件的 RAG。短期记忆仍然存在于提示词里。个性化则是他们务实的在线学习：系统会记住你谈到自己的内容，过程透明，而且可以关闭。他接下来想要的是：模型能即时适应点赞、点踩，以及一句口头的“我不喜欢那个回答”，然后有章法地更新之后的回答。他希望能有第二期节目。眼下，宣传语依然是两个词：惊人的答案。