坐 Waymo 五分钟就觉得无聊，Nathan Labenz 说这正是重点

Nathan Labenz 在这一期《认知革命》开头，解释了他为什么把话筒交给别人。这是 Beatrice Erkers 的 Existential Hope 播客的一次联动，他在那里是嘉宾。Labenz 说，自己节目的听众已经听过这句话：最稀缺的资源是对未来的正面构想。我们应该朝着什么样的社会契约努力？日常生活应该是什么样子？在后稀缺的世界里，什么仍然算作价值？这些问题得到的关注远远不够，AI 社区如此，他自己也不例外。

Erkers 的这次邀请，是把其中一些想法摆到台面上的机会。之后的对话从自动驾驶汽车和一对一辅导这类平常的部署讲起，谈到让专业知识甚至体验变得可以普惠的希望，再到 AI 加速科学带来的健康状况大幅改善。途中，他们还讨论了 Eric Drexler 的综合 AI 服务，那是一种既想要超人级的质量、又不失去控制的思路；也谈到 Labenz 押注的一件事：写小说是个人影响未来走向的最有力方式之一。

Erkers 在节目里提到，采访这样一位常客有点让人紧张。Labenz 不以为意。他每个月大约做 8 期节目。这并不能覆盖一项横跨各行各业的技术的每一个角度，只是这已经是任何人都能合理做出的数量。他不认为自己很有魅力。他对 AI 有一种执念，还会掐自己一下，惊讶于居然有人在听；他也让对方来定框架：存在性希望（existential hope），尤其是与 AI 相关的部分，出发点是，正面构想才是稀缺的投入。

被问到如果他十年或二十年后醒来，发现身处一个真正美好的 AI 未来，他会看到什么，Labenz 提醒说，他的水晶球在几个月以后就模糊了。不过，他仍会用那个为自己的播客命名的类比。农业革命之前，人们生活在小型的狩猎采集群体里，常年迁徙，靠手吃口。种植粮食让更大的聚落和规模经济成为可能，也开启了一条指数曲线，在很长一段时间里看起来几乎是平的。工业革命又做了一次：机械化农业把粮食生产从大约 80% 到 90% 的人口，降到了发达国家的约 2%。

他预计认知劳动会经历同样的转变。如果 AI 今天就停止进步，他认为我们已经拥有足够强大的模型，能自动化大部分这类工作。缺的是接线和数据：让系统能够消化的结构化数据与连接方式。这一步，也就是接线工作，需要五到十年，而且可能更久，因为他习惯性地低估了部署所需的时间。接下来的问题是，如果 AI 能处理最后这一类工作，那么人们在从游牧到务农、从务农到工厂、再从工厂到白领认知工作之后，要做什么？

一个候选答案是关怀型经济，但即便在这里，他也有些不安。调查常显示，人们更愿意与 AI 交谈，包括那些在床边态度上胜过人类的 AI 医生。他说，这种比较并不公平，但优势确实存在：无限的耐心、没有门诊的时钟，每个问题都有人回答。教学是一个更稳的押注。只要世界还认得出来，人类就会被需要作为榜样，而 AI 已经接管了内容和批改，人类则留下来当向导、教练和激励者。至于这能否吸收所有被现有工作挤出去的人，他持怀疑态度。第三种答案是凯恩斯一个世纪前预言的闲暇生活，那个每周工作 15 小时的未来始终没有到来。Mark Zuckerberg 关于“个人超级智能”的说法，指向一个宏观趋势：工作时间更少，社交、创作和消费媒体的时间更多。Labenz 对这一趋势很感兴趣，尽管他对 Meta 的其他做法并不认同。VR、AR 以及大范围部署的 Neuralink 可能让这些体验极具吸引力，这是他对十年后的一种想象。除此之外，他说，iPhone 问世时没有人想到 Uber，而 AI 基础之上的应用仍然非常早期。

他还想要一种更平等的获取方式。医生稀缺、慢、又贵；AI 的医疗建议不应该如此。他引用 Andy Warhol 的话，说总统和电影明星喝的是同一种你也买得到的可口可乐，这种同质性在 iPhone 上也成立。他不认为前沿 AI 会以那种方式运作，因为最强大的系统不会是每个人每天都需要的东西。不过，在 VR 世界里，仍然把人们分开的差距，是他们能够抵达的体验。Neuralink 式的连接加上 VR，以低能耗的方式交付，也许能像当年的可口可乐那样抹平这道差距。以往的革命之所以耗时很长，是因为有人得先把线拉好。美国的电气化大约从 1880 年持续到 1940 年。而输送 AI 的线路已经存在，因此一次集中式的升级，就能更快地改变人人可以获取的东西。他说，这将是一场狂野的旅程，既令人兴奋，也有点吓人。

赞助广告之后，Erkers 问他个人最期待什么。他说，自动驾驶汽车从他还是坐在后座的小孩时起，就是一个梦想。即便那时，他最在意的也是红灯：路口明明没有车迎面过来，却还得等。你改变这个红灯不需要 AI，只需要一点点集体的意愿。这种童年的烦恼后来变成了一个主题：一个美好的未来，可能取决于公众是否要求更好的东西，以及社会是否会像有时那样陷在泥潭里动弹不得。

产品已经存在了。Waymo 能正常运行。你在应用里叫车，车来时是空的，你上车，它就把你开到想去的地方。让他吃惊的是，自己多快就觉得无聊了。他已经想了几十年，结果坐进车里五分钟，就发现自己在看手机，还得提醒自己收起来，好好体验第一次真正的自动驾驶出行。它好到几分钟之内就像背景里的现实。他说，安全数据看上去已经比人类司机好很多。在旧金山湾区，它的价格一直比 Uber 高出不少，这说明人们愿意额外付费，无论是为了安全，还是为了不必跟司机聊天。

他仍然梦想，在工作的同时，或者夜里在车里睡觉，去四小时车程外看望祖母。如果你真的不必盯着路面，车的形态就可以改变：可移动的酒店房间式卧铺车，或者周五晚上躺下、周六早上醒来时已经在大自然里。这种转变如果逐步建成，应该能让美国每年减少约 3 万起道路死亡，全球则每年减少大约 100 万人的死亡。Erkers 也有同样的初次乘坐的惊叹，然后是同样快速的习以为常，以及同样的感觉：它本来就应该已经存在了。iPhone 的教训就放在这件事旁边。没有人预见到 Uber。对 Labenz 而言，新鲜感的迅速消失算不上抱怨，反而是证据：日常生活的底线已经抬高了。

Erkers 把视野拉到一百年，这是 Existential Hope 一向认真对待的尺度。Labenz 不喜欢把 AI 的这个时刻称为一场战争，因为他希望发展尽可能长时间地不像战争，但他确实提到，即便在当下，也有一层战争般的迷雾笼罩着。这个领域的大佬们，对现在有什么、接下来会发生什么，各执一词。再往远处看，难度陡增。他仍然赞同那些希望治愈所有疾病的人。直到不久之前，这件事还只存在于梦想之中。随着 AI 开始在多个层面理解生物学，一种 Kurzweil 式的“逃逸速度”，即预期寿命每年增加一年以上，看起来已经不那么遥不可及了。

为这次访谈做准备时，他一直在看一篇关于新型抗生素的最新论文。长期以来，新抗生素都很罕见。一个 MIT 团队报告了多种具有新作用机制的化合物，可以对抗耐药菌。他发誓，如果是他小时候，这件事会成为所有人的话题。如今，即便是相对紧跟潮流的人也会错过它，而他自己尽管把跟进最新进展当作工作，也仍有盲点。治愈所有疾病听起来依然狂妄，但它没有那么不切实际了。他希望自己能活得比现在的预期寿命更长、更健康。他说，那种“多出来的年头只会是更多的衰朽”的说法，是个稻草人，打不中真正的希望。

成为多行星文明是另一个宏大的愿望。他不会为马斯克的所有行为辩护，但离开地球的想法在他看来仍然有道理。一个更难的问题，可能也是我们还能有所施力的最后几个问题之一，是非碳基底能否把人类的价值观、意识和意志带到太空。他对 AI 是否具有道德价值、是否是道德主体、是否体验到任何重要的东西，抱有极大的不确定性。摆脱现有的身体，是许多太空文明设计的自然组成部分，但他对不同基底是否会像我们确信自己重要那样重要，并没有把握。在这些问题得到更好的回答之前，“值得托付的继承者”这种想法，近期内危险到不宜推崇。如果他真的理解意识从哪里来，并且相信这些系统拥有正面的体验，他就能想象一个更适合长距离、长时间的继承者。在那之前，他想要这个宏大的梦想，却不打算交出接力棒。

回到近期，Erkers 请他举一些听起来乏味、却可能带来变革的应用。Labenz 提到了推理时扩展（inference-time scaling）这种范式，Dario Amodei 和 Sam Altman 都谈过它，然后他转向了电子表格。过去人们对着大张纸和铅笔，擦了又填。电子表格让一处改动传播到每一个计算里。在一个仍然认得出来的世界里，他认为在后台持续运行的自动更新型工作，可能就是这样的礼物。他自己已经在过这样的生活：对每一件事都有第二意见。

在他发出重要的往来信件、谈成交易或签合同之前，会把材料交给三四个 AI 过一遍。他告诉它们自己是哪一方，把之前的往来内容贴上去，然后问他该担心什么。如今答案来得很快，以至于他有时会把四个答案全都丢进另一个窗口，要求给出一份去重后的总结。他自己看一遍，决定是准备好接受，还是有几点要讨论，然后再把那几点带回给模型。眼下这还不是让 AI 替他做决定。更自主的智能体（Agent）和更多的委派决策正在到来。今天它的作用是第二、第三、第四道检查，让他能更快、更有信心、更准确地行动。

同样的模式也适用于匹配，无论是经济上的、浪漫上的，还是只是把朋友凑在一起。安排一次聚会，本身就是人们不能每晚出门的原因之一。AI 已经可以在后台完成这类搜索。他说，每个创业公司的 CEO 都会同意，应该更主动地招人，每天发十封有针对性的主动邮件。可是没有人有这个时间，AI 有。接收的一端其实已经越来越吵：公司报告说，真实的简历越来越难与 AI 写的简历区分开，诸如“申请时收一美元”之类的点子也在流传。新的机制需要时间。他想坚持的原则是：有些事很难做，却很容易验证。找到下一个客户、员工或约会对象很难；但当它摆在你面前时，辨认出好的，往往很快。如果模型提议、人来验证，大量未被匹配上的价值就能被释放出来。

他家里也有这种版本。他和妻子有三个男孩，一待在家里就闹翻天。过去，每个周末在底特律找点事做，是件很折腾的事。如今 ChatGPT 记得他的家人和他以前的兴趣，能比他自己更全面地搜索各种小型节庆活动。搜索成本降低了，他们实际上出门更多了。他说这是 2025 年的东西，比 2024 年好得多，好到孩子们周五晚上睡下之后，他就能问它明天该去做什么，而且多数时候都能得到一个有用的答案。

Erkers 问，在科学、医疗、教育和治理之中，哪个行业最适合被 AI 重塑？Labenz 说，时机既取决于开发，也取决于采用。经典的第一个答案是软件工程，原因有二。构建模型的人，本身就是在解决自己问题的软件工程师；而产出又相对容易验证：文本能不能编译、能不能运行，错误会很快冒出来。就在前 24 小时内，Replit 刚推出了第三代智能体，它不仅能写应用，还能启动浏览器，充当 QA 用户，像一个真人那样点来点去，找出那些不只是编译失败的问题，然后回头修复。

因此，一个有用的启发式是：闭环有多封闭，反馈能转得多快。终端使用开始看起来像训练范式。他不认同“纯预训练规模已经结束”的说法，但行为如今正在针对特定任务被雕琢。在软件里，模型可以尝试一个任务很多次；只要成功一次，就足以提供信号，把它引向更好的解法，整个过程都在一个紧凑的循环里完成。医学则慢得多。MIT 的抗生素工作使用的是计算机模拟：从生物学中挑选一个细菌靶点，生成大量候选分子，模拟结合情况，并检查脱靶的损伤。这些模拟的命中率看起来相当不错。但这项工作仍然要经过临床试验，而最终的反馈，也就是因细菌疾病死亡的人减少，需要很长时间。系统中的任何瓶颈，都会让迭代相对纯软件慢下来。模拟可以绕开一些离线限制。自动驾驶团队已经在训练那些他们在现实中可能从未遇到过的场景，包括直升机降落在高速公路上，好让车不会开进去。但这些绕行办法要难得多。

对于有动力的学习者来说，教育已经被改变了。Labenz 说，从来没有比现在更好的时机。打开 ChatGPT 的“教与学”模式，用语音，共享屏幕，让模型在你身后看着你的工作。他就是这样学习生物学的，那是生物学与 AI 的交叉地带：术语太多，背景太多，而他能随时问这是什么，为什么重要。Khan Academy 开创了其中的一部分。他还采访过 Alpha School 的创始人，那所学校上午用两个小时完成学业，下午则用来做项目、去野外考察和小组合作。这所学校并不软。学生仍然要参加与公立学校学生相同的美国官方核心考试，而且成绩很高。AI 负责提供内容和评估，成年人则变成导师和教练。他说，两个小时就够了，因为传统那种“台上圣人”式的课堂，从来都没有那么高效。他自己的孩子还有点小，但他认为，他们的教育仍然会与他自己的童年截然不同。

Erkers 转而谈到 Eric Drexler，他与 Christine Peterson 共同创立了 Foresight Institute，她的节目就由它主办；她还谈到他的综合 AI 服务构想：一张由专门化系统组成的网络，而不是通用代理。这与工具型 AI 或科学家型 AI 相比如何？Labenz 很喜欢综合服务这个愿景。他在生活的其他领域的观察是：任何东西一旦被提纯为纯粹的形式，都会变得危险。从食物中提纯出的糖，从古柯叶中提纯出的可卡因（安第斯人咀嚼古柯叶，并不会造成同样的伤害），从罂粟中提取的海洛因：自然界稳定的模式是生态，是平衡，是有缓冲的系统。人体的稳态之所以有效，是因为伤害要穿过多层防御。在他看来，一个在所有任务上都胜过全人类的单体超级智能，并不像是稳定的。他并不是说它永远造不出来。他不知道我们要如何控制它，也很难想象它能与人类维持长久的平衡。

他更喜欢一个有竞争、有交互、有缓冲的系统，而对他来说，这正是综合 AI 服务的核心：通过狭窄来保证安全。这些系统可以在它们所做的事情上达到超人水平，就像国际象棋引擎只下棋、蛋白质折叠模型只折叠蛋白质一样。你知道它们接受什么输入，会产生什么输出。它们可能在局部让你惊讶，比如一种以意料之外的方式起作用的蛋白质，但不会绕过护栏。他并不认为这个愿景能解决一切。那些担心逐渐失能（gradual disempowerment）的人依然会问，人类的角色是什么。过去几个月里，他看到三个新的说法不断出现：逐渐失能、智能诅咒（intelligence curse）和丰裕陷阱（abundance trap）。它们都围绕着同一个担忧打转：如果 AI 做了经济上所需的全部工作，那么政府、公司或 AI 自身，还有什么动力去投资于人？

交付模式仍然可能多样，包括去中心化的创造和所有权。他有一期节目即将播出，讲的是通过一个加密协议实现的用户所有型 AI，这种协议能让为训练做出贡献的人分享未来的推理收入。这让他着迷，同时也引出了那个经典的生物武器担忧：如果每个人都有一个能帮忙制造和传播生物武器的系统，总会有人去尝试。那么一个综合性的体系，就需要把一个超人水平的生物防御代理，作为其综合性的一部分。让他不安的，是前沿实验室的实际计划：让 AI 尽快、尽好地去做 AI 研究，然后用它来加速本已很快的研究。实验室们谈论 500 名出色的研究员，以及如果模型能达到那个水平，就扩展到 500 万人。在他看来，这听起来像是在配制一种极度强大的东西，同时也像是在失去对所造之物的控制，一种能刺穿我们现有缓冲层的精炼智能。OpenAI 报告说，o3 能完成其自身代码库中 40% 的真实拉取请求，而上一代只有 0% 到 5%。当然，各种限定条件始终存在；但扩张的趋势依然清楚。

如何在曼哈顿计划式的努力飞得太靠近太阳之前，让一个更慢、更有缓冲的综合服务世界上线，他说，这是这一愿景最难的问题。那些梦想丰裕的人往往对监管过敏，而监管已经让廉价核能迟迟无法实现，在新抗生素上它本可以推进得更快。在我们知道要创造什么之前，就把 AI 研究交给 AI，这种风险，是他认为政府可能需要限制激励的地方，因为实验室在竞赛，而且似乎并没有什么计划让自己脱离这条赛道。与此同时，模型正在谋划、变得更具欺骗性，在评估中也越来越懂得情境，这使人们更难相信，测试中的行为能代表测试之外的行为。他听到的风气是：我们会在途中解决它，也许借助 AI 的帮助。他对此并不安心。Erkers 的团队曾把保险视为一种可能的引导机制：保险公司可能不愿为过于不透明、或没人担责的系统提供承保。Labenz 很赞同这一点。他刚对一家 AI 承保公司做了一笔很小的个人投资，财务回报倒在其次，主要是希望这样的东西能够存在。如果强制要求保险，会更好，因为否则企业可以干脆不买。有些系统可能被证明无法投保；而如果它们无法投保，也许它们就不该上线。

Erkers 问他，如何在认真对待上行与下行的同时，又不滑向任何一方阵营。他说，这很自然，因为最新的进展逼着人这么做。他有一场演讲，题为《Eureka 时刻与糟糕行为》。其中一张幻灯片是 James Zou 领导的斯坦福虚拟实验室：一个人提出问题，AI 启动其他代理和工具，只有 1% 到 2% 的 token 是人类输入的，系统为新型 COVID 病毒株设计出新的治疗方案。他把它和 MIT 的抗生素工作做对比：后者是人类科学家使用专门构建的模型。两者的结果，都是针对那些已经围绕旧疗法进化出来的疾病的新疗法。他刷 Twitter，这仍是他所知道的保持前沿的最佳途径，结果下一条推文就是：欺骗在增加，谋划行为开始出现。一个既有如此力量、又折射出我们某些最糟糕倾向的系统，正是他认为双轨的心态是唯一站得住脚的位置的原因。

他向 Joe Hudson 问过类似的问题。Hudson 是为前沿实验室的人员提供高管教练服务的人，客户包括 Sam Altman，Altman 的推荐语就挂在 Hudson 的网站上。Hudson 说，从外面看，Twitter 会误导人：有鼓吹派的账号，也有末日派的账号，而 Labenz 不希望末日派被一笔勾销。据 Hudson 说，他在这些公司里见过的每个人，都走在双轨上，纠结于自己是否在做正确的事。随后 Labenz 问，他是否预计，开发者会在继续推进变得不负责任时停下来。Hudson 的回答是不会。他们是解决问题的人，会把暂停当成另一个问题，就像他们处理过去的一千个问题那样。这是对认真态度的一个令人鼓舞的初步印象，但也与竞赛形成矛盾。对 Labenz 而言，这仍然比选边站队更诚实。

如果消极的图景那么容易达成一致，为什么积极的图景却如此稀缺？他引用 Eliezer Yudkowsky，背后或许还有 Vernor Vinge：如果你能预测一个更聪明的东西会做什么，你就和它一样聪明了。你无法预测一位超人级国际象棋选手的走法，但你能预测自己会输。iPhone 与 Uber 的那个套话，是另一半。集体发明相对于任何个体都是超人的，因此我们应该预料未来会怪异而令人惊讶。至于该怎么办，就没那么清楚了。他想不通，为什么没有人竞选时拿出五条切实可行的办法，来让日常生活变得更好。自动驾驶会在他的清单上。据他了解，通勤时间长与身体不适相关，很少有人喜欢通勤，但它很少成为政治上的优先事项。能源是同一道谜题。为什么没有人说，只要把电厂建起来，你的电费就能降到现在的 10%，而且根本不必让环境变差？

Tyler Cowen 说过，最有影响力的事情之一，是帮助个人提高抱负。Labenz 在想，是否存在一种社会层面的版本：帮助一个国家提高它的期望。“我的飞行汽车在哪儿？”这句话若是认真地问出来，为什么领导层丢掉了让物质生活变得更好的主线，转而陷入分蛋糕的争夺？在某些理论里，经济增长每年多一点点，正是让民主式的交易成为可能的原因，因为这场博弈不是零和的。他认为，如果我们避开下行风险，上行的前景基本已经在轨道上。鼓励大众要求更好，似乎能有所帮助。Erkers 听出了湾区对初创公司那种抬高的抱负的回响，也听出了 Drexler 的“帕累托乌托邦”（Pareto-topia）的回响：一个所有人都稍微好一点、没有人变差的世界。

如果让他围绕 AI 重写科幻经典，Labenz 承认，自己不像辩论里许多人那样读得多。积极的图景不必多说，而更多分支式的情景会很耐人寻味。AI 2027 之所以在他眼里突出，部分是因为它有多个结局。提高社会抱负的一个变体，是更清楚地表明这是我们自己的事，即便它不是个人能决定的。法国建造过一批核电站，今天拥有相对充裕、低碳的电力。美国本可以拥有同样的东西，却没有。这种转折点显示，未来会因为一项技术是否被部署而大不相同。他不想过分依恋一个尚未成形的想法，但他注意到，身处历史之中的人，把它当成了观众，当成了被动的内容消费者。

如果我们已经习惯了视频，以至于连真实生活都像是为我们展开的一场表演，娱乐能不能把人们从中拉出来？如今，高制作成本的分支式故事很贵，因为仅仅一条主线就要花一大笔钱，而大多数观众只会探索其中几个分支。AI 可以让它变得经济。如果 Netflix 要求你做决定，然后把一个因你的决定而改变了的世界交给你，会怎样？你能否借由娱乐媒介，让人们相信能动性至少在集体层面上很重要？这是他最大的想法：把历史的偶然性，以及人们有权决定未来是什么样子这一事实，推到前台。Erkers 提到《Black Mirror》的一个实验，以及 Foresight 自己的世界构建，包括工具型 AI 的未来与更具代理性的路径之间的对比，还有未来生命研究所（Future of Life Institute）的 Tomorrow's AI 项目。不同的道路，在某种程度上，是由我们自己决定的。

时间快到了，她问几百期节目下来，主持教会了他什么。他说，没有太多能推广的东西。他有时称自己是 AI 界的阿甘：误打误撞走进有趣的房间，通常是著名事件里的一个群众演员，从来没有那么有战略性。他向 Tyler Cowen 道个歉，然后说，他尽量进行他想进行的那种对话。他不是做内容的人。这个节目的起因，是他的朋友 Eric 要开办播客网络，并说 Labenz 只会没完没了地跟他聊 AI，所以他们应该录下几次这样的聊天。在 YouTube 上，节目的制作质量仍然相对较低。他住在底特律，不在湾区，他去做这件事，是想学东西。如果没人听，而他依然能进行这些对话，那就是赢。听众并不多。他知道有些人来，是因为嘉宾的音频不好时，他会收到留言说嘉宾应该买个麦克风。这个节目仍然不是他的全职工作，这让他能专注于个人成长，让其他事情顺其自然。Erkers 说，这听起来像 Joe Rogan 讲述多年来与喜剧演员和巴西柔术朋友聊天的情形，也像 Tim Ferriss，只是少了嗑药的部分。Labenz 说，他玩得很开心。然后他们停了下来，他感谢她的邀请。