Demis Hassabis：先解决智能，再解决其他一切

Lex Fridman 以一个套娃式的玩笑开场：如果他是 Hassabis 写出来、用来练习采访人的 AI，直到练得足够好能采访 Hassabis 本人，Hassabis 会不会告诉他真相？这位 DeepMind 首席执行官笑着说，大概不会。告诉这个系统，就会改变它的行为。他把它称为海森堡式的情形，即观测干扰了被观测的对象。Fridman 则把这个包袱发展成一场元图灵测试，像是一段来自未来的 2022 年重播，而那个未来里的 AI 还不够好。

Hassabis 对图灵测试的态度，比多数人预想的要冷淡。图灵是他的英雄之一，1950 年那篇论文的影响力难以估量，但他说，如果认真读这篇论文，就会发现图灵从未打算设计一套严格的考试。他没有规定评判者是谁、掌握什么知识，也没有规定可以审问机器多长时间，而这些参数恰恰是要把思想实验变成正式测试所必须锁定的。十年前，就有人声称用一个很普通的程序通过了测试，那个程序扮演一个孩子，于是评判者就放了水。这与一位清楚系统如何构建的专业 AI 研究者面对的情形，完全是两回事。

他更愿意在数千乃至最终数百万项任务上为系统打分，这些任务覆盖整个认知空间，然后看它们能否泛化。听起来像人的一句话，不算数。DeepMind 当时最通用的智能体 Gato 把预测推得尽可能远：语言模型猜的是下一个词，Gato 猜的是下一个 token，这个 token 可能是一段文字，可能是机器人某个关节的角度，也可能是手柄上的某个按键。Hassabis 说：“预测似乎是智能的根本，而你预测的是什么，并没有那么重要。”Gato 只是个开始，他们已经在把它放大好几个数量级。

Hassabis 大约四岁开始下国际象棋。八岁时，他用比赛赢来的奖金买下人生的第一台电脑，一台 ZX Spectrum。在英国，这台机器培养了整整一代程序员，因为一开机，BASIC 提示符就在那里等着你。他的父母对电脑一无所知，但这笔钱是他自己的，所以由他拍板。他去书店，照着手册敲程序，然后开始修改，并写自己的游戏。那时他说不清楚，但他感觉这台机器是心智的一种神奇延伸：你给它一个任务，去睡觉，第二天回来就得到了答案。汽车延伸了腿，起重机延伸了手臂，而这台机器延伸了心智。AI 是顺理成章的下一步。

十一、十二岁时，他已经担任英格兰青少年国际象棋队的队长，并开始考虑走职业道路。十二岁时，他达到了大师水平，在同龄人中排名世界第二，仅次于 Judit Polgár。要在国际象棋上进步，就得思考思考本身，思考大脑为什么会犯错，并对着 1980 年代中期的实体棋类电脑练习，其中包括一台印有卡斯帕罗夫名字的棋盘。David Levy 1984 年出版的《The Chess Computer Handbook》讲解了这些程序是如何构建的。他的 Amiga 性能不足以运行完整的国际象棋引擎，所以他的第一个 AI 程序下的是黑白棋，搜索用的是 alpha-beta，评估函数则照搬自国际象棋的文献。他至今还记得自己写那个程序的情形。

十六七岁时，他已经在专业地设计游戏。《主题公园》（Theme Park）把 AI 作为模拟的核心组成部分，卖出了数百万份，并且会根据玩家的操作做出反应；它是早期的沙盒游戏，属于《模拟城市》一类，所以每一局都不一样。之后，他参与了《黑与白》（Black & White）的早期开发。他至今仍认为，那是商业游戏里最令人印象深刻的强化学习范例：你训练一只生物，如果你对它不好，它就会对村民变得凶狠；如果你善待它，它就会友善。玩家们发现，一连串微小的选择，会把一个角色养成什么样子。他说，游戏是一种独特的媒介，因为玩家是能动的行为者，而不是被动的消费者，它比电影或书更有直接的冲击力。

在 Hassabis 的职业生涯里，游戏经历了三个阶段：玩游戏、做游戏，然后从 DeepMind 成立的第一天起，把游戏当作学习算法的试验台。理由非常实际。人类已经玩其中一些游戏几百甚至上千年，所以天花板是清楚的。胜负条件很明确，所以奖励函数很容易设计，而强化学习最怕的正是模糊的奖励。你可以在云端并行运行数百万局游戏。最后，你还可以让系统与世界冠军同台对弈，这是一个谁也无法争辩的外部标准。DeepMind 还从他之前的圈子里招来了熟悉的游戏工程师，很快就为实验室打下了基础。

围棋曾被视为 AI 的耻辱：人们说，无论摩尔定律怎么发展，都破解不了它，因为搜索空间太大。当一台机器在一个被反复宣布为不可能的领域里获胜，Hassabis 说，这种冲击会波及数十亿人，而且这是一种认知上的冲击：所谓不可能，只是我们一直以来的信念。卡斯帕罗夫把国际象棋称为智能的果蝇（Drosophila），Hassabis 很喜欢这个说法：图灵、香农和其他奠基者都曾尝试编写国际象棋程序。图灵那时的计算机太慢，他就用铅笔和纸，花两三天手动运行自己的程序。深蓝击败卡斯帕罗夫是一个重大时刻，但 Hassabis 对卡斯帕罗夫的头脑印象更深，而不是对那台机器。同一个大脑既能骑车、说话，也能搞政治；而由特级大师的知识手工编写出来的深蓝，连井字棋都下不了。缺少的是通用性，以及学习能力。AlphaGo、AlphaZero 和 MuZero，正是为了补上这一块而构建的。

以游戏设计者的眼光看，Hassabis 认为国际象棋之所以持续吸引人，是因为象和马之间的创造性张力。它们的走法截然不同，但几百年来，它们的价值被调整到大致相当的三分。交换它们，你就会瞄准不同类型的局面：马适合封闭的局面，象适合开放的局面，而这种张力本身就是这个游戏。他把创造力分为三个层次。插值是对样本取平均，例如从几百万张猫的图片中得到一只普通的猫。外推是 AlphaGo 在第二局里的第 37 手，那是人类几千年下棋史上从未有人发现的走法。真正的发明，则是发明围棋本身：一种五分钟就能学会、一生都难以精通、看上去很美、一局三四个小时就能下完的游戏。AI 能插值，也能外推。但它还没法接受那些高层约束，因为它并不真正掌握可以相互组合的抽象概念。也许有一天，它能在一夜之间自动平衡《星际争霸》这样的游戏，而这项工作如今需要暴雪的人类测试员花费数年。

被问到我们是否生活在模拟之中时，Hassabis 把这个问题拆开来看。他不接受 Nick Bostrom 的版本：我们只是某个后代机器上运行的一次性祖先实验，是数十亿个可丢弃副本之一。他认为，此刻这个实例是关键的，甚至可能是独一无二的。他确实相信，理解物理学最好的方式是计算性的：信息是现实的基本单位，而不是物质或能量。物理学家会写 E = mc²。Hassabis 则说，身体里分子的排列本身就是信息，在这个较稀薄的意义上，我们确实身处一场模拟之中，只不过这场模拟就是现实本身。

这一立场使他与 Roger Penrose 产生分歧。Penrose 在《皇帝新脑》（The Emperor's New Mind）中主张，意识需要某种量子的东西，某种超越经典计算的东西。Hassabis 与 Penrose 多次辩论。按他的描述，DeepMind 的使命，就是做图灵的拥护者：把经典机器推到极限，看它们做不到什么。他还攻读过神经科学博士，部分原因是想寻找大脑中的量子效应；但他说，主流生物学没有找到证据，我们看到的大部分现象都可以用经典方式解释。与此同时，AI 用十年时间推翻了一个又一个“不可能”的理论，从围棋到蛋白质折叠。他不愿意赌通用图灵机会有做不到的事。他的赌注是，大脑所做的事，可以在经典机器上被模仿或逼近，无需求助于形而上学。

他说，大脑是宇宙中最大的奇迹：几磅重的软组织，同时也是我们所知最复杂的物体。他一直想造出 AI 的一个原因，就是拿一个有智能的人造物去和人类心智做比较，解开那些古老的谜团：意识、梦、创造力、情绪。过去，心灵哲学只能靠内省去接近这些问题；如今有了功能性磁共振成像、单细胞记录，还有可以真正构建出来的系统。Fridman 用一句话概括了这个循环：宇宙造出了人类心智，而人类心智现在正在造出帮助我们理解二者的计算机。Hassabis 表示同意。我们或许就是宇宙试图理解自身的机制。

蛋白质是生物学的主力，是微小的生物纳米机器，身体里的每一种功能都取决于它们的三维形状。它们由一维的氨基酸序列决定，在自然界中会折叠成那个形状。结构决定功能，如果你想让一种药物结合上去，就需要知道表面的样子。折叠问题在于，能否从字母串出发，用计算方法得到三维结构。Christian Anfinsen 在 1972 年的诺贝尔奖演讲中提出了这个设想，但没有说明如何实现。Hassabis 听过有人把它比作生物学里的费马大定理：一句随口的话，引发了一个持续五十年的领域。Fridman 对他说，不管有没有诺贝尔奖，他都应该多在这种边角处留下些东西，让人们争论两百年，却不交代细节。

在 AlphaFold 出现之前，这项工作是实验性的，而且极其艰苦。你要让蛋白质结晶，而有些蛋白质，包括膜蛋白，根本无法结晶，然后再用 X 射线晶体学或者昂贵的冷冻电镜去测定结构。Hassabis 说，实验生物学的经验法则是：一名博士生，一个完整的博士学位，一种蛋白质。AlphaFold 2 只需几秒钟就能预测出结构。过圣诞节的时候，他们把整个人类蛋白质组都跑了一遍，大约 2 万种蛋白质。结构生物学家现在可以像搜索一样查询一种蛋白质，而不必先判断这个分子值不值得一位年轻科学家付出四年的时间。

更深的谜题是莱文塔尔悖论。Hassabis 说，一个普通蛋白质，长度可能是 2000 个氨基酸左右，它的构象数量级可以达到 10^300，但物理过程能在毫秒之内解决这个搜索。在健康的情况下，映射通常是唯一的，而这种唯一性并不显而易见，这正是问题困难的原因。错误折叠不是小误差：有一种关于阿尔茨海默病的假说认为，β-淀粉样蛋白折叠错了，并在神经元中缠结。蛋白质在相互作用时还会改变形状，它们不是静止的乐高积木。大自然在做一场看似天文数字般的搜索，而且它能按时完成。

Hassabis 说，AlphaFold 是 DeepMind 造出过的最复杂、或许也是最有意义的系统。游戏从来不是目的；它们只是通往通用学习系统的跳板，而这些系统可以被用来攻克科学问题，蛋白质折叠就是第一个重大证明。必须把超过 30 个组成算法组合起来。经过 40 年的实验，训练集只有大约 15 万个已解出的结构，远远少于他们通常希望的规模。自我蒸馏至关重要：模型自己最有把握的预测会被放回训练集，让它变得更大。他们还内置了来自物理学和进化生物学的硬约束，比如合理的键角，但没有让这些约束取代学习。系统仍然要从例子中学会物理。

AlphaFold 1 输出的是一张距离图（distogram），也就是两两距离的矩阵，然后由一个单独的优化步骤把它转换成三维结构。AlphaFold 2 去掉了中间环节，直接从序列走到坐标。Hassabis 说，在机器学习里，一个系统越端到端，效果越好，因为模型学习约束的能力，比人类设计师手动指定约束的能力更强。让梯度从你真正想要的输出一路回传到输入。人工设计的中间表示，就会变成天花板。面对一个新问题，方法是先用大量人工结构，加上一小块可学习的部分，然后让可学习的部分不断长大，直到吃掉其余部分。

这一规律贯穿 AlphaGo 的谱系。AlphaGo 是只为围棋训练的学习系统，目标是以任何手段达到世界冠军水平。AlphaGo Zero 去掉了人类棋谱，从随机自我对弈开始。AlphaZero 去掉了围棋特有的先验知识，包括棋盘对称性，因此它能从零开始学习任何双人游戏。MuZero 不再被告知规则，而是必须自己学习环境，覆盖电子游戏以及棋类游戏。这条路线从模仿学习走向完全自监督学习，但不能倒着走。如果先做 AlphaZero 或 MuZero，几乎不可能做成，一方面是因为它们是在制作 AlphaGo 的过程中学到了很多东西，另一方面也是心理上的原因。你必须在很长一段时间里相信自己，而身边的人都说这办不到。Hassabis 把 AI 称为一门工程科学：与自然科学不同，这种现象并不摆在自然界里等你去发现。你得先造出这个人造物，然后再把它拆开。

Fridman 问，“解决智能”中有多少是科学，多少是工程，又有多少是数据、算力、软件、人，甚至哲学。Hassabis 说，这是一种组合，但比例在变化。DeepMind 成立于 2010 年。当时没有人在谈论 AI。他记得那次在 MIT 做博士后研究前后的氛围：我们知道 AI 行不通；我们在 1990 年代尝试过逻辑系统，即所谓的老派 AI，Minsky 和 Patrick Winston 都做过。教授们觉得他押注学习方法是疯了。在业界，你几乎连两分钱都拉不到。使命宣言当时是，现在也仍然是：第一步，解决智能；第二步，用它解决其他一切。2010 年向风险投资人这样推销，只会得到奇怪的眼神。他们找到了几个古怪的投资人。他们不再向教授们提起这件事，因为教授们会翻白眼，称这是职业自杀。

这些基本原则是和 Shane Legg 一起反复推敲出来的，它们是一套刚刚才同时变得可用的技术栈。深度学习刚刚由 Geoffrey Hinton、Yann LeCun 等学界人士发明出来，业界几乎还没听说过。他们认为，强化学习可以被规模化。神经科学通过功能性磁共振成像等工具，在系统层面（而不是实现层面）为架构和表征提供了一些线索。Hassabis 对强化学习的信心，有一个非常具体的生物学依据：1990 年代末一个著名的结果显示，猴子中脑的多巴胺神经元，像时序差分预测误差那样放电。如果灵长类大脑是这样学习的，这条路就不是死路。游戏产业已经让算力商品化，GPU 就摆在那里做矩阵乘法。最后一块是理论：AIXI，即 Legg 与 Marcus Hutter 共同研究的通用智能证明，是一种在极限条件下的强化学习系统，假设有无限的算力和内存，就像图灵机的证明那样。Hassabis 一直在等一个像图灵和香农之于计算机科学那样，承重的理论基础。

早期，最重要的是想法：深度强化学习，然后是 Transformer，然后是 AlphaGo。Hassabis 说，越接近通用人工智能（AGI），工程和数据的分量就越重。包括 GPT-3 在内的大型模型已经表明，规模是 AGI 解决方案的必要组成部分，但或许不是充分条件。他点出的另一项 DeepMind 的发明，是组织上的：一个多学科实验室，最初由神经科学与机器学习、工程、数学和游戏组成，后来又加入了哲学家、伦理学家和物理学家。他想要一个属于这个时代的新贝尔实验室，一台由人类心智组成的创新机器，去尝试构建学习系统。Fridman 感谢他在雄心勃勃的工作萎缩成修修补补、偶尔参加一次 DARPA 挑战赛的时候，仍然让强化学习和“解决智能”这个说法保持了生命力。Hassabis 同意，信念必须贯穿整个组织，否则工程师们永远没有机会造出那个东西。

AlphaFold 虽然了不起，却只是开始。生物学是动态的。接下来是蛋白质与蛋白质的相互作用、蛋白质与配体的结合、代谢通路，最终是一个虚拟细胞。Hassabis 二十年来一直在和 Paul Nurse 讨论这个梦想。Paul Nurse 是诺贝尔奖得主生物学家，负责运营 Francis Crick Institute，如今这座研究所与 DeepMind 只隔几分钟步行路程，位于国王十字区。如果能够模拟一个细胞，大多数实验都可以在计算机里完成，只需要在最后阶段于湿实验室里验证。从靶点到候选药物通常要十年，这个周期或许能缩短一个数量级。AlphaFold 之后，他给 Nurse 打了电话，说时机到了。他还有一个更大的赌注：如果数学是描述物理学的完美语言，那么 AI 可能就是描述生物学的完美语言，因为生物学混乱、涌现且动态。他很难相信我们能得到一个细胞的牛顿定律。你得从构建模块出发，学习规则，然后让模拟运行起来，就像一个你无法从上方分析的元胞自动机。

Hassabis 说，开源要根据具体情况决定，以求对人类的益处最大。DeepMind 买下了 MuJoCo，这是机器人研究者长期使用的物理引擎，在原作者的教授无法继续维护之后，专门将其开源。AlphaFold 的代码和结构数据库也公开了，因为下游的用途多到难以想象，更不用说产品化。一年之内，超过 50 万名研究人员使用了它；Hassabis 认为，这大致相当于地球上每一位专业生物学家。《科学》杂志的一期专刊把核孔复合体放上了封面：这是一种环形的门户，控制着进出细胞核的物质，几十年来一直无法在高分辨率下解析。全球四个团队，几乎同时利用 AlphaFold 的预测加上低分辨率的实验数据，像拼装巨型乐高一样把它搭建出来。他接触过的几乎每一位制药高管都说，他们的团队都在使用它。

并非所有东西都会开源。一些后续工作会走商业路线，因为这是积累足够资源和影响力的方式；一些会是非营利性的；还有一些，尤其是合成生物学方面的，存在双重用途风险。在发布 AlphaFold 之前，他们咨询了 30 位生物伦理学家。Fridman 问，AI 是否有一天会毫无争议地赢得诺贝尔奖。Hassabis 划出了一条清晰的界线。今天的系统是工具，就像伽利略的望远镜：功劳归于伽利略，而不是镜片。把互联网和 PubMed 平均一下，依然只是工具。要配得上这个奖项，系统需要自己发明类似广义相对论的东西，发明围棋，而不只是下出一步精彩的棋。话虽如此，下个世纪的很多诺贝尔奖成果，可能已经躺在互联网上，只是彼此之间还没有联系。他认为，突破将继续出现在不同领域的交汇处；DeepMind 本身就是神经科学与 AI 工程的杂交。人类心智无法想象的，是同时拥有整个互联网是什么感觉。也许是维基百科。整个网络超出了理解的范围，这也正是大型模型令所有人惊讶的原因，而那堆东西里等待被发现的联系，仍然是个谜。

疾病是 Hassabis 最希望 AI 提供帮助的两个领域之一，另一个是能源和气候。核聚变依然有物理、材料和工程方面的高山要翻越。DeepMind 进入一个新领域的方法，是与世界级领域专家坐下来，列出每一个瓶颈，然后挑出一两个当前方法能够处理、并且作为 AI 研究也有趣的问题。等离子体控制正好是完美的契合点。DeepMind 与瑞士洛桑联邦理工学院（EPFL）合作，发表了一篇《自然》论文，主题是用深度强化学习来控制托卡马克中的等离子体。等离子体的温度约为一百万摄氏度，比太阳表面还热，没有任何材料能够容纳它，必须由超导磁体把它悬浮起来。它本身不稳定。你是在一个盒子里托着一颗迷你太阳，而且只有毫秒的时间去移动磁场。传统的经典控制器是手工设计的，无法在瞬间做出反应。EPFL 拥有模拟器，状态可以观测，动作是线圈电压，奖励是等离子体能否保持稳定。他们的控制器能把等离子体塑造成各种形状，包括更有利于产能的“液滴”形状，并且把它们保持在创纪录的时长。他们已经在与聚变初创公司讨论下一个瓶颈。

第二篇论文处理的是密度泛函理论：学习一个泛函，使其足以近似薛定谔方程，从而描述电子的行为，进而描述材料的行为。精确解只适用于极小的分子；几十年来，人们一直在编写经验性的近似方法，去猜测电子云的分布。DeepMind 的做法是学习这个泛函，而不是手写它。他们可以在自己的计算集群上运行大规模的分子动力学模拟，生成几乎想要多少数据就有多少数据，然后训练一个能覆盖更多化学现象、同时仍接近昂贵模拟结果的函数。Hassabis 开玩笑说，当这些机器不在播放猫咪视频时，闲置的算力就在跑量子化学。一旦有了这个泛函，它的成本就远低于运行完整的模拟。

他说，他一生都在做 AI，是为了打造一个帮助我们理解宇宙的工具，理解物理学，理解现实的本质。当前的系统还无法攻克物理学，但等到 AGI 到来时，那是他会首先拿来应用的领域之一。时间、意识、引力、生命：我们每天都在与它们打交道，却不知道它们是如何运作的。为了过完一天，我们给它们钉上假设，把它们封进盒子。真正的科学家会不断把这些盒子从架子上拿下来。AI 或许能让我们拒绝过早下结论，并构建实验工具，去检验今天无法检验的想法，比如 Scott Aaronson 提出的问题：一个普朗克尺度的时空单元能容纳多少信息，或者宇宙是否在进行计算。他把所有知识都看作一棵树，启蒙运动以来，我们只刮到了它的一层皮。AI 会为攀登这棵树加速，不仅仅是通过发现规律，还通过设计新的仪器。

Fridman 担心，人类的认知之树只是可能之树中的一小部分，而非人类系统可能走得更远，再把结论带回来。Hassabis 把它分成三个嵌套的集合：我们今天理解的部分，人类心智原则上能够理解的部分，以及存在的全部可理解之物。第三个集合可能有坚硬的围墙：宇宙之外的东西，也许从宇宙内部根本无法知晓。也可能围墙只是我们那几磅重的大脑，被困在三维空间加时间里，而工具却可以在 11 或 12 维中思考。他打了个比方：和卡斯帕罗夫下快棋时，你想不出他的那一步棋，但他能解释，事后你就明白了。你可以欣赏莫扎特，却写不出莫扎特。费曼说过，如果你不能把一个复杂的题目讲得简单，你就没有真正理解它。Hassabis 可以想象，AI 会为我们有多愚蠢而叹气，而我们也会回嘴：如果你那么聪明，就把它讲简单点。

Hassabis 对外星文明的看法，与人们通常的希望相悖：从现有证据看，最可能的情况是我们是孤独的。这是一个时间上的论证。地球历史上的一个小小偶然，比如那颗小行星比恐龙灭绝早一百万年撞上地球，本可以让我们提前一百万年，也可能落后一百万年，而在宇宙的时钟上，一百万年什么都算不上。如果人类在未来几个世纪内没有毁灭自己，造出了 AI，并走向太空，那么 von Neumann 的自我复制探测器，大约在一百万年内就能播种整个银河系。戴森球会让恒星在银河尺度上呈现出闪烁。无线电和电视自 1930 年代起就一直向外泄漏；如果数百个文明持续泄漏一百万年，宇宙应该吵得不可开交。我们在太空时代打开了耳朵，却什么也没听到。

他并不接受那些常见的回答。搜索还不完整，我们在错误的频段上寻找，外星人可能太奇怪，以至于我们注意不到。他说，如果它们遍地都是，就不应该这么难找。动物园假说，即一条银河系的不干涉规则，要求我们相信数百个文明有着共同的优先级，而人类连在一个物种内部都无法协调气候变化。如果我们看到的一切都是为了我们好而投射出来的全息影像，那么从体验上讲，它就等同于模拟假说：你依然无法看到真正的现实。思想作为一种通信渠道，缪斯，甚至意识本身都被当作外星接触，某些物种可能如此运作，但它们不应该都是统一的。应当有一个分布：有侵略性的，好奇的，克制的，原始的，和我们水平接近的。

如果我们是孤独的，这在大过滤器问题上竟有几分令人安心：它很可能意味着那些艰难的关卡都已经在我们身后了。从化学汤中诞生第一个生命看起来很困难，但 Hassabis 不会对其他地方存在单细胞生命感到震惊。多细胞化看起来难得多：吞下一个线粒体，然后不去消化它，而是让它成为你自身的一部分。他的书架上有 Nick Lane 关于进化伟大发明的那本书。智能，据我们所知只在地球上进化过一次，是另一个可能的候选。关于人类智能的起源，他列出了：火与烹饪（能量效率），工具与长矛（人类抵达美洲之后大型动物灭绝），以及部落合作加上语言（胜过合作性较差的表亲）。大脑很昂贵，大约占身体能量的 20%；一场认真的国际象棋对弈消耗的能量，与一名一级方程式赛车手一场比赛所用的相当。半个大脑并不划算。一个猴子水平的智商，在跨过人类门槛之前，无法支付代谢的账单，而这一跳非常困难，只发生过一次。AI 也是同样的形状：长期以来，一个精心构造的国际象棋引擎比一个通用学习者更容易做出来，因为通用系统一开始极其薄弱。

要实现 AGI，是否必须先解决意识问题？Hassabis 的猜测是，两者是双重可分离的。意识高、智能低：狗、海豚，具有自我意识，有社交性，显然会做梦，但按智商来看并不聪明。智能高、意识低：AlphaGo 在一个领域里超越人类，却没有任何“有人在家”的感觉。Fridman 提出，也许我们对智能的定义太窄了。Hassabis 同意，狗的专长本身也是一种智能，只是被进化压缩进了一条狭窄的通道里，而且，他开玩笑说，这是一个极其成功的通道，因为狗已经说服了整个人类物种来喂养它们、为它们服务。如果可以选择，他会先构建不具备意识的 AI 系统，只作为工具，直到我们更好地理解它们的能力。

对于那位声称 LaMDA 有感知能力的谷歌工程师，Hassabis 说得很直接。他从未遇到过一个有感知的语言模型。在他看来，今天的任何系统都没有哪怕一丝意识。我们看到的是一种投射：大脑被训练成会把能动性读入几乎任何东西，包括无生命的物体，而语言让拟人化变得轻而易举。1960 年代的 Eliza 只是扮演心理咨询师，把你的话原样弹回来，就骗过了很多人。这也是图灵测试作为正式测试有缺陷的原因之一：它取决于评判者的老练程度。他偏爱的工作定义来自 Max Tegmark：意识是信息在被处理时的感受方式。这个定义不太好操作，但切入的角度是对的。神经科学提示了一些必要但不充分的前提条件：自我与他人的区分，随时间保持一致的偏好，以及记忆。

这场对话中最尖锐的一点，也是他与 Daniel Dennett 辩论过的问题：我们判断其他人是否有意识，依据的是两条腿，而通常只讨论一条。第一条是行为：它说话和行动是否像一个有心智的存在。第二条是基底：我们都运行在同样几磅碳基血肉之上，所以最简约的解释是，你所感受到的，我也能感受到。我们永远无法与机器达到基底上的等同，因此我们只会有行为这一条依据，而这恰恰是我们愿意对动物给予怀疑利益的原因。实际问题先于哲学问题的解决而到来。当数百万甚至数十亿人相信一个 AI 有灵魂，并且这种信念确实给了他们慰藉时，那又该怎么办？他目前的立场是，语言模型还没有准备好大规模部署。可解释性、分析工具和护栏都还缺失。他倾向的一项政策是：AI 系统或许应该始终声明自己是 AI。哲学、社会科学、神学、艺术和人文学科都必须参与进来，因为它们最懂得什么是人。双重用途技术往往先被恶意者、天真的人和疯狂的人使用，社交媒体已经给出了这一课；而 AI 还多了一层曲折：它最终可能拥有自己的能动性。测试必须遵循科学方法，进行对照实验，而不是在线上做实时 A/B 测试。一个图片应用可以回滚。一个出错的 AI，可能在你修复之前就已经造成伤害。

Fridman 问了一个沉重的私人问题。超级智能 AI 将是世界上最强大的事物之一，权力会腐蚀人，而 Hassabis 恰好是最有可能掌握那个开关的人之一。他想过这件事吗？他说，一直在想。他所依赖的防御手段都很平常，但这是有意为之。保持脚踏实地和谦逊：他最好的朋友仍然是剑桥本科时期的那群人，家庭是他的锚。保持跨学科：无论你在某一学科上多么优秀，总有人比你更强，而从零开始重新学习一个领域，会令人谦卑。对他而言，生物学就是五年这样的经历，既令人快乐，也令人警醒。身边要有讲伦理、脚踏实地的人。更大的图景是根本性的丰裕：治愈疾病，解决那些显而易见的问题，最终走向星辰去寻找外星人，或者弄清楚他们为什么不在那里。AI 太大了，不能由一个人或一个组织来运行；它应当属于全世界。即便系统大部分知识是自己学到的，文化和价值观仍会在其中留下印记。消除稀缺性应该能减少零和思维，许多历史上的暴行确实是在资源紧张的情况下发生的，但这还不够。有些人就是想要支配他人，丰裕并不能消除这种欲望。

他是个彻头彻尾的夜猫子，并且围绕这一点做了优化。他大约上午 11 点到办公室，一直连续开会到晚上 7 点左右，包括协作和管理工作，然后回家陪家人、吃晚饭、稍作休息。大约晚上 10 点或 11 点，第二个工作日开始，一直持续到凌晨 4 点或 5 点：思考、阅读论文、撰写论文。他已经不写代码了，因为那已经不是他剩余时间的高效用途。要理清问题，纸和笔仍然比屏幕好。他常常打印论文并在上面做标记，因为手写的内容更容易留在脑子里。黄金时段是凌晨 1 点到 3 点，世界安静，播放着音乐，那些把团队锁进数年工作的问题就在这时出现：这个方法对不对，强化学习在这里行不行，用什么基准，我们是否得从零开始构建一个基准。夜间的时间很灵活。如果他沉浸其中，可以一直干到早上 6 点，第二天再付出代价。早起的人做不到这一点；早餐和 8 点的会议会打断思路。白天是对整个科学领域的剧烈情境切换。他很享受。他一直是一个通才，他放弃国际象棋的一个原因，正是意识到还有太多其他伟大的游戏，不值得只用一生去钻研一种。

他给学生的建议分为两部分。第一，趁年轻、还能承担风险的时候找到真正的热情，广泛探索，尤其是在不同领域的交界处。第二，认识自己：你什么时候状态最好，你如何学习，你如何承受压力；先改进弱点，再磨练独特的优势，因为这些是世界无法替代你的东西。真正重要的职业，是真实的兴趣与真正独特的技能之间那窄窄的交集。对他目前所过的这种人生而言，人生的意义是获取知识、理解宇宙。古希腊人把它视为少数真正的美德之一，而且这种理解会溢出到别处：你越了解世界和人，就会变得越有同情心，也越宽容。让他感到困扰的是，宇宙的结构似乎恰好让科学行得通，结果是可以重复的；而且计算机甚至是可能的，它们是由硅造的，而硅是地壳中常见的沙子。如果芯片必须用钻石来做，我们恐怕只会有一台计算机。“对我来说，很多事情都有点可疑，”他说。它就像一道被设计成可以解开的谜题，而你懂得越多，就越能看到自己知道得有多少。

Fridman 问了最后一个嵌套的问题。如果 Hassabis 是那个走进房间、带着第一个达到并超过人类水平的系统的人，而他只能问一个问题，他会问什么？“现实的真正本质是什么。”他可能听不懂答案，答案也可能是 42。他想象那个系统深深地叹了口气，然后拉着他的手：给出对物理学更审慎的说明，让他一窥今天的理论遗漏了什么，给出一个比我们不断打补丁的标准模型更深或更简单的框架，把意识、生命、引力这些人类几千年来一直在思考的谜团都纳入其中。Hassabis 说，也许它只会给他画一幅图。