慢速突触养出快速学习者，温暖才是更难的问题

Lex Fridman 以一个看似简单、实则很大的问题开场：我们究竟有多了解人脑？当时在 DeepMind 担任神经科学研究总监的 Matt Botvinick 说，眼下这个领域的历史节点很奇特。研究者在很高、非常粗略的层面上理解得很多：大脑是干什么的，它执行哪类计算，如果要往下追究机制，需要解释哪些行为。这比他高中时代的认识多得多。而在另一端，新工具让人们能够观察单个神经元，甚至树突。两种图景之间，横亘着一道巨大的鸿沟。

随着年纪增长，他越来越不愿意把心理学和神经科学区分开。研究肾脏的肾病学家，会先问这个器官是干什么的：把携带着不该存在的代谢废物的血液过滤，保留有用的成分，其余的排出为尿液。只有弄清楚这一点，工作才会转向怎么做。在他看来，大脑的作用是产生行为：把感知输入转化为应当具有适应性的行为输出。这种功能层面的解释正是心理学关心的内容。神经科学的其余部分，则是要弄清这些操作究竟是如何实现的。

与肾脏不同，从电信号到行为之间的跨度极其巨大，这也是他把认知科学、心理学和神经科学视为同一门科学的原因。Fridman 问，这种立场是理想化的愿景，还是务实的工程路线？Botvinick 的回答是两者兼有。他希望并预计，这一框架在未来几十年会结出果实。但他也不确定，如果不采用这一框架，两个领域还能做什么。如果事业的一部分不关心所产生的行为，他就不知道理解大脑究竟意味着什么。

Fridman 举了早期天文学作为反例：在没有物理学的情况下追踪行星，依然有价值。Botvinick 同意。你需要 Tycho Brahe 的数据，才会有牛顿。但他仍把那个阶段视为过渡。研究生时期，他对心理学中的“虚拟因果机制”感到困惑：注意力选定一个对象，关于它的信息随后被传递给运动系统。这些都是比喻。谈话中没有一个环节能还原为物理机制，而这正是完全理解行为如何产生所需要的。

他用遗传学的历史来安慰自己。孟德尔遗传学早于 Watson 和 Crick。在相当长的一段时间里，人们借助一种本质上是比喻的“基因”概念，富有成效地研究遗传：显性、隐性、重组。基因在哪里？它们是人们发明出来的解释性实体，被赋予了因果属性。后来，那个空白被一种物理机制填补了。他说，这个比喻依然值得拥有，因为它让人们清楚地知道该去寻找什么样的因果机制。

当被问到神经元之间的相互作用本身是否也只是比喻时，他迟疑了一下，提醒说这个答案可能有争议，然后说：并非如此。神经元之间的相互作用是物理事实，是因果相互作用真正发生的地方。你可以一直追问到量子事件，但他不打算钻进那个兔子洞。对他来说，永远停留在心理学的自然描述层面会令人失望。他想知道心理活动是如何从神经活动中产生的。反过来也一样：在不清楚要解释什么的情况下研究神经活动，感觉就像是在盲目摸索。

他绝不会说心理学本身没有成效。他受过心理学训练，还经常说自己从心理学中学到的，比从神经科学中学到的还多。研究生时期最让他印象深刻的是神经心理学：分析具有不同类型脑损伤的人，分离出由特定部位损伤所导致的具体缺陷。他觉得这种实验设计既有创造性，又很审慎，是好科学。一项实验回答一个问题，又引出另一个问题，你会感到自己正在逐步逼近对那一部分脑功能的大致理解。

他提到了关于语言的详细研究：语言的产生与接收，以及视觉、阅读、听觉和语义之间的关系。这些研究得出了很漂亮的模型，让人感到自己理解了以前并未理解的东西。他仍然认同 Fridman 的抱怨：高度受控的实验的代价是，按照其构造，你会错过真实世界的丰富性。真正把他引入科学的是联结主义（connectionism），这是 1980 年代对如今所谓深度学习的称呼，当时神经网络被用来模拟人类认知，并未用于生产工业产品。

他读了医学院，同时还完成了艺术史的研究生学位。他对外科和精神病学都感兴趣，觉得自己大概是地球上唯一一个在这两个领域之间犹豫的人。他的导师（后来才知道是一位著名的精神分析学家）告诉他，这并不少见：两者都要深入表层之下。在精神病学轮转期间，他坦白说自己确信没有人在做他想做的研究，那时他还没有“认知”这个词。导师从书架上拿下一套仍然塑封未拆的《并行分布式处理》各卷，他把它们带回宿舍，从头到尾读完了。

被问到大脑领域里最美、最神秘的想法时，Botvinick 提出了一个悖论。大脑看似遥远，却负责着日常生活的全部透明感。它正是让一切显得显而易见、熟悉亲切的东西，而且它始终就在你身边。他在普林斯顿教认知神经科学时，最后总会告诉学生，科学惊奇的惯用比喻是仰望星空。他完全赞成仰望星空。但他自己的惊奇感，来自那个极其亲密的大脑。

他赞同 Fridman 的进一步观点：大脑产生的不仅是推理，还有全部的体验。对于一直对艺术感兴趣的人来说，关于人工智能的讨论常常显得令人失望地狭隘。完整的人类体验有很多层，仅仅说“我们先做认知，以后再加上情感”，是不够的。解释这一范围的科学挑战令人望而生畏。这一直是他的执念。

Fridman 感叹，当一个研究社群围绕某个基准测试集结时，语言中的音乐性与机智也随之消逝。Botvinick 表示同意，但他为认知领域最早一批深度学习模型作了辩护：那些构建者关注的是丰富性。读研究生时，他看过一场听上去枯燥的关于英语过去式的辩论。一派认为，心智编码的是一条规则加上一份例外清单。联结主义者则说：去看看语料库。大多数动词加 -ed，但例外并非随机：其中有线索，而且例外中还有例外，这就是准规则性（quasi-regularity）。人们可以尝试把这一结构写成封闭形式。但他仍然认为，理解大脑如何处理它的正确方式，是在数据上训练一个深度网络，观察它如何表征这份丰富性。

被问到在通往人类水平智能的路上，他最想弥合生物网络与人工网络之间的哪一道鸿沟时，他提到了许多领域内的人也在说的东西。现有系统缺乏灵活性，缺乏在情境需要时立即转向的能力，而这恰恰是人类行为的典型特征。他始终记得计算机科学入门课上介绍图灵机的一种方式：图灵机是一种机器模拟器，它能够模拟任何其他机器。这种框架一直留在他心里。

人类的能力是有限的，显然算不上图灵机。但他们仍然能够组装出与以往做过的事情大不相同的行为。他的说法是，大脑中有某种基本机制，让我们能够运行软件。这里面有魔法吗，还是仅仅是计算？他乐于把它看作基本计算。在有人解释清楚那些基本计算如何产生人类认知的全部丰富性之前，他都不会满足。仅仅理解人们做算术或下棋所依赖的计算，是不够的。他要的是全部。

关于群体行为和集体心智的观念，Botvinick 不愿为他所在团队或 DeepMind 正在进行的多智能体研究居功。他认为，人类行为在共同体中产生，这是不言而喻的。Fridman 联想到《2001太空漫游》里的那根骨头，又提到 Yuval Noah Harari 的观点：大量的人能够共同持有一个观念，比如疫情期间从握手转向碰肘，这是一种分布式的趋同，其中没有人同处一室。Botvinick 对一种观点持开放态度：严格的自下而上方法可能是错误的，智能的某些方面只能在群体中理解。但他从来不太相信智能会存在于社群层面。他固执地把它定义为个体人类的一个方面。

Fridman 指出，这或许是一位科学家的还原论之梦，同时也可能是一种令人悲伤的可能：一个孤立的人类，不会成为智人。“这是一种可能。”Botvinick 说。但他坚持的是另一种侧重点。认真地去理解人类智能，或者想要构建一种类人的智能，都需要像关注认知系统（无论是大脑还是机器）一样，关注环境的结构。这一看法是他早年跟神经网络先驱 Jay McClelland 和 John Cohen 学习时形成的。认知的结构只是部分地取决于架构和学习算法。真正塑造它的，是这些东西与它所嵌入的世界结构之间的相互作用。

强化学习让这一点变得显而易见：你能学到的东西，取决于你能模拟的东西。DeepMind 还通过自我对弈，让另一个智能体作为环境变得生动起来；Fridman 称之为 AI 中最令人兴奋的想法之一。Botvinick 把这一道理限定在更窄的语境里：至少在那里，竞争对学习是必不可少的。很多看上去像智能的东西，其实可能是环境结构的投射，而不只是系统本身的属性。当模型学不会时，首先应该检查的地方，往往是你给它的世界里是否有可以把握的结构。

如果说他有一个专长领域，那就是前额叶皮层。它的技术定义是解剖学上的，他称之为“懦夫的办法”。运动区很容易辨认；位于它们前方的大脑皮层，被定义为前额叶。第一次世界大战期间，士兵受伤归来，开启了现代对区域功能的探索。这些研究既富有成效，也很悲惨。神经心理学家们面临的一个困扰是，无法确定最前部组织受损到底会丧失什么。俄罗斯神经心理学家 Alexander Luria 至今仍被认知心理学专业的学生阅读，他点明了灵活性：推翻习惯，做不寻常的事，从一个时刻到下一个时刻改变正在做的事。

后来的研究进一步厘清了受控行为与自动行为之间的区别，也就是目标导向行为与习惯性行为之间的区别。人类大脑有专门用于那些你经常做的事情的通路；它们需要自动化，这样认知能力才能被释放出来。想想学开车，和作为熟练司机开车之间的区别。如今，人们通常把前额叶皮层理解为与这种习惯领域相对立的部分。它让你能够说：在这种情况下我通常会做 X，但考虑到具体情境，我应该做 Y。伸手去握手大概是习惯性的。前额叶皮层则让你记住，此刻有些不寻常的事情正在发生。Luria 的检测就是这种形式：我把手伸出来，你却递上手肘。额叶受损的患者在这里会非常吃力。一只伸出的手，会引出握手的反应。

人类是特殊的吗？老鼠有前额叶皮层吗？这个问题之所以及时，是因为对小鼠和果蝇，已经有了能够监测、测量并因果性地影响神经活动的革命性工具；对猴子也尚未完全具备，更不用说人类了。研究果蝇的人会告诉你，果蝇比你想象的更聪明，能以暗示抽象的方式学习和概括。Botvinick 会描述老鼠在一项对人类来说微不足道的任务上耗费很长时间，然后得出结论：它们缺乏我们所关心的灵活性。一位研究小鼠的人会回应说，刺激本身不自然；保持逻辑不变，把信息以与动物栖息地相契合的形式呈现，你可能会发现更多的智能。接着就有了老鼠把食物拖回家、清除障碍物的视频。他说，这些都还是悬而未决的问题。

功能分化有压倒性的证据。显然，并非每个区域都做同样的事情。这一点可以从他们刚才讨论过的损伤研究中直接推出，而如果你把电极插进去测量神经活动，也会一目了然。然而仔细观察，就会发现区域之间的差异通常是渐进变化的，难以截然区分。要把大脑划分成边界清晰、通讯渠道干净的真正模块，似乎并不容易。前额叶皮层本身就是一堆子区域，其功能并不清楚，边界似乎也相当模糊。

近期的研究表明，曾经被认为高度集中的区域，也携带着意想不到的信号。初级视觉皮层历来是视觉的第一个皮层站点，应当只关心场景中边缘的位置。只要有足够的数据，人们就能从中还原出动物正在做什么行为，以及有多少奖励可供获取。Botvinick 说，神经科学的历史是在模块化观点和“一大团糊状”观点之间来回摆动。他猜测，这个领域最终会落在中间，这对直觉来说很不幸：人们觉得模块容易理解，未分化的系统也容易理解，而两者之间的状态令人困惑。我们得习惯这一点。

在大脑如何承载信息这件事上，他是个老派的人：深度学习所用的网络，是一个合理的近似。通常的说法是速率编码，即神经元放电的快慢，用一个数字来表示。这里仍然存在不确定性。精确的脉冲时序可能很重要，树突树内部的计算可能在某些方面非常丰富，这些都无法等同于人工网络中的任何东西。他仍然认为，坚持这种高层抽象，可以取得进展。神经科学 101 的标准图景依然成立：递质到达，受体改变电压，脉冲沿轴突传播。人工网络忽略单个脉冲，把频率当作“活动”。被问及这幅基本图景是否可能全盘错误时，他毫不含糊地说：“哦，天哪，当然可能。”如果他认为自己没有出错的可能，他就不会是科学家。

从 1980 年代开始，有一条一以贯之的研究策略。在交给人、猴子或大鼠的任务上训练一个多层网络，然后问：网络深处的单元是否与大脑深处的神经元相似。一次又一次，通常借助反向传播，活动模式惊人地相似。到了某个时候，巧合就不太像是没有意义的了。这些间接证据是压倒性的。当然，他也对推翻整个结论保持开放。

他们 2018 年的论文《Prefrontal Cortex as a Meta-Reinforcement Learning System》讨论的是元学习：一种学习算法催生出另一种学习算法。一个熟悉的例子是学第三门外语。第一门很吃力；到第三门，你已经知道自己要学变位，也要过发音这一关。一个慢机制更新了一个快机制。这篇论文的起源，是他们小组的 AI 工作。他们用标准的强化学习训练了一个循环神经网络，训练它的是一组相互关联的任务，而非单个任务，然后再交给它同一族中的另一个任务。一种形式的元学习就这样自发出现了。

循环网络的记忆存在于它的激活模式之中：连接形成的回路让活动得以持续并被更新，这在神经科学中叫作工作记忆。这些动力学由突触权重塑造，而权重又在被强化学习算法塑造。在一个由双按钮盒子组成的序列上训练足够长的时间，每个盒子都有各自隐藏的奖励概率，那么缓慢的突触变化就会产生一些动力学，而这些动力学本身就成为一种学习算法。冻结权重，告诉网络它已经学完了，然后给它一个新的盒子。它仍然能找出更好的按钮，并以理性的方式从探索转入利用。没有任何突触移动，活动动力学是在许多个盒子上被雕琢出来的。

这个团队里有神经科学家，于是有些念头被触发了：突触记忆与基于活动的记忆之间的区别，以及前额叶皮层特有的大量循环连接。也许前额叶皮层仅仅在其激活模式中支持强化学习，保存你做了什么、得到了多少奖励，并据此更新行为。那么，这些动力学又是怎么变得如此聪明的？也许是被认为由多巴胺介导的突触机制塑造了它们。Fridman 问到元-元-元学习的堆叠。Botvinick 说，这个想法可能被拉得太远了；Jürgen Schmidhuber 曾半开玩笑地提出过这一点，可能就写在一篇博士论文里。

令他着迷的是，这种元学习并不需要什么特殊条件。后来的许多算法是工程化的：你决定想要元学习，然后把它写出来。而他们的方法并不算一个算法。只要一个系统具有记忆，并且记忆的功能可以被强化学习塑造，同时又在相互关联的任务上接受训练，它就会自动发生。你无法阻止它。他参与过的另一篇早期论文，关于记忆增强神经网络中的元学习，用的是基于槽位的记忆而非循环结构，得出了同样的结论。循环结构并非必需，记忆加上任务分布才是关键。人类世界充满了这种性质。你从来不会做与昨天完全一样的事，但一切都带着家族式的相似：变化无穷，冗余也无穷。Melanie Mitchell 用来指称抓住这种相似性的词，就是类比。

这个团队的许多工作，是把 AI 领域冒出来的想法拿来，问大脑是否也在做类似的事情。表面上，这像是送给神经科学的礼物。他们也把它视为对 AI 的一种验证。如果一个生物系统使用了某种技术，就会增加人们对它是好主意的信心，相信它能扩展到丰富的任务，并能与其他机制良好对接。两个领域之间一直存在着良性循环。有些时代 AI 领先，有些时代神经科学领先。经历了近期 AI 创新的爆发，他觉得如今是 AI 领先：它充满了值得去寻找神经类比的想法；而系统神经科学的大部分仍在以早期认知心理学的框架研究行为，这未必能回应 AI 对复杂环境提出的问题。他认为这个循环会继续下去。不久之后，神经科学很可能会向 AI 研究者源源不断地抛出洞见，改变研究的方向。

一个人能否在两个领域都做到世界顶尖？那需要一种特殊的人，而他不在这个名单上。他之所以能进入当前的 AI 领域，是因为他对神经科学和心理学的兴趣，早已用上了如今该领域核心的建模技术。他知道在两个方面都有少数杰出的人，但不愿说出他们的名字。障碍与其说是原始智力，不如说是工具的学习曲线：AI 一侧是编程、数据收集、数据管理和分布式计算；神经科学一侧则是急剧膨胀的方法学杂乱。他认为，最理想的情况是光谱上各个位置的人都存在：从纯粹的神经科学家到纯粹的工程师，大家生活在同一个社群里，彼此交流，各自所在的位置却不同。

他站在中间，一只脚在每个世界里。考虑到他所说的自己有限的认知能力，这一位置使他无法在任何一个领域真正成为技术专家。但他至少希望，能看见其中联系的人是有价值的。即便只关注 DeepMind 的 AI 工作，拥有神经科学或心理学博士学位的人也很有用。每个学术学科都有盲点、不幸的执念、比喻和参照点。智识上的多样性能让人们摆脱僵局。他在 DeepMind 常常看到这种情况。

他的团队里有人已经从传统的认知心理学和神经科学，转向人与智能体互动的实验研究。在多年追问 AI 研究是为了什么之后，他基本确信，让世界变得更好，意味着让人类的生活变得更好。仔细、诚实地看，这一命题极其复杂，尤其是对于那些不会像谷歌地图一样一成不变的学习系统而言。这通常会导向 AI 安全：如何防止系统失控或伤害人类。他认为这些问题极其重要，DeepMind 和更广泛社群的大片区域整天都在思考它们。也有积极的一面：学习系统要怎样才能让人类的生活变得更好？仅靠哲学是不够的。你必须考虑人类实际上是如何运作的，他们想要什么，要知道这一点有多难，以及当他们想要不同的东西时会发生什么。

一个能做你做不到之事的智能体，会提出一个超出工程范畴的问题。如果机器人能以超越任何人的敏感度和表现力演奏贝多芬的奏鸣曲，你想听吗？你想去音乐会，听机器人演奏吗？这些是关于偏好和文化的问题，是介于心理学与哲学之间的问题。即使你知道答案，这大概也轮不到 AI 工程师去硬编码。智能体应该与 AI 工程师群体之外的人互动，并弄清楚这些人想要什么。如果两个人想要不同的东西，而只有一个智能体，你就进入了经济学、社会选择理论，甚至政治学的领域。沿着这项工作一路走下去，它会渐渐变成关于你想要什么样社会的问题。当他意识到这一点时，用他自己的话说，感到了“耳目一新”。

他对思考反乌托邦风险“完全赞同”，但接着提出另一种叙事。当人类获得更多关于生活的信息时，通常的故事是智慧、开悟、仁慈，比如佛陀。为什么不设想 AI 系统也能了解世界更多，并变得仁慈呢？如果没有仔细的设计，他并不指望会这样。Fridman 追问人类对最坏情形分析的偏好，理论计算机科学又强化了这种偏好：我们可不想被老虎吃掉。Botvinick 同意，这个领域应当花大量时间考虑可能出错的地方；但要看清事情顺利时应当是什么样子，并把它清晰地呈现出来，这项工作却不那么显而易见。他们这样做并非无的放矢。哪怕技术还很原始，现在就开始问：我们希望这些系统想要什么？

DeepMind 进军蛋白质折叠等科学应用，已经是在让世界变得更好。推荐系统和社交网络已经在与人们互动。如何构建一个 AI，能在不欺骗、不操纵的前提下，提升推特上对话的质量与健康度，最大化人的自主性，并以民主的方式做出选择？能够构建这些系统的只是一小群人；而让世界变得更好意味着什么，则是每个人都必须讨论的事。他的团队已经开始阅读经济学、社会选择理论，甚至政治理论，同时尽量避免写哲学论文，转而迈出小小的实证步伐。人们希望在某些事情上得到帮助，却不希望一切都被代劳。生活的一部分满足感来自于亲手完成事情。《机器人总动员》描绘的则是另一种截然不同的反乌托邦。

他们回到了一篇题为《A Distributional Code for Value in Dopamine-Based Reinforcement Learning》的论文。那也是一个从纯粹 AI 研究中长出来的项目，合作者包括 Will Dabney、Zeb Kurth-Nelson，以及哈佛的 Naoshige Uchida。传统强化学习用单一数字来表示未来预期的奖励，就像赌徒对输赢做的加权平均。分布式强化学习则保留了整个分布。最初它只是一种启发式方法，却加快了学习速度，并产生了更好的策略。其中一个已经很清楚的原因，是更丰富的表征学习。两个预期价值相同的情境，在标准系统中会被挤在一起，因为被要求表征的量是一样的。如果它们的分布不同，分布式学习就能保持它们的区别，这在下一个任务中可能很重要。

一个流行的观点认为，多巴胺类似于时序差分学习（temporal-difference learning）中的奖励预测误差，这一联系在 1990 年代就已建立，此后有大量文献支持。通常的图景同样是用一个数字来表示惊讶。分布式强化学习则认为，预测误差和价值一样，都是一个分布。Dabney 问，多巴胺会不会正是在进行这样的编码。小组为 Uchida 的任务列出了一些预测；这些预测大体上得到了证实，这是一个初步迹象：多巴胺可能在表示惊讶，而非把每一种未来都压缩为单一标量。Botvinick 说，发表之后他的第一个念头总是希望结果能被复现。已经有好几个实验室在跟进研究。

往前看十年或更久，系统神经科学会迎来一场技术爆发。而直到最近，这些实验都几乎不涉及有趣的行为，部分原因是老鼠常常得被固定住头部。人们正在发明一些变通办法，比如虚拟现实和轨迹球，并试图重新引入行为，而行为本来就是这一切的重点。他希望这一趋势能够与人们对 AI 计算机制的广泛兴趣相遇，推动对行为结构本身的研究复兴。在工程层面，关键挑战是两种意义上的灵活性。人类可以在许多事情上做得很好，而且因为能看到共同结构，他们可以迅速切换、学习新事物。“那是我们的 AI 系统明显缺乏的东西。”他并不认为深度学习和深度强化学习就是错误的工具。注意力正在转向抽象，以及心理学所称的认知控制，它与前额叶皮层的功能密切相关。

Fridman 问了一个略显浪漫化的问题：我们能否造出一种人类可以爱、并且会回爱人类的 AGI？Botvinick 引用了 Susan Fiske 的研究，那是他以前所在的普林斯顿系的工作。人们会从两个维度去评估他人：能力和温暖。你会对能力强却冷淡的人有所保留，也会对温暖却无能的人有所保留。最受推崇的，是两者兼具的人。这是一个经验主张，而非说教。AI 研究几乎完全专注于能力。超人级的围棋当然很了不起，但它只是一个维度。可爱的面孔和大大的耳朵，或许也算温暖的一部分。其核心是一种真实的、关怀的行为模式：是真的感受到，而非模拟，也非骗局。在他看来，这才是终极的图灵测试：不仅要让我们相信它能推理、能理解语言，还要让我们很安心地说，这个系统是个好人。温暖无法被明确理解、再手工设计出来。人类是通过学习那些表明别人对自己很重要的技能，才获得这种能力的。他认为手工设计这些行为毫无希望，但为系统灌输一个方向，让它在过程中学会令人满足的互动，也并非不可能。