只有模拟才可能有意识

Lex Fridman 介绍说，约沙·巴赫（Joscha Bach）是 AI Foundation 的研究副总裁，此前曾任职于 MIT 和哈佛，是人工智能领域最特别的头脑之一，他把意识、生命和宇宙的结构都当作工程问题来看待。对话从东德的一片森林开始。巴赫的父亲出自一支远亲的建筑师家族，用儿子的话说，父亲在技术意义上就是个书呆子。书呆子只能用非常规的方式与社会打交道。巴赫给书呆子下的定义是：认为交流的目的是把想法交给同行评审的人。普通人则明白，谈话的首要目的是协商对齐。两种目的常常相互冲突，所以书呆子必须学会怎样和其他人相处。

从建筑转向艺术，并不是从目录里挑出来的选项。巴赫的祖父娶了一位贵族女子，后来被卷入战争，十五年后才回到家。父亲是在一个期待他服从的环境里长大的，结果却养出了一个只肯做发自内心想做之事的孩子。父亲先学建筑，随后设计过没有直角的百水（Hundertwasser）式房屋，又买下一座老水磨坊，搬到乡下去搞艺术。巴赫说，东德对波西米亚式的生活特别友好：食品补贴很多，医疗免费，不用为房租和养老金操心。另一方面，人几乎不可能不和政府发生政治分歧，这让每一个举动都天然带上了意义。父亲与其说是思想家，不如说是个一人成派的小教派，只在需要的时候才显得正常。他还说服了一位建筑师，跟他一起住进了那座水磨坊。

巴赫说，他是在一个堆满书的“大洞穴”里长大的，几乎像野生的一样。山谷很美，很安静，也很孤单。他先把儿童和青少年书架上的书读了个遍，接着读科幻，比如斯坦尼斯瓦夫·莱姆（Stanisław Lem）的作品。莱姆的控制论题材故事写得太自然，他后来才意识到自己受了多大影响。还没上学，他就把小学四年级的内容读完了。村里的学校对他很和气，没有人欺负他，但他几乎交不到朋友。当时他说不出问题出在哪里，现在他明白了：他是那一带唯一的书呆子，周围没有别的孩子对物理、计算或数学感兴趣。真正的人际关系，是到九年级进了一所数理学校之后才开始的。

他早年读的另一类书是德国浪漫主义和古典哲学，比如德罗斯特-许尔斯霍夫（Droste-Hülshoff）、海涅和黑塞。被问到古典哲学到哪里为止，是尼采，还是仍能追溯到柏拉图，巴赫把尼采比作古典世界里的网络喷子：很聪明，也好读，但多半是在跟自己较劲，因为世界和他的感情都不配合他，最后愤怒凝固成了虚无主义。把自己看得这么认真，同时又没法正常生活，结局只能是悲剧，尼采就是这样。黑塞的《荒原狼》则是同一种青春期综合征：你觉得自己不被理解，却没意识到这些误解恰恰来自你自己缺乏自我觉察。你把自己当成了人类的典型，以为别人该按你本能的预期做出反应。巴赫说，对哲学家而言，相信不是一个需要去执行的动作。作为主体，你既不该太当回事，也不该满不在乎。你要让自己变得不那么重要，服从于可能为真的东西，然后跟着探究走下去。这件事本来就不是关于你的。

Lex 问，为什么会有东西存在，而不是什么都没有。巴赫认为，这个问题的方向可能是错的：追问“为什么”，就等于偷偷预设了目的或原因，而存在也许两者都不需要。从信息量来算，最省的答案是存在本身就是默认状态。“不存在”也许根本不是一个有意义的概念。如果所有能够存在的东西确实都存在，那么一样东西要出现，就必须是可以被实现的；而能够被实现的，只有有限自动机。于是，整个存在也许就是所有有限自动机的叠加，我们则身处这个分形的某个区域，那里恰好能够容纳我们。至于底层的基质是什么？它得能存储信息、保持状态。巴赫说，他并不认为自己能说得比这更多。

德国的古典哲学是什么时候终结的？答案是第一次革命：君主制倒台，民主制登场。这个国家发明了一种新的政府形式，却没有摸准社会想要成为的那个新有机体。用 Bach 的比喻说，这等于把大学砍了头，大学于是像一只无头鸡，在现代主义里跌跌撞撞地乱跑。民主失败了，法西斯上台，它焚毁思想传统的方式，和斯大林在俄国所做的如出一辙。两个德国都没能恢复过来：东德留下的是粗俗的辩证唯物主义，西德的思想也没比哈贝马斯更尖锐，杀害和驱逐犹太人则把这件事彻底做完了。哲学里容易摘的果子，基本已经摘光。最后一次重大发现，是数学中的构造主义转向，也就是认识到数学里真正行得通的部分就是计算。这一点至今没有充分渗透进哲学，更没有渗透进物理学。在构造主义成为通行看法之前，物理学家就已经拿来用数学的代码库了。

巴赫认为，哥德尔还没有领会其中的要点。用经典数学的语义，你会撞上矛盾；哥德尔对这套语义的相信，超过了对观察的相信，所以这个证明几乎撼动了他的世界。对图灵来说，打击没那么大：数学一直以来就是计算。在经典数学里，π 是一个值。在计算里，一个函数只有在你能算出它的时候才是值。把求 π 最后一位的函数放进本地的太阳里运行，直到恒星烧尽，那时你才会知道它的最后一位是什么。这意味着，没有任何物理过程可以依赖于“已经知道”它的最后一位。维特根斯坦更早就看到了这一点。图灵是他的学生，图灵缺席时，维特根斯坦就取消课程。《逻辑哲学论》只有 75 页，写的是同一个想法，没有论证，也没有引用，它面向的是那些早已领会这个洞见的人。维特根斯坦早已明白，一切都可以用 NAND 演算表达，那就是图灵完备性，只不过图灵还没把它写下来。巴赫并不把自己看成新的哲学家。他仍是那个在美丽山谷里长大的孩子，把翻译中丢失的东西重新拼凑起来，而且通常比别人晚了四百年，才赶到一场还没散的派对。

Lex 从这段传记里读出一种他想点明的特质：Bach 不被大众看重的东西牵着走，也不被眼下履历上的条目牵着走。他似乎也不在乎 NeurIPS 的最佳论文奖。Bach 提醒说，同样的特质也有危险。你被期待先投身某个思想传统，再投身这个传统里的某个学派。如果每个人都自立门户、自创范式，这门学问就无法层层积累。我们既需要提出范式的思考者，也需要在既定范式之内做事的人。今天的科学家大多是用方法来定义自己：一位指导顾问、一个导师、一支运气好的团队，或者几篇有影响的论文上的署名。靠这种方式得到的回报，正在递减。

计算机科学和 AI 刚起步的时候，加入的人大多有各自的有趣看法。Bach 说，如今 AI 领域的思考者，要么没有什么有趣的看法，要么即便有，也和他们实际在做的事情不相干，因为他们做的就是把最先进的方法再加上一个很小的 epsilon。如果你认为这是推进进展的最好办法，这么做也许没错。但对 Bach 来说，首先是无聊。别人能做的事，他为什么还要去做？假如当下的机器学习真能通向强人工智能，他就等别人做完，自己在海滩上读有意思的书，或者写书。如果你认为现有方法并不是正确的路，那就得跳出框框去想，弄清楚那些框框本身，并且愿意放弃那些给不出正确答案的方法。他补充说，这是非常糟糕的职业建议。

巴赫说，当代 AI 的很多工作，如果 AI 这个缩写指的是高级信息处理，反而会显得更名副其实：把统计自动化，而且所用的模型往往比昨天的更先进。另一面则是一项哲学层面的计划，风险很大，参与的人很少，也不保证成功。他推测，通用智能正是在尝试解决通用问题的过程中得到的东西。智能是建模的能力：给你一些模式，你能看出其中的结构，并预测接下来一组模式会是什么。它未必是以目标为导向的理性，许多聪明人在这一点上并不擅长。建模通常服务于控制，因此它是一种工具性的能力，本身不过是造出模型的能力。有些问题足够通用，逼得系统必须理解自己是什么，以及自己与环境的关系。一个孩子会注意到，尽管自己以为想要别的东西，却总在做另外一些事，于是她开始逆向推演自己的心理。一路把这件事做下去，你做的就是 AI。

照这个看法，真正的图灵测试，是去问一个系统：智能到底是什么。如果它能讲清楚自己是什么、又是怎样运作的，就应当判定它具有通用智能。Bach 认为，图灵其实也是在考验他自己。实施这个测试，你得先理解系统在说什么，而我们目前还不知道能不能造出这样的 AI，这也就意味着，我们还不知道自己是不是通用智能。想通过图灵测试，办法是先造出一个 AI。这场考试里其实嵌着一层递归的检验，检验的是“人类聪明到足以理解自身”这个猜想。自我觉察和智能并不是同一种能力。很多高度聪明的人，自我觉察并不强；反过来，如果你自身已经实现了那套解法，即使解题能力不算高，凭借良好的先验，也能有自我觉察。Bach 把理解世界、以及理解自己在世界中位置的能力，称为感知（sentience）：拥有某些类别的模型。如果你还没有这些模型，智能就是你获得它们的途径。

用这个定义来衡量，今天的神经网络在两方面都有不足：表示是否与所处理的领域相适配，以及模型的类型是否合适。巴赫并不认为这是什么新闻，设计这些范式的人大多心里有数。缺失的一块是统一学习。在某个时刻，你会发现自己感知到的一切都属于同一个对象，于是你把它们学进一个模型里，并把这个模型称为宇宙。经验并不是通往物理现实的一根秘密线路。物理现实是一张量子图，我们永远无法直接访问它。它在我们的界面上产生某些模式，而这些模式之间的关系，就是我们所说的物理宇宙。在发展过程中，神经系统还会发现，几乎一切都能映射到同一个三维空间中。这并非物理学本身的性质，却是我们所纠缠其中的那个世界的性质。巴赫认为，这正是“广延实体”（res extensa）这种直觉的来源。物质世界只是心智领域中的一部分：它是一类把环境当作三维物理引擎来处理的模型。

被要求解释二元论、唯心论、唯物论和功能主义时，巴赫没有从笛卡尔讲起。他说，西方这条思想轨迹，是两千年来某个“教派”灌输的结果，主要指天主教。把这套神话翻译成现代语言，你和我所身处的世界就是一场多人角色扮演冒险。金钱和物品都不是真实的；东方哲学会把这叫作摩耶（幻相），而沉迷其中则叫作轮回。教会还植入了一种更高意义的概念，也就是神圣。神的自然形态，就是你所属文明的柏拉图式理念：由个体构成的、作为有意图能动者运作的超级有机体。天主教用一套相对粗糙的神话，在人的心智中安装软件，并把这些软件同步起来，让人们步伐一致，从而让那个“神”上线并高效运转。从技术上讲，神是一个跨越多个大脑的自我，而你和我的自我大多只运行在一个大脑上。给每个人相同的规格，信息处理的数学约束就会产生相容的结构。Lex 提到，Yuval Noah Harari 的观点是，大脑可以下载同一份软件并与他人共享。

在文化传统里，二元论认为存在两种实体，心理的和物理的，它们依据不同的规则相互作用，而物理世界在机械的底层是因果闭合的。唯心论把心智视为第一位的，把物质模式当作梦境的一部分；唯物论则把物质视为第一位的，把我们看作它所生成的模型。巴赫则把它们看作同一个东西的两个面向。他提出的说法有点古怪：我们并不存在于物理世界中，我们存在于大脑讲给自己听的故事里。大脑感觉不到任何东西，神经元也感觉不到。它们都是物理对象，而物理系统没有能力去体验。不过，对有机体来说，知道“作为一个人、并且能感受到什么，究竟是怎样的”仍然很有用。于是大脑造出了这样一个人的拟像，用来为他的互动建模，这就像一部大脑持续书写和更新的多媒体小说。这个虚拟的人，就是我们自己。

Lex 追问，既然如此，为什么它仍然让人感觉像是“有什么”？巴赫以乔治·R.R.马丁（George R.R. Martin）为例。角色站在山上，想要攻下山下的城，他们望着天色，既忐忑又感到力量。他们为什么会有这些情绪？因为故事里就是这么写的，而之所以这么写，是因为这是对此人下一步会做什么的一个足够好的模型。我们也是一样：一个由感知内容构成的故事，是对“如果此人存在，他会有什么感受”的模型。巴赫说，你和我都是在他心里上演这出戏的两个木偶。他之所以认同其中一个，是因为他能直接控制那个木偶。人与人之间的耦合是一种软件现象，是两个实现之间的相互作用，属于软件层面。身份是一种软件状态，是一种构造，与物理概念无关。巴赫说，达赖喇嘛会转世，这恰恰说明他并不把自己认同为一个人类，他只是运行在一个人类身上。他是一套治理软件，每一代都会重新实例化一次；要杀死他，就得先杀死这个传统。我们大多数人多少都已经有点像这样了：体现在孩子身上，体现在思想里，也体现在我们所认同的社会之中。

视网膜上的虚拟现实，与真实世界有多接近？巴赫用曼德博集合（Mandelbrot set）作比喻：它只需两行代码，在复平面上对一个数列进行检验，发散的点涂成黑色，中间的颜色则由发散的快慢决定。设想你生活在这个分形之中，不知道自己身在何处，也没有找到那个生成函数。你看到的只是一条螺旋，螺旋缓慢地向右移动一点。这是对现实的准确描述吗？是，它是一种足够好的描述。但曼德博集合里其实并没有螺旋。螺旋只会出现在一个把它解读为二维空间、并在某个尺度上归纳规律的观察者眼中。把它放大，螺旋也许就消失了。到了某个时候，模型会碰到奇点，失效，观察于是重新开始：又是一条螺旋，又是一次消失。把三十层这样的二阶规律叠加起来，你就得到了一套与物理学相似的描述。它有相当的预测力，却触及不到核心，也解释不了这种图案是怎样被生成出来的。它对我们所纠缠其中的这个宇宙，解释得相对不错。

计算机科学或物理学能不能跳出这幅图，找到那个生成函数？设想你带着一台图灵机和足够的内存，身处这个分形之中。你大概会推断，它背后必定是某种自动机，于是一个一个枚举可能的自动机，直到找出能产生你所处现实的那一个。范畴论也一再发现，许多数学领域描述的其实是同一批分形。从自动机、数论、空间这些第一原理出发，或许就能定位你在整体分形中所处的那一片区域。Bach 说，这是唯一的入口。他在演讲中常用一句与此相关的口号：有人认为模拟不可能有意识，只有物理系统才行。这恰恰是倒过来的。物理系统本身没有意识，能有意识的只有模拟；而意识是一个模拟自身的模拟所具有的模拟性质。在他的用法里，心智就是大脑所运行的软件，它既制造了我们身处的宇宙，也制造了注意力另一端的那个自我。我们其实算不上猴子，只是猴子为了调节自身需要而产生的副产品。

自我是一种建模工具。调节目标最初只是先验，就像无条件反射那样存在，随后会被逆向推导，朝着一致性不断修正。你生活在一个个反馈回路之中。巴赫说，意识是在与宇宙的种种分歧中浮现出来的：也就是你在意却没有如你所愿的那些事物。自我感来自各种认同，每一项认同都是你承诺过的一个调节目标。认同会把你困住。放下它们，你就获得了自由；全部放下，你就能进入涅槃，因为你已经完成了。可重复的物理学无需借助魔法也能契合这幅图景：能够持续存在的现象，是那些在吸引子周围形成稳定动力学的现象，不稳定的东西会被筛掉。宇宙中能够维持复杂性、进而维持心智的区域，会被严密控制，充满对称性与对称性破缺。在“心智优先”和“宇宙优先”之间，他认为后者的因果叙事要简单得多，因此更倾向于它。你死后会发生什么？你的实现随之停止，除非你所认同的东西也在其他心智上运行。

更系统地说，意识在很大程度上是对你注意力内容的一个模型，是一种为某类学习而演化出来的机制。机器学习系统把加权求和与非线性函数一层层串起来，再把误差沿各层往回传。只要数据足够多，这种方式能逼近许多东西，代价是你必须缓慢地调整大量权重。大脑没有这样的时间。它活不了那么久，没法像机器那样靠大量下围棋来学习。大脑采用的是基于注意力的学习：先定位到网络中可能做出改进的大致区域，把绑定状态连同预期结果作为一条协议存下来，之后再回头重新审视当初的承诺。这就要求系统记得自己的注意力落在了哪里。另外，构建现实的过程也会出错，比如你会把倒影和阴影当成人。所以系统必须能指出，究竟是哪些感知特征导致了眼前的这个构造。注意力系统本身也是用同一套机制训练出来的，因此它是自反的；如果你不去关注注意力本身，注意力就会涣散。这是在做白日梦，还是我仍在注视？于是你会时不时地回头检查。巴赫认为，当“意识到注意力的内容”与“让注意力本身成为对象”之间的环路收得足够紧，我们就是沿着这条环路醒过来的。

Lex 问，Transformer 的注意力算不算走向那个循环的一步。Bach 说，还算不上，它只建模了其中的一个侧面。他讲过一个老掉牙的机器翻译笑话：“a bat broke the window”被译成德语后，变成了一只飞行哺乳动物用棒球棒砸碎窗户，原因是程序在同一句话里同时最大化了 bat 的两种读法。Transformer 不会犯这种错，它们会追踪同一性，把一个概念先标记下来，之后还能再次指向它。正因为如此，它们能让一位科学家的名字、代词和故事前后保持一致。它们做不到的，是彻底的整合。意义会在某处散掉，模型丢失上下文，它还没有领悟到，自己说的每一句话都得指向同一个宇宙。追踪同一性只是注意力的一种特定技巧，并不是产生我们这种意识的那一种。维特根斯坦曾认为，一切都能用一门逻辑语法语言构建出来；明斯基押注常识，之后的 Cyc 项目也属于这一路。Bach 说，思想不会死，死的只是人。Cyc 确实有产出，却没有收敛到通用智能。维特根斯坦在《哲学研究》里没能解决的，是图像，也就是知觉内容。Bach 认为，这个失败预先注定了 AI 最大那项计划的失败。几何无法高效地用语法语言表达，出路在于更一般的函数逼近。他同意晚期的维特根斯坦，也同样欣赏早期的那位：《逻辑哲学论》或许是二十世纪最美的哲学文本。语言并不是认知的根基。

对他来说，模型的一般性质就是参数加约束。计算机科学早期的一种形式化方案是玻尔兹曼机（Boltzmann machine）：把一部分数值钳制为感知输入，机器就会稳定到一个相容的状态，而这个状态就是你对世界的模型。一旦规模超过平凡的程度，训练它就变得很困难。受限玻尔兹曼机，以及后来把它们一层层叠起来的结构，几乎是通往今天深度网络的一条连续路径，尽管这些机器本身已经不再流行。巴赫希望训练和收敛采用不同的机制，感知模型则应当是可能性式的：即使老虎出现的概率很低，你也必须能看见它。一个感知状态是否有效，取决于它是否可能且连贯，概率高低并不是判断标准。概率是用来帮助收敛的。你越年轻，政治就显得越明显，因为很少有输入还能给出一种连贯的审美。你要建模的层级越多，约束就越难满足。

Bach 把 AI 的发展分成三波。第一波是先找出问题、设计解法，再把解法写成程序，比如一个会下国际象棋的程序。第二波是写一个算法，去搜索能够实现解法的算法；强化学习（reinforcement learning）属于这一波，因为围棋太难，没法手工编码。第三波是元学习（meta-learning）：找到一个算法，让它为给定的领域自己发现学习算法。Bach 认为，我们的大脑很可能已经是一个元学习系统。没有任何中央调度在告诉神经元该怎样连线。每个神经元自己就是一个强化学习智能体（Agent），它像一种复杂的单细胞生物，动机是吃饱，而平均来说，只要在恰当的时刻放电，它就能吃饱。所谓恰当的时刻，取决于它所处的电化学环境，因此它必须学会一个关于这个环境的函数。你先设定一批先验各不相同的神经元类型，让它们按一定浓度和空间排布好，再按特定顺序让它们相互牵引，这东西就会自组织成一个大脑。

谁来设定损失函数？巴赫的回答是，还有各种“政府”在给大脑的不同部分施加不同的损失函数，这叫差异化注意。有些区域在你看脸时会得到特别的奖励，没有这一条，就会出现脸盲症。巴赫认为，脸盲的人未必大脑有缺陷，只是他们对脸的注意力处于平均水平，看脸和看杯子一样多，所以从来没能把脸部的几何结构精细地解析出来。我们其他人对脸的注视却近乎强迫。你和我走进人群，不可能不去扫视别人的脸，结果就是我们构造出了极其精细的脸部模型，精细到足以读出别人的心理状态。“精神”（spirit）这个词，巴赫说他是最近才真正理解的，他把它解释为一个自主机器人的操作系统。这个词被创造出来的时候，还没有人造机器人，只有人、动物、植物、生态系统和城市。有机体是一组告诉细胞如何行动的函数，它们由细胞之间的相互作用涌现出来，没有什么超自然的形态发生场。我们用来描述这种函数的软件，就是古人所说的植物的精神，或者人的精神。巴赫怀疑，古今之间看似仍有的断层，大部分是翻译造成的。

他愿意承认植物具有一定的智能。植物没有可以瞬间传递信号的神经系统，只能靠相邻细胞之间传递化学物质，速度是每秒几毫米。所以，如果植物有智能，它的时间尺度也和我们的不一样。把视野放大，你可能会发现有些生态系统几乎不受干扰地运行了几千年，调节着自身的环境，并在内部改变着进化的走向。挨饿压力下的小鼠会产下更瘦弱的后代，仿佛是在为干旱做准备，好让五代之后仍然有小鼠存在；如果捕食者足够聪明，它们就会避免把自己的食物吃到灭绝。狮子的大脑比羚羊大，未必是因为抓住猎物比逃跑更难，更可能是因为狮子需要为环境构建更复杂的模型，其中包括对它们所依赖的那群猎物进行管理。用一句更黑色的玩笑来说，也许人类是盖亚把碳放回去的方式：地球在有东西能消化树木之前就已经长出了树，纤维素把碳锁进了沼泽，而我们注定是要把它挖出来的物种。我们在平流层里留下的手机，会比骨头还多。

巴赫说，美国式的“灵性”（spirituality）往往是人们在文化缺位时长出来的幻肢。文化是一个社会在玩长线游戏的精神，它比个人高出一个层次，具有自我觉察：如果你不做以下这些事，我们孙辈的孙辈就没有东西吃了。这种长远视野意味着要顺应生态圈，不去试图占有它。工业文明押注的是另一条路，也就是我们能控制一切；现代化的增长又让我们依赖于对整个星球的控制。而我们做不到。这种文化会走向灭亡。我们给下一代起名叫“Z 世代”，这个名字可不乐观。他打的比方是：我们像是在用杠杆撬动一个熵的深渊，而对岸空无一物。到了某个时候，悬臂就会断裂，账单终究要付。自公元零年起，人口一直在三亿到四亿之间徘徊，直到启蒙运动和工业革命才打破了这种局面。说得精确一点，贫困就是：你能生多少，取决于你能养活多少，生得太多，孩子就会在被喂饱之前死去。这是所有动物的状态。现代社会让你想生多少就生多少，孩子也不会死；于是生育率因为经济原因而下降，极富和极穷的人群除外。一个世纪之内，我们烧掉了一亿年的树木，好让每家每户都能用上水管。

没有现代医学，他在二十多岁之前就会死，他的大多数朋友也会一样。但这并不等于一种可持续的文明。巴赫说，全球变暖本身并不是核心问题。在亚利桑那州，夏天的三个月里人们已经没法在户外待着了：你生活在一条封闭的制冷链之中，这个说法借自肉类供应链。有空调的房子、有空调的车、有空调的办公室、有空调的超市，中间只有短暂的奔跑。链条一断，就像肉开始解冻那样，货物只能扔掉。致命的数字是湿球温度：用湿布裹住温度计，甩动它，读出的就是蒸发降温之后的温度。一旦靠出汗也无法把体温降到 35 摄氏度左右，你就会死，哪怕你是个在阴凉处的健康年轻人。只要能源、运送食物的卡车和空调还在，你就没事。但如果大规模露天农业因为气候不规律和极端天气而崩溃，粮食安全也就跟着没了。他不肯对灭绝的概率下注：人死了，赢来的钱也领不到。物种或许还能存活，但这个文明不可持续。人口很可能会减少；就算不减少，今天活着的大多数人，在一百年后也不会有后代。赤道和亚热带地区，只有依靠这条封闭的制冷链，才能继续宜居。

他真正担心的是生态系统越过临界点：海洋酸化杀死浮游生物，蓝细菌接管一切，大气变得无法呼吸，复杂生命被迫重启。至于一个文明的终结，他认为未必是最坏的结果，因为另一个文明总会被发明出来。Danny Hillis 提议向平流层撒石灰，以减少太阳辐射。也许有用，也许来不及部署。他指出，马斯克的火星计划并不能让我们摆脱变暖；即使是在最坏的合理气候情景之下，火星也比地球更糟。不过，这种严酷的环境仍可能逼出一些技术，日后反过来加固地球上的制冷链。以他灰暗的评价，美国的技术自 1970 年代以来基本是渐进式的改良；一个在那时去世的称职的人，如今回来，也用不着读多少新书就能跟上。Lex 用 Twitter 和 YouTube 来反驳，说它们让好想法成倍地传播。巴赫并不买账。我们本该有数十亿个冯·诺依曼和图灵，可实际上并没有。他怀疑，是我们彼此摧毁了对方的注意力。他开玩笑说，他们现在正在录 YouTube 视频，是因为他们俩都没有写书所需的注意力，而观众也未必有读完一本书的注意力。如果让他在一个可持续的农业世界（人口几亿）和眼下这个注定走向毁灭、疯狂的世界之间选择，他仍然会选后者。我们是在泰坦尼克号上出生的，没有这艘船，我们就不会在这里。在一台滚下山坡的机器里，人类能动的余地相当有限，每个人都在胡乱按着没有标签的按钮。

巴赫说，社交媒体的终局是一个全球大脑。Twitter 就是一个沉迷多巴胺、没有任何抑制、长期处于癫痫发作之中的全球大脑。它同时也是一场多人游戏。人们在正常世界里扮演着与自己不同的化身，透过手机看这个星球，并把被流行度激励扭曲了的 Twitter 世界，错当成了真实的世界。他说自己不会给 Jack Dorsey 提建议，因为他不是专家，但可以谈谈自己的想法。大脑其实已经解决了这个问题的某个版本：许多智能体各自独立，却仍然能够协调。其他生物早已解决了 Twitter 尚未解决的合作问题。他的思路带有进化论色彩。Reddit、Facebook 和 Twitter 都是拥有某种协议、并把这套协议强加给社群的公司。协议由若干部分组成：变现、用户管理、展示、评分、匿名、外部内容导入。把这些部分拆开，让社群可以自由搭配、组合和发明。谁来做决定，这件事本身也可以写进协议：有的社群由一个人说了算，有的由一群朋友决定，有的采用加权投票。不要预设答案。要激励那些更有感知力的社群，也就是能产生有趣行为、以有益的方式促进人与人互动的社群：有用的信息、健康的关系、团队，以及让彼此合作后能完成单独做不到之事的耦合。

演化意味着不适应的个体会被淘汰。社交媒体上的社群极不愿意被淘汰；美国人则把审查当成一种痛苦。巴赫在东德长大，至今也不认为封禁是一种显而易见的智能工具。真正的问题是：谁来判定你是不是一个好成员，以及这个判定过程会为个人和社会带来什么。高信任社会用不着太多监控；监控可能反过来侵蚀信任，因为它会惩罚那些看上去可疑、其实在做正确事情的人。在低信任社会里，监控也许才是更好的权衡。他说，美国正在从相对高信任或混合信任，滑向低信任，所以监控会越来越多。信念并不是惰性的表征，它们会在大脑上运行代码，改变现实。有些信念只是公开的立场展示：人们嘴上说所有文化同样优秀，实际选择住在哪里时却强烈偏向某些文化，因为不同的互动规则会带来不同的结果。没有共同目标的话，这种割裂会变得很难看。巴赫认为，美国夹在极权主义与多元主义之间，到目前为止给出的解决办法都很粗糙，因为这个社会还很年轻，承受着巨大的张力。它必须重新发明自己。

什么样的政府才是好政府？理想情况下，它应该是察觉不到的。摩擦感就是它低效的线索。从博弈论的角度看，政府相当于在每个人的收益函数上叠加一个修正项，让个人的纳什均衡（Nash equilibrium）与共同利益趋于一致。每个行动者的局部激励都可能是合理的，却依然会导致糟糕的全局结果，哪怕人们确实在意这个全局结果，因为从某一个人的克制到最终结果之间，并不存在因果链条。如果你认为大家应该少坐飞机，于是自己待在家里，那么没有一架飞机会因此停飞，而你也没能从 A 地到达 B 地。只有政府认同这个想法，才能让机票变贵，并奖励那些危害更小的交通方式。我们既太聪明，又不够聪明：擅长解决眼前的问题，却不愿接受长远留下来所需要的付出。原则上，你可以算出吸收突变率所需要的儿童死亡率。但在实际中，如果你有孩子，你就会用上任何能让他们活下来的药物，哪怕后果是遗传漂变和过敏。过度放牧是可以被补偿的，直到生态系统翻过临界点。我们发现自己正乘坐一艘注定会撞上冰山的船，而大多数反驳在他听来都像是否认。我们从来没有被问过，想出生在哪一种社会里。

被问到 Neuralink 时，巴赫这次一反常态，直接跳到了 FDA 上：在现行法律体系下，为了娱乐而在头骨上钻孔的事情不会发生，无论有多少人自愿。他指出，法律是一种有趣的软件：异常处理逐层同步向上传递，而律师有动机频繁地触发异常。共情共振已经能让心智在不钻孔的情况下彼此相连；心智内部的带宽本身却很慢。要绕到政府问题，一条更好的路径是托马斯·阿奎那。重新来读他，会发现他更像是在为天主教社会把亚里士多德翻译成一套操作系统，他并不是二元论者。人是具有控制论式调节能力的动物。只要理性清醒，就能推出四种可以普遍适用的理性德性：正确的自我调节，即节制；正确的社会调节，即正义；愿意根据自己的模型采取行动、把自己也放进风险里（skin in the game），这是勇气；选择正确的目标，这是审慎，也就是智慧。另外三种“神圣”德性无法推导，只有在你假设它们并加以外推时，才会通过和谐显现出来。剥去阴谋论式的解读（神要来告诉你，祂是个留着长胡子的老头），它们其实很简单。信是对统一的承诺，服务于更高一层的结构性原则。爱是对共同目标的承诺，在对方身上看见比你作为有机体的利益更神圣的东西。望是在回报尚未出现之前，就愿意依据这一原则行动，文明才由此得以诞生。去掉神话的外壳，我们是一个建国家的物种，而不只是一个部落式的物种。宗教国家和依规则运转的行政体系，让个人的重要性低于规则。

天主教如今已经不是最优解，它正在走向消亡。西方发现的替代方案是民主：由当前掌握生产资料的寡头统治。但这些寡头并不亲自管理——变化太快，每一代都会出现新的生产资料，公司大约三十年就会消亡——管理工作交给了各种机构。这些机构不经选举产生，负责提供连续性；机构的领导则由可以选举的政治家担任。这样一来，你就能在不杀人的前提下完成权力交接。如果一位记者挖出了当权者不希望公开的东西，而体系又没有 B 计划，就像巴赫描绘的俄罗斯那样，那么这位记者就得死。这就是靠深层政府运行社会的含义。巴赫认为，美国的制度设计主要考虑的是二阶和三阶后果。它是一个年轻的社会，并不太照顾那些下游的连带影响。如果能修正激励机制，AI 或许能有所帮助。他把美国社会称为一个作弊者的社会，因为作弊和创新很难区分，而美国想要鼓励的正是创新。你可以提出一个不可持续的商业模式，然后把它推向市场。在美国，这在很大程度上被视为好事，这一点与其他社会不同。

社会流动也是同一套机制的另一面。按常理，你应该往深处钻研，不必一味往上爬。社会需要面包师，而且需要非常好的面包师。在一个鼓励创新的社会里，一台好机器也许就能取代所有面包师，这未必是坏事，这也是美国之所以成功的部分原因。这也意味着，美国优化的是创新，可持续性并不在它的优化范围之内。作弊会在一切之上留下一层有毒的淤泥。这层淤泥最终会不会超过它带来的好处，是一个仍在展开的、需要靠经验和演化来回答的问题。归根结底，政府并非局部权力的表现形式。它是一个协商人类生存条件的平台，从当前状态出发，能够采取的、不会造成剧烈扰动的下一步其实很有限。革命是人们应当极力避免的，因为它会危及粮食和基础设施。对巴赫来说，AI、把心智看作行为的社会，以及把政府看作社会调节，都是同一类组织问题，只是尺度不同。

心理学通常区分情绪（emotion）和感受（feeling），日常用语则不加区分。巴赫认为，情绪是认知系统的一种构型。在最底层，情感状态是一组调制参数，包括唤醒度、效价、注意力的宽窄，以及内感受还是外感受，它们决定了你如何与环境相处，也决定了你如何与自己相处。在较窄的意义上，情绪是一种带有对象的情感状态，而对象之所以相关，来自动机。动机则是与奖赏绑定在一起的需要。等快乐或痛苦真正到来时，你其实已经不是在根据需要行动了，那时一切都已经发生过了。你是根据对需要的模型、根据预期在行动。这些需要之间没有层级，它们并存又相互竞争，大脑要寻找的是动态的稳态平衡。不过，目的必须前后一致，于是你会写下自己的人生叙事，制定分层的计划。这里没有唯一的答案：有人吃饭是为了做艺术，有人做艺术是为了吃饭，他们可能做着同样的事，却为完全不同的终极目标而合作。感受是知觉系统对当前处境的评估。它由心智中非符号的、几何化的、类似神经网络的部分来计算，再通过把特征映射到某个空间里的方式，告知符号化的部分。通常的映射落点是身体地图。把焦虑感受为太阳神经丛的收缩，这本身就是几何。身体地图始终处于实例化状态、随时可用，所以当非符号系统需要与符号系统对话时，它是一条明显的捷径。

他猜测，表情的演化方式是一种对抗性的交流。一旦人们开始读取别人的脸和姿态，别人也会开始借此发出信号，甚至加以颠覆。葬礼上每个人都摆出肃穆的脸，这张脸并不能说明你是否悲伤，它只说明你懂得当地的礼仪。你读取的是标准面具与面具后面正在涌动的东西之间的差值。Lex 在做视频播客的过程中发现，观众会把他的脸当作指南，决定自己该对嘉宾有什么感觉，然后又评论说他看起来很无聊。他宁愿戴上面具和墨镜。东欧文化，尤其是俄罗斯文化，忌讳过分生动的表情；而在美国，你会被期待表情丰富，并且表现出积极的情绪。在俄罗斯，无缘无故的热情会被看成愚蠢、没有品位。有一张流传很广的对比图，展示两国的评分曲线：在美国，倒数 10% 是“不错的开始”，其余都是“太棒了”；在俄罗斯，几乎一切都很糟糕，而最顶尖的 1% 给出的评价是“勉强还行”。笑话背后是一套意义的建构。美国聚焦于正面，压制其余的一切。东欧则把存在看作至多是中性的：你把某样东西托到水面之上，就必须把别的东西压到水面之下。美与痛苦绑在一起；在这种精神气质里，如果不承认每个有意识的生命大部分时间都在受苦，那本身就是一种愚蠢。巴赫给女儿讲古老的美人鱼故事，比如温蒂娜用亲吻让负心的王子死去，但他依然站在王尔德那一边：如果在机器和你的心之间做选择，那就听从你的心。

不过，幸福并不需要以痛苦为前提。痛苦就是在意你无法改变的东西。把你在意的东西换成你能改变的，你就不会受苦。至于幸福本身，并不重要。它就像饼干：小时候你想要所有的饼干，长大后才明白，饼干只是让你把蔬菜吃下去的工具。幸福是大脑为自己烘焙出来的饼干。环境无法让你幸福，你对环境的评估才可以；如果你能改变这种评估，就能制造出任意程度的幸福。有些冥想者找到了地下室里的烘焙坊，一连几个月拼命吃，然后吃腻了，接着就撞上了意义危机；此前他们一直把这场危机误诊为幸福不足。他们能够随意释放神经递质，于是原来的问题又回来了：为什么活着，以及怎样把自己嵌入一个有意义的、可持续的文明之中。巴赫的答案落到了细胞这个层面：细胞是一台自组织的分子机器，它需要一个自我复制器、一个负熵提取器和一台图灵机。缺了任何一样，它就不是活的。一旦拥有这种有智能的超级分子，几乎没有什么是它做不到的；它很可能是最优的计算介质（computronium），尤其在韧性方面。一颗被生命感染的行星，很难再被消毒。可以把细胞看作冯·诺依曼探测器：要在其他星球上播下智能的种子，办法就是去感染它们，然后等待。技术设计是从外向内进行的，在确定性很强的车间里完成。生物则是从内向外：一颗种子把相对无序的物质收服、纳入自己的结构。生命的目的在于产生复杂性，借此收割那些没有复杂性就无法收割的熵梯度。智能的目的则是在复杂性之中实现控制，把有序的边界推向混沌。

在巴赫看来，神与创造毫无关系。他认为，这是把《塔木德》误译进天主教神话的结果。《创世纪》是一位神的童年记忆：一个心智在回想自己是如何形成的。光与暗，然后是天与地、植物与动物、命名——这些次序是每一个心智都会发明出来的，因为这些结构并非现成给定；你必须把它们构造出来，才能让视网膜上的图案变得有意义。看看孩子，你就能看到这一点。就算某个书呆子在一台服务器上跑起了整个世界，他也没有魔法，能够赋予我们的存在以意义。把创造者等同于意义之源，是一种偷换概念；把亚里士多德的第一推动者等同于超自然存在，也是如此。第一推动者在最简单的情形下，就是一台自动机。我们真正能感知到的更高存在，就是文明，我们与它的关系，就像细胞与身体的关系。我们之所以带有这种先验，是因为我们演化出来，本来就要在这些结构中组织起来。剥离神话之后，基督教的上帝在其自然形态上，就是文明的柏拉图式理念：当你以自己认为正确的东西与他人相处，而不以自身利益为准绳时，你所努力趋近的那个理念。Lex 对那句“饼干”的说法表示认可。巴赫最后又留下一个比喻：如果把这当成一款电脑游戏，那么这就是人类能玩的最好的一关。而这最好的一关，恰好也是最后一关，背景是一个正在死去的世界。它仍然是最好的一关。