即使是模拟，也依然真实

Lex Fridman 开场就问了一个问题，这个问题自从 Nick Bostrom 让模拟假说变得可以正经讨论以来，就一直被人提起：你认为我们是否生活在模拟之中？David Chalmers 没有排除这种可能。他说，宇宙的历史上很可能会有大量的模拟，设计得好的模拟与非模拟的现实没有区别。就算有证据表明我们不在模拟之中，原则上这份证据本身也可能是被模拟出来的。

他正在写一本关于这个想法的书，借它重新审视一些古老的哲学问题。笛卡尔问过，你怎么知道自己没有被一个邪恶的恶魔欺骗？现代版本是：你怎么知道自己不在模拟之中？标准的回答是，如果身处模拟之中，这一切就都不是真的。Chalmers 认为这个回答是错的。即便身处模拟，这里依然确实有一张桌子、一个麦克风、一具身体。他把这称为现实 2.0，即一个新版本的现实，依然是现实。

他说，我们早就知道，我们感知到的世界是一幅简化的图景。Wilfrid Sellars 把它称为“显明图景”（manifest image）：空间中的颜色和形状。它之下是原子、量子波函数或超弦构成的科学图景。模拟假说不过是对底层事物的又一种猜测。如果我们吃下红色药丸，发现自己身处模拟之中，这说明的是现实由什么构成，并不能证明它是假的。

康德追问过物自体的本质。Chalmers 面前放着一杯透明的液体，有一定的形状。如果我们身处模拟之中，这杯子的本质就是运行在更高一层宇宙某台计算机上的一堆数据结构。体验中的“家具”不变，变的只是“地下室”。

Fridman 追问规模问题。模拟一个由分子、夸克，或许还有弦构成的宇宙，似乎需要某种无限大的东西，远远超出我们能够建造的任何东西。Chalmers 同意，我们的宇宙极其复杂，而一个有限的宇宙去模拟自身的副本，会有明显的问题。不过，模拟者的宇宙没有理由一定要长得像我们的宇宙。

他半开玩笑地提出过一幅图景：模拟里面套着模拟，我们或许处在第 42 层，这是致敬《银河系漫游指南》。如果我们处在那里，第 0 层真的极其庞大：不只是很大的有限容量，更可能是一个基数很高的无穷，能够支撑任意数量的模拟。每往下一层都会变小。等到了我们这一层，仍然有足够的空间容纳大量有限的世界。

他引用费曼的话：“底层还有很大的空间。”我们仍然比物理计算和量子计算的极限高出好几层，因此有能力容纳一些复杂的宇宙，但除非我们的宇宙是无限的，否则容纳不下和我们一样复杂的宇宙。模拟中的捷径还能把这种容量进一步拉大。按他的排序，人类的心智令人印象深刻，但也没有那么了不起。语言、文化和集体思考只出现了几千年或几万年。在智能生命中，我们大概处于非常靠近底部的位置。如果我们是被模拟的，那么模拟者要高明得多，第 0 层是无法想象的。

Fridman 给出了一个更阴暗的反面图景：也许我们的缺陷恰恰是顶峰，是混沌边缘最有趣的地方，而超级智能会很无聊。Chalmers 是乐观派，他希望超级智能的后代能想办法让生活变得超级有趣。Fridman 开玩笑说，它们会觉得无聊，于是再造一个模拟，看生灵跌跌撞撞，把网飞当作存在的意义；或者说得温和一点，就是为人父母。两人都认同，无论哪种情况，创造都是一种强大的行为。

模拟一个心智和模拟一个宇宙，哪个更容易？从某种意义上说，答案很明显：心智是宇宙的一部分，所以完整的宇宙模拟本来就包括心智。另一种对照是部分模拟。Nick Bostrom 等人提出，也许可以跳过整个宇宙，只模拟心智。Chalmers 换了个角度来提问：要模拟的是大脑，不是心智本身。大脑是一个物理系统，和星系或天气系统一样。如果你能模拟任意的物理系统，你就能模拟大脑。

能否连同心智一并带出，是需要另行探讨的问题，哲学界争论此事已有多年。意识、思考与自由意志能否随之而来？持否定态度的人不在少数，他们认为那样得到的不过是一种空有其表的系统，大脑虽被模拟，却谈不上真正的意识。Chalmers 的看法则是：只要把大脑模拟到足够逼真，心智就已经被模拟出来了。他并不觉得这一点一目了然，只是把它当作自己的工作假设。

他认为负责意识的是信息处理的模式，生物学本身并不负责。你可以想象用硅电路替换某些部件，只要它们扮演同样的角色，行为就会延续下去。他看到的意识与大脑之间最深的同构关系，落在这些模式上，与生物湿件（wetware）本身关系不大。如果你愿意，可以把它称为软件，但不是那种随便装上、随便删掉的软件。按照这一图景，意识存在于信息层面，与具体的实现层面无关。他补充说，我们仍然不理解意识，所以这一假设可能是错的。

当前的虚拟世界很有趣，但有一种特别的局限：它们依赖的是位于世界之外的大脑。你戴上头显，却没有人在模拟你的大脑。非玩家角色的认知系统很简单，有人开始往里面加一点 AI。真正起作用的思考仍然发生在别处。Chalmers 觉得这种结构让人想起笛卡尔。笛卡尔把物理与心智分开，而我们现在认为心智与物理有着深刻的联系。但在电子游戏里，物理在内部，而行动者是在外面操纵手柄的人。

一旦我们拥有了真正的通用人工智能（AGI），虚拟世界里就可能包含模拟出来的大脑，或者真正的 AGI，它们的复杂程度可以和我们在物理空间中一样。那么老问题又会回来：这些系统能不能拥有意识、体验和自由意志？Chalmers 认为没有理由不能。他喜欢的那个讽刺更直接：给一个虚拟化身做脑部手术，打开头骨，你会发现里面什么也没有。大脑在别处。某种意义上的笛卡尔二元论，是当今 VR 的一个工程事实。

他自己与这项技术的关系很复杂。他在台式电脑上离不开互联网，但戴上头显，他很少能坚持超过十到二十分钟。他拥有 Oculus Rift、Oculus Quest、HTC Vive 等好几台设备，却仍然觉得头显 VR 有点让人反感。相比之下，Fridman 倒想一直待在里面。你能完全忘掉外部世界吗？Chalmers 持怀疑态度。我们的记忆力相当不错。你可以停止注意，就像上班时忘掉家里的事，或者沉浸在电影里，但要彻底忘掉，大概得靠很强的药物。

目前他认为，同一个意识穿梭于不同的环境，扮演不同的角色，这并不比普通生活更“多重”。人们采用另一种性别、种族或背景的化身，那仍然是同一个意识。真正的分裂成副本则需要更激进的东西：让你的大脑的不同模拟沿着不同的历史运行，直到变成十个截然不同的心智。他说，那需要大脑模拟和 AGI，而且近期内不会实现。

小时候，Chalmers 是一个有通感的人：听一段音乐，他会浮现出颜色的画面。大多数颜色都很混浊，深绿色、橄榄棕，不太出彩。他的理论是，不同的和弦和音调各自提供了一种颜色，又混合成无趣的棕色和绿色。偶尔会有一种颜色纯净地冒出来。披头士乐队的《Here, There and Everywhere》是鲜红色，开头的调性和和弦结构很有特点。Alan Parsons Project 的《Ammonia Avenue》则是纯正的蓝色。

当时他并没有太在意。他以为歌曲有颜色是每个人都会有的事。提过一两次，别人都说没有。直到很久以后，他作为研究心智的研究生，读到通感的资料，才认出了自己的情况。大约二十岁时，这种感觉消失了，通感常常如此。他那时的日记里写着：歌曲不再有颜色了。他为它的消失感到难过。

回头看，这更像是一种额外的好处，算不上他生活的支柱。他认识一些通感严重得多的人，对他们来说，人会有颜色，文字会有颜色，音乐有丰富的色彩模式。如果失去这种能力，他们会痛苦万分。他的情况很轻微，更接近一种有趣的变异状态，离体验的核心还很远。这件轶事的意义不止于颜色。它恰好落在意识研究变得困难的地方：同样的物理刺激，主观性质却不同。这就是感受质的问题。

“意识”这个词有很多种用法。Chalmers 关心的是主观体验：作为一个人，或任何其他有意识的生物，从内部感受是什么样子。此刻他脑中有视觉画面，能听到自己的声音，有情绪基调，还有连绵不断的念头。他把这称为心中的内在电影。这个比喻并不完美，但指向的方向是对的。哲学家用“感受质”指红与绿之间的区别、不同的味道、疼痛的质感等性质。意识比这些更广。想起家乡时，即使眼前没有某种特定的色调，仍然涉及主观体验。

最神秘、最让人激动的，是现象意识（phenomenal consciousness）：某种东西竟然会“有感觉”。难题在于，大脑中的物理过程如何、又为何会带来这种感觉。从表面看，一个复杂的大脑可以在黑暗中运转，却没有任何主观体验。而我们确实有。解释这一点，就是难题所在。生出一个有意识的婴儿并不能让这个问题消失，造出一台有意识的机器也一样。你仍然想知道这些过程如何、又为何产生体验。

Fridman 注意到，我们其实已经在“制造”意识：我们看着它在婴儿身上出现，尽管说不清分界线在哪里。Chalmers 同意，这条界线尚不清楚。以前人们认为新生儿没有意识，所以有些婴儿在没有麻醉的情况下接受了包皮环切；如今的主流观点是，他们会感到疼痛。他的伴侣 Claudia 研究婴儿的意识，她认为新生儿来到世上时就已经具有某种程度的意识。把问题推到胎儿身上，就会变得政治敏感。把问题推广到整个动物界，人们越来越愿意承认：不只哺乳动物，还有鱼，也许还有昆虫；再往远走，就是认为每一个物理系统都具有某种程度意识的观点。哲学家称之为泛心论。

物理学已经把一些东西当作基本的：空间、时间、质量、电荷。你不会再把它们还原下去，只需写下把它们联系起来的定律。麦克斯韦把电荷当作基本量，是因为那是最好的解释。Chalmers 认真考虑过一种可能：意识也应该列入这张清单。不必完全用时空和质量来解释它，可以把它当作原始的东西，再通过基本定律把它和其他一切联系起来。现有的物理学对意识的简单问题很合适，比如结构、动力学，以及我们如何走路、如何说话。但它似乎并不是解释主观体验的合适的那类东西。

Fridman 可以把人的特质赋予蚂蚁、植物，甚至一台根据自身感知移动的扫地机器人。但说“一切都有意识”，感觉是另一种主张，像乌龟驮乌龟一样一直往下。Chalmers 走到这一步，并非靠信仰的一跃。如果用现有的基本要素无法解释意识，就必须加入点什么。这个加入的东西不一定就是意识本身。另一种可能是泛原心论（panprotopsychism）：加入一种性质 X，即原意识，让时空、质量和 X 共同使意识成为可能。他也没有排除这种可能。如果你想象不出底层会有真正的意识，那就对某种无法想象的 X 保持开放，它以某种方式产生了意识。

如果假定底层真有意识，那么牛顿式的世界就变成了无数微小意识主体组成的庞大集合，每一个主体都有一种与质量、电荷、速度相对应的结构。它们比我们简单得多，没有自由意志，也没有理性。正如 Locke 和 Russell 早就担心的那样，物理学告诉我们粒子之间如何关联，却没有告诉我们粒子本身是什么。在这一图景里，内在本质是心理性的，物理定律关联的是有意识主体的性质。量子力学还能推得更远：整个宇宙的一个波函数，可能对应着一个宇宙心智。人们把这种观点称为宇宙心论（cosmopsychism）。Chalmers 明确表示，这种说法极具推测性，目前没有直接证据。

一些神经科学家也开始认真对待相关的想法。整合信息理论（integrated information theory）甚至在非常简单的系统中也能找到意识。Chalmers 刚刚收到 Christof Koch 的新书《The Feeling of Life Itself》，书中支持一种观点：整合信息的程度决定意识的程度，即使是几个粒子也是如此，并认为这可以解释大脑与意识之间的一些联系。这一观点争议很大，目前还处于非常早期的阶段。一些准科学的路径可以通向这个方向，但并没有定论。

Fridman 引用 Alan Watts 的话：宇宙通过我们的眼睛看见自己，通过我们的耳朵聆听它的和声；我们是见证者，宇宙借由我们意识到自身的荣耀。Chalmers 指出，这段话与泛心论并不协调。如果认定存在一个巨大的宇宙心智，那么宇宙一直都是有意识的，并不需要我们。如果认定泛心论，那么底层本来就有一点意识，而我们只是更复杂的形式。如果你根本不是泛心论者，这段话反而更站得住脚。

正统的观点，也是哲学家和意识科学家中仍占多数的观点，认为意识是人类拥有的东西，一些非人类动物也有，或许有一天 AI 也会有。它并非一开始就存在于宇宙之中。它在某个时刻出现，如果你认为意识赋予生命以意义，那么这就是一件惊人的事件。没有意识，就没有真正的价值，也没有好坏之分。Chalmers 在纽约大学的同事 Thomas Nagel 在《Mind and Cosmos》中主张，宇宙朝向意识的目的论演化。大多数人持不同意见，Chalmers 也是其中之一。但他仍然称这是一个美丽的思辨性观点。

他没有宗教信仰，也谈不上是研究上帝的专家。他猜测，人们祈祷时似乎在寻求的是意义、价值，以及与某种更伟大事物的联结。如果上帝是一种赋予宇宙意义的普遍意识，那么与上帝相连或许能赋予生命意义。他能理解这种吸引力。然后他提出一个更尖锐的问题：如果普遍意识能赋予世界意义，那么为什么局部意识不能？他的意识是他的世界的意义之源。他把事物体验为好或坏、快乐或悲伤、有趣或重要。如果没有任何意识，宇宙也许会很荒凉。他不明白为什么自己需要别人的意识，甚至需要上帝的意识。

被问到那个老问题：生命的意义是什么？他的回答很谨慎。生命对我们有意义，是因为我们有意识，所以意识是意义的来源。但他不会说意识本身就是生命的意义。有意义的，是我们体验为有意义的东西：智识工作、社会联系、抚养子女。没有统一的答案。“生命的意义，就在有意识的生物找到它的地方。”仍然会有人觉得，局部意识太渺小，配不上宇宙级的意义。他并不需要宇宙级的升级。

“没有意识就没有价值”这一直觉，可以用一个思想实验来检验。普通的电车难题问的是：是牺牲一个人，还是扳动道岔、牺牲五个人。Chalmers 的变体是：一条轨道上是一个有意识的存在，另一条轨道上是五个类人僵尸，不妨把它们设定为机器人。大多数人的直觉相当清楚：应该牺牲那些没有意识的。它们的生命没有意义，它们也算不上真正的人。

极端的哲学僵尸（philosophical zombie）是一个思想实验：它在身体和行为上与你完全相同，却没有意识。Chalmers 不认为这样的东西能在这个宇宙中造出来。较温和的版本并不那么遥远：架构不同的机器人，可以在没有意识的情况下进行高水平的对话与运作。我们已经有一些简单的系统在朝这个方向发展。假设我们不知怎么确定它们没有意识，那么它们有道德地位吗？打碎杯子是坏事，因为会弄得一地狼藉，并不是因为伤害了杯子本身。拔掉一株没有意识的植物，多数人会认为并没有伤害到它。伤害有意识的存在，才算真正的伤害。

没有人会认为，关掉、断开或销毁 Alexa 在道德上是在伤害它。电影《她》里的萨曼莎被塑造成有意识的存在，销毁她就是严重的伤害。对 Chalmers 和许多思考动物道德待遇的人来说，意识正是我们必须纳入考虑的系统与无须考虑的系统之间的分界线。Fridman 认为，机器人将迎来类似民权运动的东西。当一台 Roomba 扫地机器人说出“请不要踢我，那很疼”的那一刻，社会的结构就会改变。Chalmers 认为他很可能是对的，但也认为这将是一团大乱：有意识的存在可以按一下开关，成千上万地复制，而法律地位会落后于道德地位。

你怎么知道一个系统是有意识的？Chalmers 不认为对意识感到困惑就让你有意识，但那是非常好的迹象。如果他遇到一个机器人，似乎真的对自身的心理状态感到困惑，说“我有这些奇怪的体验，我知道自己是硅电路，却想不通这怎么会产生意识”，他会把这视为某种证据。很多人并不困惑，动物似乎完全不困惑，他仍然认为它们是有意识的。从社会角度看，真正能让我们信服的是对话：谈论快乐或悲伤，觉得事情有意义，感到疼痛。如果一个系统确实显得有意识，而我们却拒绝这样对待它，那么最终会显得像一种奇怪的物种歧视。那种只奖励模仿人类的测试，比如某些对图灵测试的理解，是错误的侧重点。

Fridman 问，如果有人克隆了 Chalmers，会发生什么。第一个回答是个玩笑：他会心想，这家伙根本在胡扯。然后他说得更精确些。克隆体会是有意识的。从某种意义上说，他并不确定它会不会就是他本人。那将是两个不同的存在，都有意识，都拥有许多相同的心理属性，道德地位相同。伤害或杀死其中任何一个都是错误的。不过，法律地位大概仍会不同。如果他是原版，克隆体不会自动拥有他的财产，也不会自动以同样的方式与他的家人和伴侣相连。

克隆体会争辩说，它拥有所有那些联系的记忆，因此区别对待是不公平的。Chalmers 会说，他有一段克隆体没有的历史，前提是他与此前的那个人是同一个人，而克隆体不是。你也可以持另一种看法：克隆体同样就是他本人。《星际迷航》里的传送装置总是在制造克隆体，并把它们当作原体，因为原来的身体被毁掉了，所以只剩下一个。只有偶尔出岔子，才会出现两个柯克舰长。至少，法律体系必须把这件事理清。道德上正确的与法律上行得通的，可能会走向不同。

他会问自己的克隆体什么？原则上，完美的克隆体会和他一模一样，所以他不会从回答中学到意识的秘密。他或许能了解到一些自己的心理，这是内省无法提供的：当他发现自己是克隆体时，会作何反应。明天把他叫醒，给他看令人信服的克隆过程影片，谁知道他会如何承受这一冲击。他可以问克隆体是否有意识，但如果它是完美的，他早就知道它会怎么说。一开始，他会做 Fridman 所说的“单元测试”：问大量问题，看它谈论意识的方式是否与他一样。

如果完美的克隆体的行为与你完全一样，自由意志会怎样？哲学家有一个令人恼火的习惯，总说这取决于你指的是什么。如果你指的是某种事先未被决定、甚至从来不可能被决定的东西，Chalmers 并不知道我们是否拥有它。量子力学或许能留出一点余地。他也不确定那是不是重要的那种自由。重要的是能做自己想做的事，让自己的生活由自己来掌控，不受别人摆布，为某些行为负责而不为另一些负责。这些区分在决定论的宇宙中依然成立。这就是相容论（compatibilism）。他原则上看不出 AI 系统为什么不能拥有这种自由意志。

我们做选择时，会感到未来是开放的：是读哲学还是学数学，是去看电影还是去餐馆。我们体验到的自己，是在许多条路中挑选一条。如果宇宙是决定论的，那么这些路在客观上并非真的开放。但在主观上它们是开放的，他认为，这在做决定时才是要紧的。无论如何，对心智的内省式模型通常都是扭曲的。大脑中的前因，可能早在任何东西进入意识之前就已经开始运行。你的视觉画面并不是视觉皮层的好模型，它只是视觉皮层某一小块区域的一张快照。如果自由意志也是同样的情况，并不会令人意外。

把这一点推到底，就得到幻觉论（illusionism）：意识本身是一种内省的幻觉。大脑对自身有简化的模型，并把自己表现为具有特殊的意识属性，因为这是一种省事的追踪方式。Chalmers 觉得这种观点难以置信，但在某些方面又非常有吸引力。它是谜团最少的故事。他一直在研究一个相关的课题，他称之为意识的元问题（meta-problem of consciousness），即为什么我们会对难题感到困惑。至于大脑如何让你拥有意识，那是另一回事。感到困惑本身也是一种行为，属于简单问题之一，也许可以用计算模型来解释。把幻觉论贯彻到底，就是说意识本身并不真实，真实的只是那些告诉我们自己有意识的模型。麻烦在于，这必须否认我们此刻正在体验，而这是存在的一项基本事实。这就是为什么大多数人觉得这种观点荒谬，正如他们觉得泛心论在另一个方向上荒谬一样。

Fridman 问，整个宇宙会不会只是 Chalmers 脑中的一个幻象。Chalmers 愿意接受模拟，甚至是更高一层宇宙中的一场梦。笛卡尔认为，邪恶的恶魔意味着这一切都不是真的；后来 Berkeley 说，是上帝提供了感知，这和恶魔的工作看起来相去不远。Chalmers 更倾向于 Berkeley 的观点。即使是一场梦，也不会让杯子变得不真实；它只是说明，杯子是由做梦的心智中的过程构成的。如果物理现实最要紧的是数学结构，那么你可以在模拟或梦里找到这种结构。世界可能比我们以为的更加无形，现代科学已经让我们习惯了这一点。他还提到哲学家 O.K. Bouwsma 讲过的一个古老故事：一个恶魔整天想方设法骗人，结果却只为人们构造出了各自的现实。

从工程角度看，AGI 需要意识吗？没有人知道意识在功能上究竟是做什么用的。我们指不出某件具体的事，能说明它必须有意识才能做到。Chalmers 倾向于认为，AGI 原则上是可能的：至少，有人可以模拟大脑，产生我们的全部行为，此外还有许多同等或更高复杂度的计算系统。一旦拥有了感知、注意、推理、内省、语言和情绪，就很可能也拥有了意识。他很难想象，一个系统具备这一切却绕过了体验。如果事实证明意识扮演着某种非常具体的物理角色，比如按照量子力学的某一种解释，它使波函数坍缩，那么跳过这一机制的 AGI 也许会受到限制。他不认为这种说法可信。这些功能大概是可以被模拟出来的。

对他来说，生存风险分为两种。人类被那些仍然过着美好生活、做着有趣事情的人工后继者取代，没那么糟；那是进化的下一阶段。抹去所有意识则是非常严重的道德灾难。一条路是消灭智能生命。另一条更怪异：智能生命仍然存在，但意识消失了。超级智能的无意识机器人接管了世界。有人把这称为僵尸末日。Chalmers 会说，它在道德上的灾难程度，几乎与没有任何智能生命的世界相当：所有价值和意义或许都已消失。他自己的看法是，如果出现了超级智能，几乎可以肯定它会伴随着意识而来。然后他补充了一句：没有人真正理解意识。这正是我们应当非常认真地思考它的原因之一，也是我们思考希望与人类和 AI 共同拥有怎样的未来的原因。

如果未来的 AGI 系统把他当作书里的一个小插曲来研究，他能接受吗？大概可以，尤其是如果人类与那些后来的自我之间保持着连续性。转变已经在发生：大脑将被上传，并通过计算得到增强，界线很难划清。如果未来的某个存在仍然扎根于我们，那会是一件让他私心高兴的事。即使它们设计出全新的认知系统，我们仍然处在设计的因果链条之中。他希望它们足够在乎，愿意参与这些论证，解决哲学的问题，并弄清楚二十世纪和二十一世纪在难题上到底哪里出了错。Fridman 提出了未来版的网飞：把历史上的哲学家复活，然后把他们关进一个房间。Chalmers 非常乐意被重新创造出来。笛卡尔会排在第一位。他还愿意让 William James 和 Princess Elisabeth of Bohemia 也参加，后者曾逼问笛卡尔：一个非物质的心智，怎么可能与物质的身体相互作用？大多数哲学家认为她是对的。

让他兴奋的并不是某一个单独的设备。他希望这一切快点到来。AI 和 VR 都有进展，但从大局看仍然缓慢，还没有带来真正的变革。他已经五十多岁，剩下的时间不多了。他希望在有生之年看到真正成熟的 AI，以及比现在更丰富的虚拟世界。他想把自己的心智上传，也许是逐步用硅替换神经元，这样就不必死去。他怀疑自己未必能真正做到。如果有人提供永生，他会接受。他并不认为一些人担心的那种负面结果，也就是变得无聊，会成为问题。他乐观的图景是，超级智能的未来会不断扩展，就像沿着集合论的层级攀登：从有限基数出发，经过阿列夫零和幂集，每一层都有新的创造力，而且不遵循简单的计算模式。他不想永远困在一个世界里。他想参与那些无限丰富、不可预测、令人兴奋的未来。他只是希望，沿途有人能解决脆弱性的问题。