通过每一项图灵测试的 2040 年 Siri，仍然不会有意识

Lex Fridman 把 Christof Koch 介绍为意识科学研究中的开创性人物之一：被引用超过 100000 次，1986 年至 2013 年担任加州理工学院（Caltech）教授，之后出任西雅图艾伦脑科学研究所所长兼首席科学官，著有《意识：一个浪漫还原论者的自白》。接下来的对话从外星智能和童年时养的腊肠犬，一直谈到皮层下方一个 1 毫米大小的结构。贯穿其中的主线，是试图把“感觉是什么样的”放进科学之中。

被问到宇宙中是否还有其他智慧生命，Koch 说，数字压倒了其他任何赌注：大约有 10^11 个星系，每个星系有 10^11 至 10^12 颗恒星，而且围绕其中恒星的行星，比我们过去以为的还要多。但在他看来，这并不能抵消作为一个主体的奇特之处。他仍然每天醒来，身处一个世界之中。如果那些生命是自然演化的产物，他认为它们也会体验自己的世界。他说，意识并不是人类额外拥有的东西。人类独有的，是能谈论它，而即便这一点也并不普遍：婴儿不能，一些中风患者也不能。

他不记得童年时有过走出自我的时刻。这个谜题是在他读大学学习物理与哲学时出现的：薛定谔方程、广义相对论、元素周期表或基因组，都无法解释从脑的物理过程到感受的跳跃；然而，他每天早上醒来，仍身处一个昂贵的世界之中。按他使用这个词的意思，意识是任何一种体验——主观感受、现象学、感受质（qualia）。用 Thomas Nagel 的名言来说，成为一只蝙蝠、成为一个美国人、愤怒、坠入爱河或感到疼痛，都“像是某种感觉”。坐在椅子上算，深度冥想中的神秘时刻也算。这些只是同一件事的不同形式。

Fridman 问到，未来一台比任何活人都聪明的 Watson，与真正的体验之间有何差距。Koch 把这个问题追溯到图灵，图灵用一种操作性的测试来对待思考：把候选者关起来，与之对话，然后猜对面是人还是机器。他说，Alexa、Siri 或 Google 现在或很快就会通过这种测试。在 Fridman 这一代人有生之年，将会出现说话从容自如、记得每一封邮件、记得你说过的每一句话的系统——就像电影《她》里的萨曼莎。真正的问题在于，成为萨曼莎，或者成为 Watson，是否“像是某种感觉”。

历史把两个概念粘在了一起：智能，无论是天然的还是人工的；意识，无论是天然的还是人工的。我们之所以把它们融合在一起，是因为我们在亲属和其他物种之间长大，看着神经系统从只有几百个神经元的蠕虫，一路扩展到拥有数千亿神经元的蓝鲸，同时看着行为变得越来越复杂。古代文化把心智定位在心脏里；我们至今还说“全心全意地爱”，而 Koch 开玩笑说，那份准确的情人节礼物应该是一块“外侧下丘脑”巧克力。现在，我们把它定位在大脑里，并由此推断：更大、更复杂的大脑承载着更丰富的体验。

工程上造出的智能，打破了这种推断。无论怎样定义，智能都是一种功能：适应新环境、快速学习、看清谁是行动者以及接下来会发生什么。意识不是为了完成某项任务，它关乎存在。在生物体中，两者一同出现，是因为进化把复杂性与因果力堆叠在同一种组织里。Koch 认为，在数字机器中，我们根本不知道正在构建的智能是否与体验有任何关系，甚至连相关性的正负方向都不清楚。

Koch 举出三个任何人都可以核查的例子。第一个来自临床。Terri Schiavo 在 1990 年代的佛罗里达心脏停跳，后被抢救过来，此后在植物状态中躺了 14 年。像她这样的成千上万名患者，会睁眼闭眼，保持睡眠与清醒的周期，偶尔做出动作，但医生或母亲说的话与身体的反应之间，并没有任何规律的对应关系。行为已经消失。在其中一些人身上，脑机接口仍然显示出体验的迹象。闭锁综合征的极端例子是《潜水钟与蝴蝶》：一位法国编辑只能上下转动眼睛，却口述完成了一整本书。还有人连这点能力都失去了。Koch 说，证据表明，他们仍然在那里。

第二个例子就发生在今晚。你会入睡，然后在一个瘫痪的身体里醒来，或许正在飞翔，或许对见到一只早已死去的童年小狗并不感到惊讶。梦境可以充满爱与恐怖，而身体在快速眼动睡眠中，会主动向运动神经元发出信号，让你动弹不得，即肌张力缺失。缺少这一机制的人，会把梦境演出来，这是一种快速眼动睡眠行为障碍，Koch 称之为“倒霉的邪门东西”（bad juju）。行为被锁住了，而体验则足以让你流泪。

第三个例子来自他自己。他在新加坡钻进了一个漂浮箱：水温与体温相同，水中加了硫酸镁（Epsom salt），全黑，隔音。他赤身裸体，先失去了身体的边界，接着失去了声音，然后是光线，最后失去了时间流逝的感觉。起初这很诡异，而心智会主动冒出无聊的念头。如果你不再主动思考，剩下的是一种没有身体、没有时间、没有声音、没有心智的东西，却依然是醒着的。没有计算，没有记忆，没有规划，但完全有意识。进化并没有为漂浮箱而造出我们，所以去问这种状态有什么适应性功能，是他说的那类生物学家很不擅长回答的“为什么”问题。Koch 说，我们甚至说不清为什么我们有两只眼睛而不是三只。这种分离本身就是数据：功能可以降到零，而存在不会。

Fridman 想要一个科学检验：这个实体身上是否存在意识？对人类来说，现在已经有一种被戏称为“电击-压缩”的程序。你用经颅磁刺激去“敲击”皮层，在脑电图（EEG）上观察电活动的回响，并给回响的复杂程度打分。在实验室里，这种方法几乎能完全准确地把清醒的人与麻醉或深度睡眠中的人区分开来，同样的方法也能用于猴子、狗和小鼠。把那种磁脉冲打进一部 iPhone 里，你只会把它弄坏。这种生物学测试无法迁移到其他对象上。

所以我们需要一套理论。直觉认为，会说话的人就是有意识的。婴儿不会说话，做梦的人不能说话，植物状态患者也不能说话。一旦依赖直觉，就会误判这些情况。笛卡尔的狗被打时会尖叫，但在那个古老的故事里，它仍然没有那种特殊的灵魂。Koch 不再相信灵魂的说法，这意味着他需要解释：一块高度易激发的物质，无论是大脑还是计算机，究竟是什么，使它产生了体验。至于其他人，仍然只是一种推断：相似的大脑，相似的扫描图谱，以及对玛德琳蛋糕味道的相似描述。一个未来的 Siri 如果说“我当然是有意识的”，并不能给你提供那种溯因推理的阶梯。你需要一套适用于任何系统的理论。

他押注的理论是整合信息理论（IIT）：意识与系统对自身所具有的、不可约化的因果力相对应，原则上，这一数值可以为任何物理基底计算出来。泛心论（panpsychism）是这一想法的老兄弟，它有不同程度的版本。极端版本认为一切都有灵魂，石头、森林、iPhone 都包括在内。他觉得这不现实。温和版本认为，从单个细胞到巨型红杉的所有生物，都“有某种感受”；他更认真地看待这一版本。Bertrand Russell 的观点，常被称为罗素式一元论（Russellian monism），或中性一元论，认为物理学擅长描述第三人称的关系，如电荷、曲率、夸克，却对事物从内部看是什么样子保持沉默。Koch 说，你的体验，就是你大脑、尤其是皮层的物理过程从内部感受起来的样子。草履虫并不聪明，但它也由数以千计的蛋白质和极其庞大的分子复杂性构成，而没有任何计算机能够准确地模拟它。它大概没有内心的声音，也没有计划，但它或许仍然有一丁点“什么”的感受。

被要求划清生命、智能与意识之间的界线时，Koch 回溯到亚里士多德，在他看来，亚里士多德是西方传统中最重要的科学哲学家。对亚里士多德来说，灵魂是事物的形式，分为三层。所有生物都有植物性灵魂，即生命原理，在今天，我们会说这是生物化学与非线性热力学。动物还增加了感觉性或欲求性灵魂：它们能看、能闻，想吃东西，想繁殖。只有人类拥有理性灵魂。后来，基督教把这一层变成了不朽的东西，也成了通往上帝的渠道，而 Koch 怀疑亚里士多德本人是否持这种看法。

这三个问题在现代的版本仍未完成。我们甚至没有一个清晰的死亡定义。过去，这一点毫无争议：呼吸停止，心脏停跳，人就死了。呼吸机和心脏起搏器却让人一次又一次地开会，讨论法律与医学上的界线：死亡被定义为生命的终结，而生命又被定义为死亡之前的一切。智能也没有法律定义，只有智商测试和排行榜。我们已经开始在狭义上造出智能，如 AlphaGo、Watson、自动驾驶汽车，而有些人正以通用人工智能（AGI）为目标，大致指学习与适应的能力。Koch 认为，从那里到体验，距离仍然很大。拥有通用人工智能的机器，可能有意识，也可能没有。工程本身不会自动带来内在之光。

Koch 说，在生物体中，智能与意识携手并行，因为进化构建了复杂性，而整合信息理论把这种复杂性与系统对自身的因果力联系起来。数字机器则把这对组合拆开了。被直接问到 2040 年的 Alexa 20.0 是否有意识时，这个系统能通过你能想到的每一项图灵测试，他的回答是否定的，即便它声称自己刚醒来，感觉很好。这一思想实验的更激进版本，承认 Henry Markram 的 Blue Brain 项目或人类大脑计划（Human Brain Project）完全成功：十年之内，出现了完美模拟每一个神经元和突触的系统，包括布洛卡区，它说：“嗨，我刚醒过来，感觉很好。”Koch 说，那个模拟不会有意识。如果做得正确，它会拥有被模拟者的智能。模拟智能，并不等于拥有体验。

他为工程师和物理学家喜欢用的比喻是引力。你可以写下爱因斯坦场方程，用笔记本电脑运行它，并正确预测：银河系中心的黑洞质量足够大，能扭曲时空，使光无法逃逸。那么，为什么这台电脑不会把你吸进去呢？它模拟的是引力，却并不具备引力的因果力。天气模型也不会把房间弄湿。这种差距并不是分辨率的问题。按这一观点，要构造人工意识，你需要的是一种神经形态硬件，它的因果结构处在与大脑相同的层级上；一个把计算切成离散滴答的数字时钟，并不具备这种结构。他希望明确说出的结论是：意识并不是人类水平机器智能的必要成分。生物体把两者叠在一起，软件却不必如此。

Fridman 追问，人们会不会把一个令人惊艳的 2040 年 Siri 称为聪明，以及与人类建立联结是否需要类似意识的东西。Koch 认为，未来 30 至 50 年内，机器可能获得高水平的功能性智能，甚至是灵活的智能。但他认为，这并不会让我们在“创造了一个心智”的意义上感到满足。精通自然语言可以令人印象深刻，但按他的划分，它依然只是一种功能。

Fridman 转向伦理：一种不与我们分享价值观的超级智能。Koch 谈到了共情，他把希腊语 empatheia 拆解为“与之共感”。为什么大多数人会觉得虐待狗令人厌恶？这并不取决于狗是否为配偶、孩子或人，关键在于我们内心有某种东西，会自动地与它一同感到痛苦。他认为，如果智人要造出非常强大的通用智能，那么让这个系统具备这种反应，可能符合我们长远的生存利益。它不应该只是把人类当作又一个不受约束的优化目标，随手消灭掉。

恐惧与痛苦是意识的必要条件吗？原则上说不是。经典实验把电极植入老鼠的内侧下丘脑，即快感中枢；老鼠会不停地按压杠杆，甚至完全不顾食物、水和性。只有快感的系统，逻辑上是可能的，尽管那样的存在将是可怕的。但一个必须生存下去的真实生物，则是另一回事。你需要对灭绝的恐惧，也需要正向的欲求状态，让训练有可以抓住的东西。对于被设计出来的心智而言，体验的多样性是一种设计选择，并非形而上学的必然要求。

Koch 在一个虔诚的罗马天主教家庭中长大。他已经不再相信他被教导的那位上帝，也不相信在永恒的幸福中重聚的说法。他没有看到相应的证据。他说，夜空广阔，充满奇迹；我们能理解的不超过宇宙的 4%，暗物质和暗能量也算在内，“也许是丢失的袜子”。他的精神情感如今更接近某种佛教，只是去掉了轮回的部分，而他同样没有看到轮回的证据。让他印象深刻的，是在与达赖喇嘛的会面中，对减少所有生灵痛苦的反复强调，这种痛苦按照能力分级，而不只限于人类。他指出，这一立场从一开始就存在于那个传统之中。

他不会过度宣称。冥想技术所指向的，是一些佛教徒所说的、更为根本的现实层面；但他并不确定它是否真的更根本，与其说它更根本，不如说它是物理学的内里。他能直接接触的，只有物理的东西和有意识的东西。你所知道的关于原子、超弦和分子的一切，都是从这里派生出来的下游产物。你熟悉的第一个也是唯一一个世界，就是这个世界，其中充满了图像、声音和触觉。

攀岩和每天骑自行车，能让他进入一种“心流”的状态。人们追逐这种状态，是因为它有一种奇怪的上瘾性。那个纠缠不休的内心声音，比如该去交税了，或者和前任的那场争吵，会安静下来。你完全投入到世界之中，全部都是行动。漂浮箱则恰恰相反，全部都是不行动。他认为，在这两种状态中，你都触及了有意识存在的一个基本部分，也就是存在的根基，这与智能是不同的东西。至于模拟假说，他把它归入一个占据学者们几百年的古老观念：我们存在于上帝的心智之中。这是它的现代版本，同样无法检验；如果有人乐于谈论，那很好，但对他而言并没有用处。

在量子力学出现之前，物理学看上去是确定性的；量子力学则使某些事情在原则上无法预测。Koch 更愿意接受这一点，而不愿接受那种浪漫的说法：一个宇宙的初始条件，只是在按部就班地上演。在一个人的生活层面，我们受到物理、过去、父母、环境的约束，还受到一个世纪以来实验结果的限制，这些实验表明我们是多么容易被推动。但当你真正在思考一个决定时，比如是否结婚、选哪所学校、选哪份工作、要不要偷税漏税，并把整个有意识的自我投入这个问题中，列出条件，然后做出选择，他说，那就是你能拥有的最大自由。自由意志并非一种能做任何它想做之事的意志。那种东西并不存在。

文学是他在实验室之外拓宽体验地图的方式：屏幕上一闪而过的一张脸，一次按钮的按压。他写博客谈书，谈论布尔加科夫、村上春树、Neil Gaiman、Carl Sagan，因为别人的心理状态否则很难取样，而且老书表明，每个鼎盛时期的文化都以为自己已经无所不知。在他看来，尼采是无意识这块大陆的早期发现者，比弗洛伊德稍早，他撕下了荣誉与慈善的面具。他称弗洛伊德是天才，只是后期有些走偏；弗洛伊德最初是一名研究七鳃鳗的神经科学家，并为神经元学说做出过贡献。一段感情破裂之后，爱、恨、欲望和愤怒会混杂在意识无法审视的地方，也就是杏仁核和其他“地下室”。你可以把故事讲给治疗师听，却无法证实它。你只是无法接触这些区域，而它们的力量很强。

Fridman 问，这种不透明性是不是缺陷。Koch 说，那是特性。如果每一个动作和每一种情绪都需要有意识的批准，我们根本无法存在。学打字或骑自行车时，你必须有意识；然后，你把这项技能交给基底神经节和纹状体。Francis Crick 和 Koch 把这些专门的系统称为僵尸代理（zombie agents）：它们操控双手，而意识则在担忧文本的抽象意义。那些你无法删除的创伤记忆，大概也是有功能的。极端的虐待可能导致临床上的解离，而普通人没法擦除这些文件。如果你有一个开关，你很可能会把记忆擦得超过了有用的限度。

Fridman 问起尺度：我们习惯以人类的时钟和人类的身体为准。那么非常大的、非常小的、非常慢的又如何呢？Koch 从蜜蜂说起。大多数人只把它们看成虫子，但蜜蜂能够认出人类的个体面孔。当蜂群分蜂时，他说，它们做决定的纠结程度，堪比买房子：是这棵树，还是那面墙？侦察蜂会去检查各个地点，回来后连续跳几天的舞，以招募“选票”；然后，整个蜂群会飞往侦察蜂之间已经达成一致的地点。它们的神经回路密度比我们高出一个数量级，神经元不到 100 万个，工蜂大约能活两个月。按照整合信息理论，它们几乎肯定体验着什么。只是，那不会像我们的体验。

接着是 Fred Hoyle 1957 年的小说《黑云》：一片云位于地球与太阳之间，导致全球降温，最后，人类通过射电望远镜与一个智慧实体展开对话，并说服它离开。如果这片云的整合信息最大值处于一个月的时间尺度上，那么它的一个“时刻”就相当于我们的一个月。意识的各种形式，也许就在我们身边生活，只是因为尺度不同而未被察觉。Stanisław Lem 的《无敌号》，则推动了同样的异质感：一颗行星的居民已经死去，机器在达尔文式进化中演化，最终胜出的形式是一团六边形元胞自动机构成的云。它平时在地面上静止不动，直到危机来临，才会组装成一个超级智能的网络，人类既无法理解它，也无法与之对抗，只能用核弹炸掉这颗星球，或者离开。Koch 坚持认为，“它有意识吗？”与“我能知道它有意识吗？”是两个不同的问题，前者是本体论，后者是认识论。多重宇宙可能存在，但彼此之间没有信息交换；无法测量，并不等于不存在。

这种区别已经具有现实意义。哈佛和斯坦福的实验室正在培育微型脑类器官：取自腋下的干细胞、几个转录因子，形成几毫米大小的组织，其中大约有 50 万个看起来像神经细胞的神经元。它们可能正开始有某种感受。我们无法与它们交流。伦理问题来得很早，而那两个问题仍然是分开的：是否存在体验，以及我们将如何知道。

Koch 说，一个想理解或构造人类水平智能与意识的年轻研究者，不应只选一个学科。目前唯一已知的高级系统是智人（Homo sapiens），所以要去研究人类。他心中的地图是：一端是认知神经科学，另一端是心智哲学，中间是计算机科学。他认为，最初的想法源自神经科学：神经网络、强化学习、明斯基早期的机器，以及休伯尔与维厄瑟尔关于视觉皮层的实验，后者发展成了多层网络。卷积网络能做很多事情，却仍然不理解。给一个人看一张图，画面里有人正从手提包里摸走钱包，他立刻会认出这是扒手。而机器只会说：男人、女人、手提包，除非你给它喂过十万张扒手的图片。有些人认为，要获得这种一次性的理解能力，人工智能必须先经由心理学，再回到大脑。最令人兴奋的立足点，是这些学科的交界处：认知科学、神经科学、人工智能、计算机科学与心智哲学。

被问到他最想在近期解开的谜团时，他提到了屏状核（claustrum）：这是一个位于皮层之下、脑岛下方的结构，左右各一个，厚约 1 毫米，埋在白质纤维之中，很难成像。它的特别之处在于，它与每一个皮层区域都有连接。Francis Crick 的最后一篇论文就是关于它的；他在去世的那一天，还躺在病床上口述修改意见。这一假说的图景是：它像乐团中的指挥。皮层里有许多“乐手”，比如运动、心理理论、社会推断、颜色、听觉。意识必须把它们绑定成一个整体。屏状核的神经元比皮层少得多，却与整个皮层保持联系，因此它是一个可能的整合者。

他们正在小鼠身上检验这一点，用一种新标记的细胞类型，并给它起了个绰号叫“荆棘王冠”（crown of thorns）：这是 Koch 见过的分布最广的连接，细胞体很小，轴突树却极其庞大，覆盖两个大脑半球。光遗传学（optogenetics）可以打开和关闭这些神经元，观察动物的行为如何改变。Fridman 把它概括为：这里就是部分变成整体的地方。Koch 喜欢这种说法。他说，这是一个地方，在这里，各自独立的模块变成了一种单一的有意识体验。