一面白墙并不比人更有意识

广告之后，Fridman 抛出了他能找到的最荒唐的问题：我们是不是生活在模拟之中？那又有什么区别？Aaronson 回答说，完美的模拟按定义与真实无法区分，所以我们永远不会得到某个更大的宇宙正在运行它的直接证据。不完美的模拟则是另一回事。如果我们能像一个内存错误让 C 程序逃出沙盒那样破解现实，这场讨论就不再是形而上学的了。他说，到那时，它与人们通常所说的充满奇迹的世界，就很难区分了。

一个提法更好的相邻问题是：这个世界可计算吗？这是图灵论题（Church-Turing thesis）的物理版本：给定正确的输入数据，图灵机能否以任意所需的精度模拟任何物理系统？Aaronson 认为，有相当有力的迹象表明我们的世界满足这一点；如果不满足，我们也还没有找到原因。Peter Shor 开玩笑说，广义相对论与量子力学至今没有统一，是因为宇宙的那一部分没有被写明，而在黑洞奇点附近做实验，会抛出一个溢出错误。Aaronson 很喜欢这个玩笑。不过，他说，奥卡姆剃刀仍然指向相反的方向：宇宙已经稳定运行了 140 亿年，不知道某条定律，并不意味着探测这个现象就会让宇宙崩溃。

Fridman 问起 Eric Weinstein 和 Stephen Wolfram 各自宣称的万有理论。Aaronson 不愿意授予他们任何一人这个称号。他们有一些想法，希望有朝一日能导出物理相互作用的基本理论，这是值得追求的方向，也正是量子引力与弦理论的实际研究纲领。即便这样的理论真的出现了，关于涌现行为的每一个问题仍然摆在那里。他指出，“一切”这个词的作用其实很有限：它只在某个特定的定义下才算得上一切。

Fridman 把话题引向意识，Aaronson 则把这个问题一分为二。那个出了名的难题是：在一个物质宇宙里，经历任何东西为什么会有一种“感觉”。他愿意接受的，是他称为“没那么难的那个难题”的版本：哪些物理系统有意识，程度如何？胎儿是否有意识，在哪个孕期开始有？狗是否比青蛙更有意识？如果意识是一个多维向量，那就说明每个系统在哪些方面具有意识。在决定一台机器、一个外星人或一位昏迷的病人何时算作道德主体之前，正需要这样的说明。

Giulio Tononi 的整合信息论是对这个问题少有的直接尝试。你把大脑或芯片抽象为由某种影响模式连接起来的组件，然后计算一个叫作 phi 的数。公式在不同论文里有所变化，但每个版本都涉及计算机科学家所说的图扩张：phi 值高的系统，无法被切分成两个弱连接的部分。Aaronson 的第一反应是后颈的汗毛都竖了起来。作者列出几条公理，做了一些文字讨论，然后 phi 就出现了。他们的做法好像有一套推导，可实际上连类似的东西都没有。那个数就是从帽子里掏出来的。

致命的反驳并不在于细节缺失。如果更大的 phi 意味着更多的意识，那么就很容易造出一个 phi 远远超过人脑的系统，而它所做的事，与我们所说的智能毫无关系：比如一个庞大、重复的纠错码，或者一个规则得像白墙一样的均匀异或门网格。Aaronson 为此写过一篇博客。Tononi 的回应，在 Aaronson 的职业生涯中，是他见过的最大胆的一次咬牙认账。对方没有反驳其中任何一点。那块纠错芯片只会是超级有意识的，因为科学的任务是挑战直觉，而非证实直觉。

Aaronson 的回答关乎先后顺序。科学确实会得出违反直觉的新知识，但它首先会在我们已经知道答案的案例上检验理论。一个新的温度理论，必须先能说出沸水比冰更热，人们才会相信它关于太阳比你感受过的任何东西都要热的说法。整合信息论在空白网格的问题上答错了。一个定义只有与人们在下定义之前所指的东西相符，才算好定义，而人们说“意识”时，没有谁指的是异或阵列。无论这套理论此时测量的是什么，他都会换一个词来称呼它。

被问到意识是不是计算，Aaronson 称这是一个令人眩晕的问题。他觉得自己的意识无法归结为计算，接着立刻又问，凭什么要让人相信他；如果这个主张是反过来的，他又凭什么相信 Fridman。神经科学、机器学习和基础物理学都在理解意识的道路上走了很远。从另一个角度看，剩下的路却似乎并不比起点时短。难点在于要先说清楚什么才算进展，因为总有人会说，你只描述了机制，却没说明是什么给它吹入了生命之火。

Fridman 提出一个定义：如果一个系统相对于人类检查者包含一个神秘的黑箱，那么对意识的模拟就是意识。Aaronson 拒绝这种说法，因为它让意识相对于观察者而定。如果这个词有任何意义，它就应当是由有意识的实体所经历的东西。他不需要 Fridman 来告诉他自己有意识，Fridman 也不需要他来告诉。在七年前写的一篇题为《量子图灵机中的幽灵》的文章里，他探讨过一个相关的想法，它把这种属性保留在系统之内：混沌加上量子不确定性，可能让大脑的某些方面即使在任意先进的未来技术下也无法预测。这会把大脑与目前存在的任何计算机区分开来，但不会与所有可能的计算机区分开来。

Fridman 问起个人版本的问题：如果有人写下一份关于 Aaronson 一生的预言，把它封存起来，之后证明它完全正确，那会摧毁他的意识感吗？Aaronson 的回答很精确：这不会摧毁他的意识感，但它确实会摧毁他拥有自由意志的感觉，而且远比任何哲学讨论都要彻底。这样的预言是否与物理学相容，取决于你需要深入到哪一层。如果神经元就是晶体管，纳米机器人就可以把它们扫描一遍。如果你需要分子或原子层面的信息，就会撞上不可克隆定理。更难的情形是一个别人无法与你区分的复制品。只有你自己说，你的意识没有跳过去。那为什么别人应该相信你？

Aaronson 十几岁时读过 Roger Penrose 的作品。大约五六年前，也就是这次对话之前，他还曾在明尼苏达的一次会议上和 Penrose 讨论过这一理论。他欣赏 Penrose 的个性，也欣赏他提问的大胆。不过，首先需要澄清，Penrose 并不只是说量子力学与意识有关，那样说就太温和了。即便大脑是一台量子计算机，量子计算机也可以被普通计算机用指数级更长的时间模拟出来，它依然是计算机。Penrose 想要的是：大脑利用某种尚未知晓的、不可计算的量子引力定律。不只是不可计算，而是超出停机问题的预言机，超出通常的可计算性层级。

如果一条条数下去，这些推测至少叠了五层。首先，必须有那种不可计算的量子引力理论；Aaronson 说，该领域的大多数人把 AdS/CFT 当作自然是可计算的证据。其次，只在黑洞奇点和大爆炸处才出现的效应，必须能够传递到一个温暖的、运行着普通化学反应的大脑中。Sean Carroll 曾详细论证，量子场论会把这些效应屏蔽掉，这正是标准模型在地球上的现象里足够好用的原因。第三，量子力学本身必须是错的。Penrose 需要客观约化：足够大的态会自发坍缩。GRW 之类的模型至少做出了可检验的预测，这意味着未来几十年，它们可能会被直接否证。Dirk Bouwmeester 等人一直在尝试，但还没有触及 Penrose 的方案。

第四，坍缩不能是纯粹随机的。意识必须影响坍缩的方向，使某些倾向让状态更可能朝一边而非另一边坍缩。仅此一点，就已经会是一个世纪以来物理学最大的进展。整座大厦随后还要建立在哥德尔不完备定理的一个论证之上。Aaronson 说，绝大多数想过这个问题的计算机科学家和数学家，都不认为这条定理能做到 Penrose 所需要的事。

这个论证由来已久。任何足够强且自洽的形式系统都无法证明自身的一致性；这只能在更强的系统里完成，而更强的系统又无法证明它自己的一致性，如此往复。哥德尔本人似乎认为这与心智有关。J. R. Lucas 在 1960 年代也这样认为。Penrose 是在更新这条思路。图灵在 1950 年的论文中提出图灵测试时，就已经把这种想法当作旧的、众所周知的、而且是错误的，并想把它搁置一边。

Penrose 的主张是：虽然一个给定的形式系统无法证明自身一致，但我们人类从外部看它，就能看出它是一致的。从一开始就有人反驳：我们真的能看出来吗？计算机不必被困在某一个系统之中。它可以采纳“它的系统是一致的”这一假设，从更高的视角看会推出什么，然后继续添加公理。哥德尔定理对于这样做的 AI 并没有什么可说的。它只说明，新公理是否正确没有绝对保证。这正是 Penrose 抓住的地方。七十年前图灵的回应依然成立：我们添加新公理时也没有绝对保证，我们从未有过，很可能将来也不会有。

大约十年前，记者们纷纷写下热情洋溢的文章，称一个模拟 13 岁乌克兰男孩的聊天机器人 Eugene Goostman 是第一个通过图灵测试的程序。Aaronson 当时并不是评委。一位记者打来电话，他说自己是做量子计算的，不是做 AI 的；对方告诉他，可以去网页上试一试。他问，珠穆朗玛峰是不是比鞋盒大。机器人打了个马虎眼，因为它根本不知道他在说什么。这些问题之所以显而易见，是因为人类会把句子转换成对事物的表征，然后做常识推理。Goostman 没有这一层。相比 ELIZA（1960 年代的 Lisp 心理咨询程序，它只用几百行代码把你的话原样抛回来，却仍能让人倾诉心事），Aaronson 看不出有什么显著的进步。

过去这几个月，让这个话题更值得一谈。OpenAI 的 GPT-3 没有通过图灵测试，也没有哪个严肃的人声称它通过了。但 Aaronson 说，它显然是对 ELIZA 以及世界此前见过的一切的重大进步。你让它按诗人 Y 的风格写一首关于 X 的诗，它能写出还过得去的作品，很多时候比他自己写得还好。你让它写一篇学生作文，它交出的东西，他相当确定，在大多数高中乃至大学课程里至少能拿到 B-。Scott Alexander 的说法是，他们把整个互联网磨成了一锅浆。Aaronson 曾纳闷，为什么没人用深度学习在整个网络上训练一个聊天机器人。如今有人做了，耗资数百万美元，结果非常令人印象深刻。否认这一点的人，他说，就是没有认真对待眼前的东西。

这个系统是一个深度网络，只做一件事：预测下一个词，并不负责判断什么应当为真。如果 GPT-3 提出了一个深刻的哲学问题，那就是：我们所做的，是否也不过是预测式处理？它的极限还不清楚，因为 GPT-3 基本上就是放大了网络、增加了训练时间和更大语料库的 GPT-2，而且明显好了很多。Aaronson 猜测必然存在收益递减，事情不可能这么简单，他希望自己能有更多依据来支持这个猜测。它那些讽刺性的失败，恰恰出在计算机早就超过我们的领域：配对括号、基本算术，以及关于空间位置的应用题。它不知道什么时候该停止预测，转而调用另一个子程序。他推测，人类大脑把预测式处理和视觉推理、精确的符号运算耦合在了一起。GPT-3 展示了单一机制能走多远，也展示了它必须停在哪里。

被问到理论计算机科学里最美的想法，Aaronson 几乎没有犹豫，直接选了通用性。AND、OR 和 NOT 看上去只是个开端；你的第一反应是，更复杂的事情需要更复杂的积木。少年时他学 Apple BASIC 和 GW-BASIC，也曾这样以为，那种发现的震撼程度，堪比知道婴儿从哪里来。他以为要写一款任天堂游戏，就得用某种更复杂的编程形式。通用性告诉他，不必。加上几条规则，你就已经足以表达一切。仅用与非门（NAND），就能表达任意位数上的任何布尔函数。你可以用与非门搭出一个宇宙。

在不计较可寻址内存多少等细节的前提下，BASIC 的几条简单指令，已经足以表达任何编程语言能表达的东西。证明方法是用 BASIC 写一个 C 或 Java 的解释器。这个想法可以追溯到 1930 年代的图灵，他把计算机精简到只剩读、写、左移、右移、停机和改变内部状态，然后证明这个模型能模拟其余的一切。通用性的第二层含义是通用图灵机：只要把另一台机器的描述写在纸带上，一台机器就能模拟任何其他机器。Aaronson 曾设想过一个由越来越强大的语言构成的无限层级，然后又责怪自己。哥德尔在 1930 年代也有过同样的猜想，读了图灵的论文后承认自己完全想错了。

这种拉平是双刃剑。你无法发明出 BASIC 表达不了的语言。但这也是机会：一旦你知道了规则，天地任你施展，你手里的武器和世界上最厉害的程序员一样，剩下的问题只是如何运用它们。真正留下来的，是更难的问题：一个程序有多难写，需要多少时间和内存。复杂性理论至今仍在为此挣扎。

复杂性理论研究的是解决计算问题所需的内在资源。两数相加是线性的：长度加倍，时间也加倍，即使用纸和笔也是如此。小学乘法是二次的，因为第一个数的每一位都要和第二个数的每一位相乘。后来人们找到了接近线性的乘法算法。这才是复杂性作为一门可以着手研究的学问，而不只是一句口号。

因数分解则是另一回事。给你一个 10 位数，一些明显的技巧会有帮助：能被 2 整除，或者以 0 结尾。但如果质因数都很大，除了在巨大的搜索空间里穷举，并不清楚该从哪里下手。今天保护互联网的大多数加密，都基于一个尚未证明的信念：对我们的计算机而言，因数分解本质上很难。已知最快的公开算法，耗时随数字大小的立方根呈指数增长。巧妙之处就在立方根上，但指数增长依然存在。

一把一千比特的密钥，大概可以用几亿美元的计算资源破解，也就是说，需要 NSA 或其他情报机构的资源。斯诺登泄露的文件看起来很像他们在做这件事，或者类似的事情。Aaronson 觉得，如果这已经是他们能做到的最好水平，那倒令人安心：说明他们并没有找到高效算法，两千比特的数字仍然超出他们的能力。关于量子计算的所有担忧，都从这里冒出来。Shor 算法正是绕过这堵墙的一条捷径。

P 是常规计算机能用确定性算法解决的问题的类，其步骤数随输入规模的某个固定次幂增长。排序、基本算术，还有电子邮件阅读器或《愤怒的小鸟》里发生的一切，都属于 P。NP（并不代表“非多项式”）是这样一类问题：答案为“是”时，附带一个可以在多项式时间内检验的简短凭证。因数分解的判定版本就是标准例子。在已知算法下，找出一个千位数的三个非平凡因子，可能要花上数百万年；但如果有人把这三个数交给你，你做个除法就完事了。P 中的每个问题都属于 NP，因为你可以忽略凭证，自己把问题解出来。

核心的谜题在于：每个 NP 问题是否也都属于 P？如果一个答案很容易验证，它是否也很容易找到？如果要求他把全部身家押上，Aaronson 会押 P ≠ NP。他喜欢说，如果我们是物理学家，就会宣布这是一条自然法则，并给自己颁一个诺贝尔奖；要是后来发现错了，再颁一个。我们之所以称之为猜想，是因为我们是数学家，或者说是数学家的后代。在他的博客上被问到赔率时，他给出 P 等于 NP 的可能性是 2% 到 3%。关键在于这种校准。如果有五十个这个等级的谜题，而他对每一个都做出猜测，他并不指望自己能全部猜对。这才是“超过 98%”应有的含义。

Donald Knuth 猜想 P 等于 NP，但那种算法的效率低到无关紧要：n 的 10000 次方，或者首项系数为一个古戈尔（10^100）的 n 平方。Aaronson 不确定 Knuth 是有理由这样说，还是只是喜欢这个说法。从逻辑上讲，这是可能的。这样的相等会摧毁复杂性理论，逼得人们从头重建，而在实践中几乎什么都不会改变。如果那种算法真的可用，你就能破解人们使用的加密，破解比特币，还能想铸造多少就铸造多少。接下来，你就会有一种理论上最优的方法来训练任何神经网络。“是否存在一个能生成整个维基百科的小型网络？”这个问题就不再是“能不能找到它”，而变成了“它是否存在”。

P 与 NP 问题是克雷数学研究所列出的七个千禧年大奖难题之一。Aaronson 之所以称它最重要，是因为一个快速算法若能解决它，就能解决其他六个。你可以让机器判断黎曼猜想是否存在一个简短的、可由机器检验的证明；如果这样的证明存在，机器不用暴力搜索就能找到它。证明算法存在而不给出构造的非构造性证明，理论上是可能的。Leonid Levin 有一个半开玩笑的构造：它枚举所有算法，让它们交错运行，并在过程中检验声称的解，这样，如果 P 等于 NP，正确的算法终究会被碰到。它完全不切实际。Aaronson 不认为非构造性的存在性证明有多大可能。

2002 年，Aaronson 建立了复杂性动物园（Complexity Zoo），这是一份目录，到本次对话时已收录约 500 个复杂性类。他把这些类看作理论计算机科学的化学元素：基本对象，而其中特别值得关注的只有有限几个。PSPACE 是用多项式规模的内存能完成的一切，内存可以在指数级的时间里反复使用。广义的国际象棋和围棋（棋盘大小任意）属于这里，约束满足问题的计数版本也属于这里，它们位于 #P 这个类中，介于 NP 与 PSPACE 之间。EXP（指数时间）早在 1960 年代就被证明严格大于 P。这些证明技术与证明停机问题不可解的方法是近亲，但当比较跨越不同资源时，它们就失效了，比如时间与空间，或 P 与 NP。

BPP 是有界错误概率多项式时间，即允许算法以很小的概率出错。BQP 是量子计算机能高效完成的计算。这条包含链是：P 包含于 BPP，BPP 包含于 BQP，BQP 包含于 PSPACE。最后一个包含关系，有一个从费曼的图景出发的清晰证明：量子计算是一棵由路径组成的分支树，每条路径带有一个复振幅，某个结果的概率则是通向它的各振幅之和的绝对值平方。给定指数级的时间，你可以把整棵树写下来，这已经说明量子计算机解不了停机问题，也做不了图灵意义下任何不可计算的事。要把 BQP 放进 PSPACE，甚至都不必存储整个状态：你可以复用同一块内存，每次把指数多个振幅中的一项加起来。

Aaronson 个人最喜欢的是 BQP/qpoly，即量子多项式建议。他对它的感情很深，以至于他的 Gmail 地址就是这个名字的一个变形，而令人惊讶的是，居然还没有人抢先注册。设想一个特殊的初始量子态，也许很难制备，也许是大爆炸留下的遗存；它能帮你计算，但它事先并不知道你的输入，只知道输入的长度。他认为，比领域里许多人意识到的更为基础的类，是统计零知识（SZK）。一个干净的定义是：你有两个算法，它们对 n 位字符串上的分布进行采样，然后你要判断这两个分布是接近还是相距甚远。任何能归约到这个问题的东西，都属于 SZK。

最初的发现则来自另一个方向。零知识证明让人能够证明一个陈述为真，同时不透露原因；Shafi Goldwasser 和 Silvio Micali 因此获得了图灵奖，如今它们已成为一些加密货币的核心。SZK 就是那些拥有无需密码学假设的此类协议的问题。要让别人相信两个图不同构，一个全知的“巫师”可以让你随机选一个图，打乱顺序后发给他，再让他告诉你你选的是哪一个图。连续猜对一百次，若两个图本来是同构的，巫师只能靠以 2 的负 100 次方的概率来猜。你在统计意义上被说服了，却没有学到任何关于为什么的东西。这个类在 Aaronson 和其他人的工作中不断出现。他认为，它是动物园里最基础的对象之一，只是被认出得很晚。

这次对话录制于疫情中期。Aaronson 说，所有人的生活都发生了改变，其规模要回溯到二战才能对比。令他震惊的，是机构的失灵：美国疾控中心（CDC）、其他人们原本以为可靠的机构，还有不少媒体。这种失灵令人震惊，令人喘不过气，是他原本料想不到的。他曾在博客上谈过 2011 年的电影《传染病》（Contagion）。影片里，一种从中国传出的空气传播病毒引发了全球停摆，人们等待疫苗，所有人都待在家里。影片制作者唯一想象不到的，是政府的每个人都会变得不称职、不再一心为公。在影片里，阴谋论者只是网上随便的怪人，要由那些高度能干、一心为公的专业人士去反驳。

在设想最坏情况时，那部电影犯了想象力的错误。它没有想到，阴谋论者、无能和疯子会夺取机构，并真的由他们来运作一切。Aaronson 一直强烈主张加快疫苗研发，也主张进行那些没有做的人体挑战试验（human challenge trials）：志愿者先接种，再被暴露于病毒之下，以压缩原本需要数年的时间线。在他的估算里，疫苗每提前一个月问世，就意味着数万亿美元的产出，和数十万人的生命。检测基础设施和接触者追踪本可以独立于疫苗推进，但两者都没有发生。他说，这是美国 240 年历史上最大的失败之一，而他希望这句话就这么直说，不加修饰。

Fridman 怀念二战时期的心态，既包括为了完成任务而打破常规，也包括同心协力。他说，如果他是总统，把病毒当作敌人是再简单不过的事；然而分裂反而加深了。Aaronson 觉得这令人心碎。他提到，有人说这是美国历史上第一次出现连团结姿态都不装的总统。林肯打了一场内战，却仍然说他想要团结。离选举还有两个月，Aaronson 愿意公开表态：他担心选举结果有争议，担心暴力，担心是否会有清晰的权力交接路径。如果这些都没有发生，他可能会显得很傻。他还是要说出来。

Fridman 转向机器学习社群里的“取消文化”：对试图进行细致讨论的人发动激烈攻击；一种思想警察让所有人齐声高喊种族主义和性别歧视是坏的，而这些大家本来就相信；然后禁止任何更精确的说法。说 Aaronson 反对用吼叫压制别人、而不是与人讨论，这种说法实在是极度轻描淡写。他一直努力做到言行一致，在博客上为不受欢迎的人和观点辩护，捍卫开放讨论的规范，结果在社交媒体上被骂成种族主义者和性别歧视者。他很乐意，只要时间允许，就说上一万次，他憎恨种族主义、性别歧视和同性恋恐惧。他不会做的，是把定义这些词的权利让给某一个政治派别，然后被告知必须同意一大堆极具争议的其他立场，否则就是厌女者。

他问，像他这样的人，难道就没有发言权，去决定什么是种族主义，以及对抗它的最有效办法吗？取消文化的心态，按其自己宣称的目标来看，效果糟糕得惊人。Fridman 提到 Steven Pinker，他一直在努力就困难话题做出深思熟虑的讨论，却一次次被猛烈围攻。Aaronson 很惊讶，几个月前 Pinker 挺过了一次取消企图，无论是心理上还是职业上。他和 Pinker 有过一些接触，觉得 Pinker 异常淡定。Aaronson 既欣赏这份淡定，又有点羡慕。他自己受到攻击时的冲动，是去回应推特和 Reddit 上的每一个匿名用户，坐下来花一个小时，证明自己没那么糟。有时它甚至管用。然后还有另外两万个人。

出路在哪里？他希望自己知道。在某种意义上，这些问题可能比 P 与 NP 还难。他认为，原因之一是：支持开放讨论、支持理性启蒙的一方，有许多人在默默支持，而这种支持必须不再沉默。很多人认为这些取消事件很荒唐，却不敢说出来，这正是标准的猎巫动力，而操纵它的人心里很清楚。需要有更多人说，他们同样反对种族主义，并且认为正在发生的事情荒唐可笑。难处在于心力：即便你觉得安全，要把话说得准确、回应每一个问题，也要花时间。越多来自各种立场的人站出来发声，向前推进就越容易。最后被问到爱，Aaronson 说，他爱他的孩子、妻子和父母；如果你想深入了解爱的本质，那你大概是问错了理论计算机科学家。