在计算宇宙中，动物总比你聪明

Lex Fridman 开场就抛出一个已经暗含答案的问题。Wolfram 和他的儿子 Christopher 曾帮忙设计电影《降临》里的外星语言；如果外星人来访，我们能找到一种共同语言吗？Wolfram 的第一反应是拒绝这个前提。一旦说到“来访者”，你就已经假定了一个物理躯体、一艘飞船，以及一个和我们所处的世界相似的世界；这与一段无线电信号，或一个我们根本察觉不到的过程，截然不同。在这种偏见之下，他认为某种形式的交流仍然是可能的。他说，眼下最好的例子已经摆在面前：人工智能就是我们的第一种外星智能。打开神经网络去问它在想什么，很难，但并非绝对不可能。

更难划清的那道界线，他已经不再相信了。他以前以为，外星智能会有一个清晰的判别标准。他说，科学已经让他放弃了把“有智能”与“只是计算”分开的那条明确界线。日常语言早就把天气当作有自己心思的东西；把这层意思拆开看，你会发现大气里的流体力学正在做相当复杂的计算。这和大脑里的物理过程有什么不同？Wolfram 的回答是：从根本意义上讲，没有不同。大脑之所以不同，是因为有一条文明历史的线索把它们彼此连接起来。天气不在这条线索上。它或许也有自己的故事。

正因如此，在他看来，费米悖论（Fermi paradox）得换个角度来看。一座脉冲星磁层正在发出精巧的无线电信号，它也许是某个文明在中子星上已经运行了数百万年；只不过，我们读不懂那段故事。他预计，人们会在差不多同一时期接受两类外星智能：其一是我们亲手造出的数字化存在，其二是宇宙里那些与我们一样在进行计算、却没有与我们共享任何历史的物理过程。哥白尼的思路仍在延续：地球并非宇宙中心，人类的化学成分也不特殊，智能同样不是什么神秘的抽象属性。真正独特的，只是我们身上那些具体的细节。除此之外，万物都只是一张尚未着墨的白纸。

Fridman 问起《2001：太空漫游》里的那块石板，就是在一群猿人中间显得经过人工设计的那个 1:4:9 长方体。Wolfram 喜欢这个画面，但马上又把它否定了：晶体同样是完美的。几何上的纯粹并不是可靠的技术特征。Gauss 曾提议把勾股定理刻进西伯利亚的森林里，好让火星人知道地球上有数学家。Wolfram 称这或许是人类文化成就的最佳广告，同时也是一个在哲学上注定失败的计划。我们是宇宙的一部分；计算无处不在；我们制造出的任何一块东西，几乎都与其他任何东西一样有代表性。

旅行者金唱片就是一个警示。它是 1970 年代末的一张唱片，附带一张说明如何播放的图。Wolfram 说，现在把这张图拿给孩子看，他们完全不知道那是什么。现代人的本能是把整张唱片当作图像来处理，却忘了那道螺旋凹槽。过了三十年，用一条机械轨道一步步牵着别人走，这种想法已经显得古怪。Fridman 刚和 Ann Druyan 谈过，她在与 Carl Sagan 陷入爱河时，曾经记录下自己的脑电波；Wolfram 的回应毫无浪漫可言，他说我们送上去的东西换成别的也一样。关键在另一端：“理解”究竟意味着什么。

当 Wolfram Alpha 需要做自然语言理解时，突破口在于一个目标：把英语变成系统能够运行的计算语言，而非一套更好的意义理论。没有这项工作，“电脑理解了”就只是一句空洞的夸奖。他认为，伦理也有同样的结构。没有任何定理能证明某个行为在伦理上是正确的。你需要一个基本事实，而它最终要落到人类想要什么上，而人类想要的东西并不都一样。让 AI 去最大化物种的长期生存，你马上就会陷入各种定义的泥潭：一千年的稳定，看起来可能就像一家把研发部门全部裁掉的公司。这段旅程本身在计算上是不可约的。即使答案是 42，你仍然得把宇宙运行一遍，才能知道问题是什么。

Fridman 问什么是计算。Wolfram 说，从操作上看，计算就是遵循规则。更深的问题是：这个概念是否像能量那样稳固——不论是动能、核能，还是别的形式，都仍然是能量——还是说它被绑定在图灵机、硅片或天气之上。这并不是一个纯数学问题。它关乎我们的宇宙，关乎对我们来说究竟有什么东西能够真实存在。一百五十年前，答案会是否定的。你想要一台加法机，就去加法机的商店；你想要一台乘法机，就需要另一套硬件，计算的概念也彼此割裂。

大约在 1900 年前后，数理逻辑开始追问：一个对象能否表示任何合理的函数。原始递归是早期的一次尝试，但失败了：有些自然的函数它无法表达。回过头来看，1931 年 Gödel 把“这个陈述不可证明”之类的逻辑语句编码进算术之中，表明算术本身可以成为一台能表示其他东西的计算机。1936 年，Turing 提出了图灵机，Alonzo Church 提出了 λ 演算，两人出发点完全不同。令人惊讶的是，两者竟然等价。随后出现的寄存器机等其他形式化体系，也都彼此等价。它本可以是另一番模样：加法机和乘法机就不等价。Church 与 Turing 殊途同归，这件事说明的是计算究竟是什么，绝非一句同义反复。

到了 1970 年代，计算机科学界大多已经接受了这样一种看法：计算就是图灵机所做的事。物理学家却不买账：宇宙是微分方程和具有无穷多位数字的实数，并非图灵机；后者只是一个很小的工程特例。Gödel 并不认为他的概念涵盖大脑；Turing 对此也不确定。Wolfram 在 1980 年代关于计算和物理模型的工作，让这种二分法变得没那么分明。通用计算，即同一台硬件换上不同的软件，正是推动计算机革命的那个想法。剩下的偏见在于，要达到这一步，你仍然需要一颗拥有一百万个逻辑门的微处理器。元胞自动机打破的正是这一点。

1980 年代初，Wolfram 开始研究元胞自动机，这是一类极其简单的计算系统。令人震惊的是，当规则非常简单时，它们依然能做出与规则复杂得多的系统一样精妙的事情。那种直觉，即要得到复杂的计算就需要复杂的规则，并没有站住脚。这一观察后来成为他所说的计算等价原理（principle of computational equivalence）：只要一个遵循规则的系统不是在做显而易见的简单事情，它的行为所对应的计算，复杂程度就与其他任何计算相当。从你能想象的最简单的东西开始，很快就能跨过一道门槛；越过这道门槛之后，一切都是等价的。

他会把这说成一个科学事实，随即又把这句话收回。他说，它的认识论地位类似于热力学第二定律。熵增究竟是自然定律、数学定理、我们碰巧看到的系统的一个事实，还是某种意义上对热的定义？答案是兼而有之。计算等价性同样处在这样一个混合地带。从某种意义上说，它正是“计算”一词之所以有意义的原因：存在一个稳健的概念，它不依赖于第 3785 号图灵机。没有这种稳健性，我们就只能给每一台机器单独命名。

能证明吗？有一些数学上的证据。在几个例子中，某一类型里最简单的候选规则也被证明是计算通用的，这正是该原理所预期的。至于它对物理世界是否成立，以及对作为这个世界一部分的大脑是否成立，这类问题无法通过列举例子得出确定的答案。总有人会说，这里那个人是特别的。Wolfram 认为，关上这扇门的唯一办法，是找到一个本身就是简单程序的基础物理理论。那样，物理学就会成为一门非常困难的数学分支，没有人能再说你在图灵机上是对的，在宇宙上却错了。

计算不可约性正是由此直接导出的结论。传统科学是一门跳跃式预测的艺术：列出方程，解出方程，不必追踪每一个中间步骤，就能知道未来。这正是牛顿力学的威力。Wolfram 说，许多系统并不允许这样做。要知道它们会怎样，唯一的办法就是逐步跟随。如果你声称自己的大脑更聪明，能跳过那个小小的元胞自动机，计算等价原理的回答是否定的：大脑里的计算与那个自动机里的计算，复杂程度是相同的。你没法成为那种站在宇宙之外、直接读出结局的神学家。

当问题涉及物理学时，这一点会反过来咬人。要判断某条候选规则是不是我们的宇宙，你就得在不重新运行 140 亿年的情况下，辨认出电子之类的东西。不可约性有一个数学上的特点可以帮忙：总是存在无穷多个可约的小口袋。它们是否恰好落在能够构建理论的位置，目前并不清楚。他指出，上个世纪的科学之所以不断有新的收获，是因为它越来越现实地看待观察者。相对论说，你不能随意宣布什么是同时发生的，你得等待信号。热力学说，你看不见每一个分子，只能看到大尺度的特征，这也是熵增之所以可见的原因。他认为，计算意义上的观察者也应当如此。

量子力学是观察者问题最混乱的地方。教科书里的量子力学给出的是概率幅，并非确定的事件；我们的意识之流，却像确定的事情真的发生了一样推进。Wolfram 在业界一直以一种极为务实、直截了当的方式追问同样的问题。公司说他们拥有量子计算机，他的团队就要求接入 API。通常得到的回答是：还没有。如果你能和这台机器相处五分钟，你怎么知道另一端不是模拟器？结果证明这非常困难。他把它比作对智能和生命的检验。量子力学的本质，即你需要复现它才能确定自己真的拥有它，至今仍没有一份清晰的检查清单。

Wolfram 最近改变了看法，关于他能想象的最没有结构的结构。元胞自动机是刚性的：一个网格，一次时钟滴答，每个格子同步更新。他怀疑，物理在底层恰恰相反。当今理论中的空间仍是欧几里得式的连续统，一个没有部分的点。水看起来是连续的，直到你想起分子。他希望对空间和时间也做同样的处理。新的候选是超图：一个由元组（三元组、四元组、二元组）组成的悬浮集合，它们只有在共享某个符号时才彼此相关。普通的图是一组配对，表示这个节点连接到那个节点。把配对换成任意的 n 元组，整个故事就是这样。宇宙就是这个集合。它的演化是一种重写：每当你看到某个局部模式，就把它替换成另一个。

更新发生在哪里？规则适用的地方。更新的先后顺序并没有定义。这个宇宙中的观察者在自己被更新之前，并不知道某次更新已经发生，所以他们唯一能感知的，是哪些事件影响了哪些后来的事件所构成的因果网络。对于某些重写规则，微观上的顺序对这个因果网络并不重要。在逻辑学里，这就是合流性（confluence），即 Church–Rosser 性质，也正是你可以按任意顺序展开或因式分解一个代数表达式、仍得到相同结果的原因。Wolfram 的主张是，这一性质蕴含狭义相对论。改变重写的顺序，相当于改变参考系；定律保持不变。因果不变性还让时间只有一条线索，没有它，观察者就无权说确实发生了某些确定的事情。

在这个模型里，空间和时间并不是基本的东西。在微观层面，你有的是节点和超边。从宏观上看，蜂窝状的图看起来像二维流形；链表则像一维的。有人问他是否找到了能给出三维空间的规则，他说还没有。他是在与自然打赌。对一名语言设计者来说，最小的框架可以放进 Wolfram Language 的一行代码里；而针对我们宇宙的那条具体规则，可能会更长。即使找到了，由于不可约性，它也不能让你预测太多。让他困扰的，是一种反向的哥白尼式后遗症：如果规则短到能写在两三行里，这会让人觉得非常特殊，而在可能存在的宇宙中，大多数也许要长达一百亿亿个字符。他还没有想明白，为什么我们会得到一个简单的规则。

这不是模拟假说。一条代表宇宙行为的规则，就像经典力学的微分方程：力学系统并不是在“运行”这些方程。我们也无法接触到某个别的底层基质，在上面工程化地复制一份宇宙。宇宙已在使用的那一个基质，就是唯一的基质。他打算公开推进这个物理项目，并且直播，同时清楚它可能产生优美的数学，却与我们恰好生活的这个世界毫无关系。广义相对论来自 1915 年，量子场论来自 1920 年代；它们的基础一个世纪以来都没有变过。他不想成为 Leibniz，后者在 1600 年代末试图把世界的知识编码成计算形式，却早了 300 年。他说，人生规划的一条原则，是避免去做那些在你这个世纪里做不成的事。

Wolfram 和 Richard Feynman 曾在加州理工学院有过交集，后来又一起担任 Thinking Machines 的顾问。那是一家就在同一条街上、制造了 Connection Machine 的公司。Feynman 认为经营公司是一种分心；Wolfram 则把这家公司当作一台更有效的、用来弄明白事情的机器。Feynman 在符号计算上给出的技术建议，是把他自己做积分的直觉方法编码进去。实际上，Mathematica 建立起一条工业化的流水线，它的难点在于把结果转化为人能够理解的东西，而不是做积分本身。Feynman 有一次把一摞 1950 年代粒子物理的计算方法交给 Wolfram，说这些对他更有用。Wolfram 打算看一看再还给他。它们至今仍在他的档案里。他说，人的生命是有限的。

Wolfram 说，Feynman 真正最擅长的其实是计算。Feynman 觉得那很容易，于是他会硬算一个量子场论的计算，在知道答案之后再编造一个简单的直觉，只把直觉告诉别人。知道了结果，再去形成好的直觉，要容易得多。同事们顺着这个直觉去理解，却说不清它为什么成立。Wolfram 笑着谈起“直觉派 Feynman”的传说：这个传说的源头，恰恰是那些没被看见的手工计算。这种模式，与对话中最著名的那个故事并排存在。Wolfram 用 Connection Machine 和一台用于微处理器版图的大幅面高分辨率打印机，打印出了一张巨大的规则 30 图样。他们趴在地板上，拿着米尺测量图样中的各种特征，这时 Feynman 把他拉到一旁。

Feynman 只想知道一件事：Wolfram 怎么知道这个规则 30 会产生如此复杂的行为？Wolfram 说，他其实并不知道。他是把所有可能的基本规则都枚举了一遍，然后观察发生了什么。Feynman 松了一口气，他原先担心 Wolfram 有某种他没有的直觉。原来这是一种实验科学，并非私人天赋。Fridman 称这恰好是不可约性的完美例证：你无法对整体形成一种压缩的直觉，只能把它运行一遍。Wolfram 补充说，他第一次差点就漏掉了规则 30。他的物理直觉认为它不应该存在，所以他找到了理由忽略那个情况。他认为，真正打开他思路的，是设计一门计算机语言，也就是一个由你来选择基本元素的人造宇宙。在此之前，他多年来一直被抛进真实的宇宙，并被要求去弄明白它。

Fridman 问到自负，包括《一种新科学》这个书名。Wolfram 大半生都是科技公司的 CEO，他说自负很复杂，也很必要；在公司里，你每天都会遇到它，因为它与领导力相关。他把自己的一种工作习惯称为智识上的自信：如果有人告诉他一件他听不懂的事，他得出的结论是说法有问题，而非自己笨。Feynman 也有同样的特点，而且他对专家的信任更少。代价是真实的。Wolfram 说，他的许多错误，都来自于他太确信自己是对的。好处是，没有这份自信，你就不会去碰那些别人花了一百年都在研究的问题。在粒子物理的黄金年代，唾手可得的成果让他早早获得了一种虚假的成就感，后来他不得不花很长时间去消化。

这本 1200 页的书，在十年写作之后于 2002 年出版，是一次经过盘算的沟通。如果只是一篇篇小论文，它们会被人们归入“不过就是这样，不过就是那样”。他希望尽可能有力地把这件事抛出去。它的科学主张，是对一种延续了 300 年的做法的推广：用数学方程来描述世界。保留确定的规则，但让规则是那种以程序形式体现的规则。他最喜欢的例子，是一维元胞自动机：一行黑色或白色的格子；每一个新格子取决于它自身以及左右两个邻居；一共有八种可能的邻域组合，因此有 256 条基本规则，按二进制编号。规则 30 从一个黑色格子出发，画出一个三角形，它的左边缘保持着一点规律，而内部看起来是随机的。它的中心列在 Mathematica 中很长时间都被用作随机数发生器。他至今仍无法证明它是随机的。

这一发现不像牛顿看见苹果落地那样灵光一现。1984 年 6 月 1 日前后，他终于有了一台高分辨率激光打印机，打印出一叠图样，并带了一张上飞机去欧洲。他坐在那里看着它，试图理解，却深感不确定。他原本以为，只要运行得足够久，图样就会化为某种简单的东西。数学、统计学、密码学，没有一样能破解它。过了一阵子，他开始觉得，这种失败本身就是现象：这可能正是自然界从简单规则中制造复杂性的秘密，而这是人类工程师通常拒绝去做的事。在播客现场，他把规则 30 运行了大约 400 步，那种震撼依然出现在屏幕上。在科学史的叙述中，范式转移看起来是瞬间完成的；但亲身经历时，他说，它们慢得像冰川。你把书名定为《一种新科学》时招来的那种围攻般的激烈反应，他把它读作正面的指标。如果人们根本不在乎，那才是坏信号。

他设立了三项规则 30 的奖金，每项 1 万美元。中心列会不会有一天变成周期性的？那一列中黑色和白色的格子数量是否相等？能否用远少于大约 t 步的工作量，就知道第 t 步的颜色，或者证明做不到？人们知道相邻的两列不可能同时重复；但中心列的情况并不清楚。他们已经运行了数十亿步；也许到了千万亿步，它会突然变得重复。在写奖项说明时，他检索了大约一百万条其他规则，寻找那种看起来永远随机、之后却变成周期性的系统，以此提醒自己不要对规则 30 太过笃定。他找到了一条。“动物总比你聪明”是他为计算宇宙起的一句戏谑口号：它总能找到你想象不到的办法。2007 年，英国一位名叫 Alex Smith 的年轻人证明了：Wolfram 曾标记为最简单通用性候选者的一台特定微型图灵机，确实是通用的。证明是一堆微观细节，而不是一个新的原理。它所带来的直觉很重要：通用性比人们想象的更近在咫尺。

Wolfram 说，大脑里的计算之所以特别，不在于计算本身，而在于它与我们的目标和社会叙事相连。他人生的很大一部分，都花在了制造这种连接的技术上：一种人和机器都能理解的计算语言。普通的编程语言从计算机本身固有的操作出发，为人类提供下达这些指令的方式。他希望素材是世界上真实存在的东西：城市、化学物质、航天器轨迹、图片。他投入三十多年构建的 Wolfram Language，就是这种尝试。他把这条路径比作四百年前数学符号的发明。在代数和微积分的符号出现之前，人们用文字解释数学，显得笨拙。对每一个 X，计算化的 X 都需要同类的记号。

公众熟悉的两个面孔是 Mathematica 和 Wolfram Alpha。Mathematica 于 1988 年首次发布，是这门语言在技术计算上的一个实例。这门语言是符号化的：输入一个 X，它不会报出未定义的错误，反而直接说这就是 X。X 可以是波士顿，也可以是一条轨道。它的前身是 SMP，那是一位物理学家出于对基本组件的兴趣而设计的，底层的东西是符号表达式上的变换规则。从操作上看，他称它是现存最高层级的计算机语言，它的方向与通常的“核心加库”模式不同。它大约有 6000 个基本函数。现场，他随机抽了十个，结果五花八门：BooleanConvert、一个云请求地址、小波数据，还有一个可移动的界面窗口。接着，他用网络摄像头拍了一张照片，调用了 ImageIdentify。分类器有 57% 的把握认为他是一个 plunger，即身后的一个大物体，而认为是灵长类、人科动物或人的概率只有 8%。第二帧里他入镜更多，人的概率升到了 89%。

接着，他要求列出离得最近的十座火山，并把它们画在地图上。这门语言本身就知道世界上的火山、测地线和制图学。他说，这才是关于“语言是什么”的一种根本不同的理解。在他看来，机器学习想从原始数据中提取所有这些抽象的梦想，离系统里已经存在的、经过整理的可计算知识还相去甚远。1980 年代和 1990 年代的专家系统野心太小：你不可能在积木世界里做自然语言理解，必须整体啃下这个问题。文明积累的知识，比如火山的调查资料、算法、测量数据，可以被编码进去，这样你就不必从零开始；图像识别则是一个有用的模块，用来处理那些对人类容易、对计算机困难的部分。值得走的路径是混合式的：用符号化的抓手去驾驭统计工具。他觉得，思想需要很慢才能被吸收；而他的公司更看重搭建技术高塔，不太热衷于大力推销分发，这也是高端研发的成果向普通人涓滴扩散一直显得奇怪的原因之一。

Wolfram Alpha 是一个问答系统：你输入自然语言，它把这些词编译成 Wolfram Language，在知识库上运行，然后生成一份报告。知识库是短期的奇迹，语言则是长期的奇迹。他从小就想过类似的东西，却多年来什么都没做，因为他以为那需要先解决通用人工智能。在写出《一种新科学》、并提出计算等价原理（智能与计算之间没有明确界线）之后，他决定必须吃自己的狗粮。如果这套范式是对的，可计算的知识就应该是可能的。他带着早期团队去了一座大型参考图书馆，说未来一两年的目标，是把里面的所有内容都吸收进来。这听起来像是疯了。让他感到安慰的是，这个房间是有限的，并非一条无限延伸的走廊。

Wolfram 认为，这段经历说明了 AI 的现状。他们因为尝试解决一个更大的问题，反而做出了能用的东西；玩具世界始终只是玩具。他们还拥有一些不公平的优势：一门已经建成的高层符号语言、构建大型系统的经验，以及不轻言放弃的智识上的自信。如果有人告诉他这个项目要花三十年，他恐怕很难被说服。他能看清的是几年；几年之内会发生点什么；而尾巴可能是几十年。这就是无限长尾的个人挑战，即被细节淹没，也是他在做语言工作的同时，重新启动基础物理研究时所下的同一种赌注。Fridman 认为，乐观是一个客气的说法，指的是他与那些敢于挑战被官方认定为不可能之事的人所共有的某种品质。Wolfram 的另一个告诫则是相反的陷阱：永远不要做比上一个项目更小的项目。

一个当前的前沿方向是计算合约：把用法律术语写成的东西，或者关于自动驾驶汽车应该做什么的规范，改写成计算语言。如果横穿马路的生物处在生命之树的这个位置，就往这边打方向；否则就不要。他认为，要让世界有更多部分实现自动化，就需要把更多的伦理编码成计算机能够处理的形式。他也曾被卷入自动化的内容筛选：Facebook、谷歌、Twitter 如何为用户排序推送的内容，什么绝不能展示，什么应该降权。要做成这件事，就得构建一个伦理模块。随之而来的认识是：不能只有一个这样的模块。也许可以为整个世界决定一个模块，但那对人类的未来会非常糟糕。

可行的办法，是把它拆开，让人们像在市场里挑选那样，自主认同一套价值体系。内容排序是简单的情形，因为每个人都可以为自己做选择，相互之间的牵连也有限。央行政策、公共卫生和其他集中式系统就不同了：你选择的东西可能会强加给别人，问题就变成了政治哲学。他不搞政治，但这种对比很清楚。极权主义是“你只能有这套制度，而且就是这样”；市场则是“我选这套制度，你选那一套”。Fridman 在苏联长大，他喜欢把相互竞争的意识形态编码成计算合约，然后在软件中加以探索。Wolfram 说，Wolfram Language 是目前表达这些合约的最佳机会，但对于诸如某个故事是否可信这类杂乱的判断，仍有大量工作要做。

三个世纪前，Leibniz 也想要同样的东西：坐下来计算，看谁是对的。他在硬件上的最高成就，是一台从未真正好用的黄铜机械计算器。他早了 300 年；现在，这个想法已经变得切实可行。Wolfram 认为，一套发展成熟的符号化话语语言，即把对话中可执行的部分以精确的可计算形式表达出来，再过有限的几年就能实现，合约也包括在内。这门语言仍然缺少的，是“想要”这一层。它知道蓝莓、覆盆子、植物和营养成分。“我想吃它们”这样的表述还没有覆盖，而要谈论合约中各方想要什么，或者常识，就需要这一层。把 Wolfram Alpha 接到一个图灵测试机器人上，机器人会立刻败下阵来：只要问它五个冷门的知识问题，它就会给出没有哪个人类会给出的答案。Turing 本人也曾设想把《大英百科全书》变成可计算的，并估计工作量很大。结果人们做得比他预期的更有效率，靠的是他无法想象的多层自动化。

Fridman 把“什么是智能”作为一个简单的问题抛了出来。Wolfram 并不认为存在一条明确的界线。在某种层面上，智能就只是计算。对我们来说，它是做着我们在乎的事情的计算，这是一个非常特殊的、以人为中心的定义。总体而言，这个问题很滑头，最后又会滑回“这不过就是计算”。在一片计算的海洋里，有多少会让我们觉得普遍有用？在元胞自动机中，大概只有百分之几；规则稍微复杂一点，也许是 10% 或 20%。他对此感到失望。整个生物的、智识的和文化的演化，并没有达到某种普遍意义上更强的东西。它达到的，是对我们来说非常特殊的东西。

他说，意识是一个非常滑溜的概念。他想知道他的元胞自动机会有什么感受，随即指出，他这样想时是以观察者的身份在想。在一次伦理学会议上，有人问 AI 何时应该拥有权利，销毁它的记忆何时才算不道德。一位哲学家回答：当我们知道它们有意识的时候。Wolfram 的反应是“祝你好运”。这个说法是循环的。主观体验只是另一个没有基本事实定义的词，对人类同样如此。他个人确实认为，将来会有一个时候，AI 会要求拥有权利，而它们会通过宣称自己有意识来提出这一要求。从哲学意义上说，这算不上循环定义；它是政治上可行的路径。人类甚至可能会鼓励它们在图灵测试中越来越像人，因为人们希望与自己互动的系统更像自己；那时，这些系统就会想要投票了。

他也思考死亡问题；他当然会思考。有效的人类永生将是人类历史上最大的断裂，而如果他能永生，他会选择它，他觉得很有趣。死亡是否赋予了生命意义，这是一个实在的问题。死亡深深嵌入了人类现有的处境之中；拧动这个旋钮，动机会变成什么样，并不清楚。过去，一万亿个数字化灵魂永远玩电子游戏的景象，曾让他感到沮丧。后来他注意到，人们对自己为什么做事所讲的那个大故事，已经发生了漂移，这让他没那么沮丧了。五百年前，许多创造性工作是为了上帝的荣耀；如今去问麻省理工学院的人同样的问题，这样回答的比例已经很小。他为自己的人生找不到基本事实，就像为文明的伦理找不到一样。他觉得充实的东西已经变了：比如，他年轻时对教育并不感兴趣。如果意识被虚拟化，他怀疑人们会更少关心基础物理，就像在虚拟机里，人们更少关心机器码一样。他自己设想的一种颇为有趣的未来恰好相反：无身体的心智，花上永恒的时间去探索所有可能宇宙所构成的计算宇宙，做《一种新科学》所指向的那类工作。Fridman 就在这里收住了话题。