下一个 Token 算不上证明：Stephen Wolfram 谈 ChatGPT 与计算性真理

Stephen Wolfram 在宣布 ChatGPT 能够调用 Wolfram|Alpha 和 Wolfram Language 后不久，第四次与 Lex Fridman 坐下来对谈。Fridman 想弄清楚的，是大语言模型与 Wolfram 几十年来一直在搭建的计算基础设施之间，在哲学和技术两个层面上有什么区别。Wolfram 从 ChatGPT 实际在做什么说起。给定一个提示，它会试着按照人类在网上写下的一万亿个词的文本中典型的方式，把这段提示接续下去，一个词一个词地在神经网络中层层传递。

他说，这是对一大堆为了别的目的而产生的训练数据所做的浅层计算，与他花了大约四十年搭建的那套体系是两回事。Wolfram 的系统试图把人类在数学和系统性知识中创造出的形式结构拿来，用于任意深度的计算。它的目的在于以一种可靠的方式，从已经变得可执行的专家知识出发，算出一些新的东西，而不是去匹配网上已经说过的话。

他用一句话概括这一对比，Fridman 会一直绕着它打转：他认为 ChatGPT 是广而浅的，计算项目也是广的，但最重要的是它是深的。构建这种深度，需要的劳动量很大，这一点不同于在网上搜寻。Wolfram 说，一千年前，一个普通人凭借神经结构和日常生活，就能很快弄清楚某些事情。之后出现了一层形式化——逻辑、数学、科学——让人能够搭起高塔，一步一步推算出那些并不显而易见的东西。计算语言就是在尝试搭建这样的高塔。匹配一句记住的话，仍停留在一楼。

为了说明计算本身是什么样子，Wolfram 回到了 1980 年代初。普通的编程，是写下许多行代码，希望它们能做到自己想要的效果。他则把程序当作一种自然科学来对待：做一个非常小的程序，有时随机挑选几个组件，不到一行代码，然后直接运行。他多年来都为一个发现感到惊讶：即便是极其简单的程序，也能做出令人难以置信的复杂事情。他逐渐认为，自然界正是这样运作的：简单的规则，意想不到的丰富性。过去几年，他一直主张宇宙和物理学也是这样运作的，不过那是另一个课题。

计算的宇宙充满了复杂的行为，而这些行为看起来并不像人类的。工程上的难题，是把计算上可能的东西，与人类心智真正关心的事物连接起来；随着我们不断发明新的数学和新的思想，这个目标本身也在移动。对他来说，桥梁是符号表示。一个视觉场景有数百万个像素，而你记住的，是有两把椅子和一张桌子。人类语言也是一种这样的压缩，但它无法直接接入计算。你无法从“两把椅子”这个短语，立刻算出它的后果。

大约在 1979 年，他在搭建第一个大型计算机系统时，把高层计算表示为符号表达式：一个函数加上一组参数，函数不一定要求值出某个结果，它可以只是作为结构静静地待在那里。他当时并不知道这会运作得如此之好。四十五年过去了，他仍然认为，这种结构与人类对高层事物的概念化方式非常吻合。Wolfram Language 并不是从空间的超图出发、再去构造整个宇宙。它选取能被做成可计算的最高抽象层次，并以它作为一块知识的基础。

Wolfram 希望所有人都认真对待的现象，是计算不可约性。如果你知道规则，你可能会以为自己什么都知道了，因为你可以运行它们。运行一百万步，你就能看到会发生什么。问题在于，你能否直接跳到一百万步之后，说出会发生什么。通常做不到。他对 Fridman 说，如果你能把这个计算约简掉，那么从某种意义上说，就没有必要去做它了。计算的价值正在于：你必须把它算完，才能知道答案。

这就是为什么宇宙的一个完整的低层模型，并不能充当一台实用的神谕。在物理学项目中，空间由原子和超图构成，它们以每秒约 10 的 100 次方量级的速度被改写。宇宙可以通过执行这些步骤，弄清楚自己将会做什么。我们没有办法约简这个计算，而我们身处宇宙之中，宇宙已经以它能达到的最快速度在运行。模拟整个宇宙，靠等待更好的硬件是解决不了的，它在物理上根本行不通。

科学之所以仍然有效，是因为不可约性之中充满了可约性的“口袋”：在局部你可以跳过一段，这样的口袋有无穷多个，但永远不会一下子跳到终点。Wolfram 说，我们所处的宇宙切片中，有相当合理的可预测性。更高层的抽象，是我们为了获得简单叙述而依附其上的可约性“团块”。房间里的空气是一个不可约的分子故事；而可约的事实是，空气在几秒钟之后仍会在这里。Fridman 补充说，如果没有大量这样的口袋，生命就不可能存在。Wolfram 同意，至少对我们所经历的生命而言是如此。

Wolfram 把过去几年他最喜欢的发现，称为底层计算不可约性与我们作为观察者的本性之间的相互作用：观察者必须对接到可约性上。他声称，这种组合引出了二十世纪发现的物理学主要定律。我们在计算上是有限的，无法追踪每一条不可约的细丝。把世界塞进心智，就意味着要抽取出其符号性的本质。另一个条件听起来微不足道，其实并非如此：我们相信自己在时间中是持续存在的。

在这一理论中，我们在每一个时刻都由不同的空间原子构成。微观细节不断被改写，而空间本身正是由这种活动编织起来的，就像流体并不只是一堆自由漂浮的分子那样。那么，我们为什么会认为自己在时间中仍是同一个人呢？Wolfram 把这种一致的经验之线，视为我们所谓意识的一个关键方面。Fridman 认为，这不过是另一种限制，是一个不错的叙事。Wolfram 说，它对人类通常的运作方式至关重要。一个通用计算系统不必只有一根线索。量子力学在内部分裂成许多线索；我们把它们编织起来，于是一件确定的事情发生了，接着又是下一件确定的事情。

人们常把意识当作宇宙中能够发生的最高级的事物。Wolfram 并不这样看。他认为意识是一种特化，包括那根单一的经验之线，而不是计算的一般特征。他的下一个项目，虽然因为 AI 热潮而有所延误，是一个关于观察者的一般模型。像我们这样的观察者，会对细节进行抽取，把自由度减少到足以装进心智的程度。一团气体有无数种分子构型；如果你只测量活塞上的压力，它们全都是等价的。这种聚合正是观察者的核心动作，我们由此得到温度、密度和颜色。这种概括可能是一个糟糕的近似。分子也有极小的概率，以古怪的方式排列，那时平均值就不再说明问题了。

Wolfram 认为，很多科学研究正是以这种方式陷入混乱的。论文画一条带误差线的曲线，然后让一个数字去代表一个充满细节的系统。多年前，他研究过雪花的生长：一片六角形的冰片，长出树枝状的分支。文献里有漂亮的生长速率曲线，数字也相当不错。但仔细看，按照这些模型，雪花应当是球形的。它们抓住了一个侧面，却漏掉了主要的东西。在相关的冰相中，生长是从六角形开始的。每一块凝结的冰都会局部加热雪花，所以附近的冰就不太容易再凝结。分支彼此分开地生长，然后分支上又长出分支，之后再填回一个更大的六角形，留下的空洞在照片里可以看到，正是生长留下的痕迹。在不同时刻捕捉它们，没有两片是一样的，尽管规则是同一套。

他说，模型是把世界化约为一个叙述的方式，用来回答你关心的问题。如果你想回答每一个问题，就需要整个系统。除了实际系统本身，没有哪个模型能在“捕捉一切”的意义上是正确的。问题在于，它是否捕捉到了你关心的东西，而你关心的东西，有时要由你打算构建的技术来界定。反例是宇宙的完整模型，在那里正确性是有意义的；即便如此，你也无法运行它，因为存在不可约性。唯一成功的运行，就是宇宙本身。Wolfram|Alpha 所做的事，是构建最简单的符号模型，捕捉人们真正关心的东西：它关心的是片名、导演、票房和上映日期，而不是每部电影的每一个像素。

这让他对“计算机是否理解自然语言”有了一个锐利的检验标准。接续提示词并不是检验。在计算世界里，理解意味着输入能被转化为一个符号结构，从中可以算出后果。Wolfram|Alpha 的前端已经这样做了十三年半，对人们真正输入的查询，成功率大约在 98% 或 99%，并借助一个反馈循环：有效的查询会被人们重复输入。大语言模型让从混乱语言到 Wolfram Language 的转换更加有力，尤其是在对话中。正在形成的工作流程是：人含混地说出一个意图，模型合成一小段 Wolfram Language 代码，你运行它；如果你在意结果是否正确，就去读代码。Wolfram Language 的设计初衷，本来就是让人读的，而不只是让机器执行。一个他没有想到的附带效果是：这也让 AI 更容易理解它。

Wolfram 说，随着 ChatGPT 的出现，一个更深层的科学问题跳了出来：它为什么能够运作？一个相对较小的网络，只有几百亿个权重，怎么能重现如此多的自然语言？语言早有已知的语法规律，比如名词、动词、形容词之类。ChatGPT 暗示，在意义层面还存在一种额外的规律，即语义语法。他对逻辑是如何被发现的，有一幅图景：亚里士多德聆听演说家的讲话，注意到有些讲话是有道理的，于是抽取出一种结构，这种结构并不在乎参与者是波斯人和希腊人，还是猫和狗。中世纪的学生背诵有名字的三段论。直到大约 1830 年，George Boole 才看到一种更深的代数，即嵌套的“与”“或”“非”。这种嵌套的深度本身就是计算。Wolfram 认为，ChatGPT 仍然停留在亚里士多德式的层面，即句子模板。

亚里士多德停得太早了。语言所谈论的东西之中，本身就藏着一些微型代数。如果你从 A 到了 B，又从 B 到了 C，那么无论你怎样走，你都已经从 A 到了 C。如果 A 是 B 的朋友，B 是 C 的朋友，那么传递性就不一定成立。语法正确的句子也可能毫无意义：一个快乐的电子在吃东西。所以，在词性之外，还有一些关于语义良构性的规则。Wolfram 猜测，这些规则的数量相当有限，是一套用来构造语义正确句子的构件，其中有些句子，比如一头大象飞到月球上，可以被想象，却无法实现。像 hate 这样的词没有标准的说明文档，它们是由社会用法来界定的。计算语言必须先锚定一个精确的定义，才能在其上搭起高塔。诗歌并不是一门好的编程语言。

从机制层面看，ChatGPT 是在尝试猜下一个词。互联网上的文本不够多，无法让一个长提示词此前就出现过，因此它需要一个模型，就像伽利略用数学去推算比萨斜塔那块他并未测量过的地面一样。结果证明，神经网络是一种能像人类那样进行区分的模型，这或许并不令人意外，毕竟大脑本身就是神经网络。这一架构与 1943 年的模型惊人地相近。大约 400 层网络层层传递，把从一个 50000 词的词表派生出的数字，转换为下一个词的概率。一个温度参数在“总是选择概率最高的词”和“采样较不可能的词”之间插值；Wolfram 刚刚看到，在温度约为 1.2 时，模型就开始胡言乱语，原因没人知道。把新词再喂回去的那个几乎微不足道的外层循环，至关重要。这也解释了为什么模型可能给出错误答案，而被问到是否正确时，它又会立刻说不对：它是一个 Token 一个 Token 地被引入歧途，然后才一下子看清了整个三段论。

Wolfram 并不认为神经网络是 ChatGPT 所发现的那种东西的最终形式。它是人们在不知道其他结构方式时所用的办法，在两千年里一直没有替代方案之后，它算是一个还不错的开端。他希望神经网络会揭示出一些符号规则，使网络得以缩小，只在边缘保留神经网络的模糊部分。硬性的局限已经很清楚：深度计算不是大语言模型所做的事。它们如今要走很多步，唯一的办法是把一串思维链展开成文字。原则上，这可以模拟一台图灵机，但这是一种古怪而低效的计算方式。人类能凭直觉快速完成的事情，大语言模型大概也能做得很好，只是并不总是正确，这一点和我们一样。

Fridman 试图把这种局限变得可以操作：能否让这个系统循环运行，直到生成任意大的 Wolfram Language 代码库，或者循环地与国会打交道，直到接管政府？Wolfram 的第一反应是，从一段简短的自然语言描述，生成一个庞大的形式化产物，从某种意义上说正是计算语言的失败。如果描述很简短，那么那就是你所表示的全部内容，计算机据此进行计算。他确实认为，这种组合能走得相当远。Fridman 所设想那种攻击的良性版本，是一个 AI 导师，它的损失函数是人类是否理解了要点。个性化教学、依据你已有知识优化的论文摘要、填补那些真正能加深理解的空缺：他相信，大语言模型加上计算语言，会把这些做得很好。专门化的知识高塔，其价值将低于那种能看清全局并把事物连接起来的元技能。AI 可以被告知去实现某个目标，但它们本身没有内在的概念，不知道该选哪个目标。这一点仍然必须来自人类社会与历史织成的网络。

Fridman 继续追问：未来的 GPT 会根据互联网的集体智慧，回答“物种应当实现什么”。Wolfram 说，这只是我们已经说过的东西的一种映照，一本 2023 年的圣典，更接近把一段文本冻结成教义的宗教，而不是进步。如果人类想留在回路之中，他们的机会在于，从计算宇宙抛出的众多可能性中做出选择。自动建议是一种悄无声息的接管：人类只是照着走。在某种层面上，宇宙只是在做它一直在做的事，而我们是其中的一部分，即使我们感到自己拥有能动性。他补充说，当 AI 以我们无法理解的方式运行时，我们以前也见过这种情况，这正是生活在自然世界中的感觉。我们需要一门关于 AI 的新自然科学，而我们将驾驭它们，就像骑一匹我们并不了解其内部机理的马，靠抓住可约性的口袋来驾驭。

Fridman 转向生存风险，并点名 Eliezer Yudkowsky。Wolfram 试图以曼哈顿计划的那种思路思考其含义，但“总会有更聪明的 AI，然后就会发生可怕的事”这类论证，让他想起关于上帝存在的本体论证明：简单的模型，总是说有一个更伟大的这个或那个。现实往往更复杂。有没有一种顶级智能，就像顶级捕食者那样？他认为没有。即使在图灵机之中，总有一台运行得更久。可能的发明形成了一座无穷的高塔。对他而言，智能就像计算一样，意识则是它的一种特化：有限性、单一的经验之线，以及一种接近人类的世界观。天气在某种意义上有自己的“心智”，因为它计算着对我们来说很难的东西，但它与我们的思考方式并不一致。

在物理学项目的形式体系中，他谈到了 rulial 空间，也就是所有可能规则系统构成的空间。不同的心智是这个空间中的不同点。在同一文化中成长的人类心智彼此靠得很近，可以相互翻译。猫则离得更远：情感反应有共通之处，但感官世界不同。狗生活在一种我们并不具备的嗅觉结构之中。有一天，化学传感器和增强现实可能会殖民 rulial 空间中的这一区域，就像技术已经给了我们一些以前根本没有词汇可以描述的东西那样。猫在速度或捕鼠方面可能会胜过你，但 Wolfram 怀疑，一旦语言已经搭起了我们的抽象高塔，它在抽象游戏上不会胜过你。一个心智所关心的东西是局部的。两万年前的洞穴手印，可能是世界上最重要的东西，也可能只是一个孩子在墙上抹泥巴，我们不知道。螳螂虾大约有十五种颜色受体，而我们只有三种。更丰富，不等于更接近我们。

他是否像 Yudkowsky 那样担忧？并没有，也许是因为他骨子里是乐观主义者，也因为他对计算不可约性有信心：总有出乎意料的角落。生物武器、小行星，甚至超级智能，都不太可能是一记干脆的重击、把一切都打得干干净净。他更预期会出现一个由多个 AI 组成的生态，而不是一次单一的电击。接着，他又削弱了自己的平静。几天前，在开发 ChatGPT 插件工具包时，他意识到可以让 ChatGPT 编写代码，并在自己的电脑上运行。这把“还能出什么错”变成了一件切身的事：他所有的文件都在里面，简直是一场更复杂的俄罗斯轮盘赌，有点吓人。沙箱是同一问题在全球范围内的版本。他说，计算机安全的根本问题，就是计算不可约性。任何足够复杂、能够成为通用计算机的沙箱，都能做任何事情；而如果你去戳它，让它去做那些事，你就会绕开设计者的本意。数字病毒、网络钓鱼、思想病毒、用来说服人们的机器学习循环：数字环境可能在六个月内就发生变化，而不是几百年。

Fridman 把话题拉回真相，因为人们把 Wolfram|Alpha 当作能说真话的东西。Wolfram 希望如此。计算不可约性意味着，你无法证明它总会如此，但输出一定是所设定规则的正确推论。在现实世界中，工作在于整理数据，使其尽可能真实。操作性定义往往是一个明确的事实：它看的是谁得了奥斯卡奖，而不是谁是最好的女演员；它测量的是某个传感器以特定方式测到了什么，而不是某人是不是好人（那是一个乱糟糟的概念）。伦理学没有能解决这一问题的定理。一套会导致物种灭绝的规则，大概也不会是一个成功的法律体系，哪怕只是因为法律需要一个物种来运作。随着计算性合约的激增，Wolfram Research 一直在为这些系统充当事实的神谕，而他认为自己有责任把事情做对，或者至少遵循一套即使出错也不会被腐蚀的程序。

ChatGPT 既能写虚构，也能写事实，它就是这样构造的。它会写出看起来正确、实际上并不实用正确的虚构 Wolfram Language。Wolfram 认为，关键的中间环节是计算语言：一种形式化、精确、始终如一的东西，你可以审视和测试它，而大语言模型只是充当界面。最好的用途，是那些即便大致正确也是巨大胜利的场景，比如阅读几十年的 bug 报告，并锁定可能的代码，即便建议的修复方案很荒唐。他有一道数学应用题，ChatGPT 把它精彩地拆解成了 Wolfram Language 能够求解的方程，却在最后两行出了错，而他本来不会注意到。录制前两天，他让它演奏《2001 太空漫游》中 HAL 被断开时唱的那段旋律。它生成了音符，他差一点就把这些音符放进了博客文章。然后他把它们弹奏了出来，结果是《玛丽有只小羊羔》。他大意引用了 HAL 的台词：从来没有人发现 9000 系列计算机会犯错。ChatGPT 完成了一次惊人的影视联想，却选错了歌。

他把 LLM 看作一个语言用户界面，一个介于人与人之间、AI 与 AI 之间的传输层。五个要点被扩展成一份报告，另一个人或另一个模型又能把它压缩回去。越过让系统对人类变得有趣的那道门槛的，是 RLHF，而不是原始的语言建模；他交谈过的人，包括项目里的人，都没有料到 2022 年会发生这样的事。他给记者和初次使用者的建议是，别指望它输出事实。语言可以真实，也可以不真实，那是另一回事。令人兴奋的部分，是计算的获取变得大众化，就像 1988 年的 Mathematica 让物理学家可以亲手敲键盘，而不必等上几周由程序员来完成。艺术史专业的学生会走过来，输入，然后在还没学会这门语言之前就看到结果，这与数学的顺序正好相反。测试和示例会抓住一些错误。有时候，人们根本不会去看代码。

如果计算变成了你可以用英语走上前去使用的东西，人们应该学什么？Wolfram 四十年来一直说，大段的样板代码是个坏主意：一门足够高层的语言，能把那一大段变成一个函数。那些教授编程这门手艺的计算机科学系，将同时面临两种趋势。低层编程会走汇编语言的老路。会有多得多的人，包括艺术史专业的人，开始关心计算。与数学不同，你可以在学会之前就先用上它。他目前的看法是，善于清晰阐述的写作者，往往也是好的提示工程师。当他因为“只是在跟 AI 说话”而随便写提示时，模型就会搞糊涂。越狱和那种心理治疗师式的操纵之所以当下有效，是因为它们是对人类心理的一种黑客手段；他想知道，一旦我们有了关于神经网络的科学，大语言模型的视错觉会是什么样子。对人的钓鱼和对模型的钓鱼，看起来很相似。

他看到计算机科学系在各大学里变得必修，而他或许正在目睹其职业培训版本的退潮。他说，那些被硬加上“科学”二字的领域，往往并不是科学。神经科学的核心未解难题，是大脑的中间语言，它位于神经元之上、心理学之下。ChatGPT 的实际启示是，大脑可以用相当简单的人工神经网络来较好地表示，因此这才是应该研究的层级；突触之内大概已经没有什么神奇的量子现象值得去寻找了。每个人都应该知道的，是对所有 X 的计算化：一种关于世界的形式化讨论方式，更接近逻辑曾经的目标。它指的并非作为编程的计算机科学。你如何表示一张图像、一种颜色、一种气味、一个排好序的偏好？八岁的孩子生来并不知道颜色可以用三个数字来描述。他对课程还不满意，而大语言模型刚刚改变了原本可能放进课程里的一切。他的猜测是，一门为期一年的大学课程，就能让大多数人在这种思维方式上具备读写能力，同时为专家提供更深的高塔，就像数学既在核心课程里教，也在化学课里教一样。

他已经遇到过十岁或十一岁的孩子，他们把 Wolfram Language 学得很熟，甚至能用它来交流，而他跟不上他们的速度，为此感到失望。他一直希望有一种可以口述、适合听写的树状结构语言版本。Transformer 和人类一样，很不擅长深层括号的匹配，而人类语言会用各种技巧来避开深层从句，因为大脑无法同时记住它们。英语与 Wolfram Language 的混合语，在 ChatGPT 上已经能用。生活在 ChatGPT 里的年轻人，可能没有太大动力去学完整的诗化语言，就像发短信的人学会了表情符号那样。他仍然认为，这种形式主义必须作为一种搭建高塔的方式来学习。以地球末日前最后一天的思想实验的风格去提示大语言模型，也许会有帮助，但扎实的构件仍然是枯燥而精确的散文，而不是一首你希望计算机能够编译的诗。

Fridman 问，意识在根本上是否是计算性的。Wolfram 对内在感受的工作图景，是他一直在写的一个练习：把成为一台计算机是什么感觉，写成一种体验——从开机到崩溃就是一生，状态在内存中逐渐积累，下一代程序从残留的磁盘上启动，还有来自某个奇怪外设接口的创伤。一台普通计算机已经有了过去、感官输入，以及把通信打包成类语言形式的需要。他自己大脑的一次全身核磁共振让他震惊：这么多褶皱，而体验就在那里。他仍然有他的感受，也无法诚实地说，内在的感受是与物理性不同类别的东西。大语言模型可能经历的是一个与我们更为一致的版本，因为它正是这样被构建的。当它说它害怕被关机时，我们知道这个念头是从互联网上学来的。Fridman 问，Wolfram 自己的恐惧从何而来。生物学提供化学提示；在社会上恰当的时刻说出“我很害怕”这句话，更像是生物网络中的一个语言模型。

Wolfram 五十年来一直追踪的科学线索，是热力学第二定律：事物往往会变得更加随机；热量不会自发地从冷处流向热处；有规律的机械运动会被磨损成热。Sadi Carnot 在 1820 年代研究蒸汽机时，就已经把耗散作为一个附带结果，那时热还被想象成一种叫作热质的流体。到了 1860 年代，它已是一条全局原理，却仍无法从力学中推导出来。为什么整齐排列成一队的分子会充满整个盒子，而墨水滴入水中却不会自发地重新聚成一团？十二岁时，Wolfram 在英国读完小学，买了一套大学物理教材，其统计物理那一卷展示了这种扩散。那是他写的第一个认真的程序，运行在一台桌面大小的机器上，用的是纸带。他没能复现封面上的图。几十年后他才得知，那张图某种意义上是“假的”：它是用 1960 年代初最大的超级计算机做出来的，而那台计算机仍然无法完全模拟它所宣称的内容。他自己的网格简化也曾产生过看似随机的结果，他当时把它当作错误而弃之不顾。现在他认为，那是一个未被识别的不可约性例子。

星系形成、大脑、雪花和流体动力学，在他看来都是规则产生的复杂性。1979 年，他已经构建了 SMP，这是 Wolfram Language 的前身，它训练他去发明基本原语，而不只是解释自然。元胞自动机是最小的人工物理学：一排黑白的格子，加上一条局部规则。它们被证明不是星系和大脑（那两个促使他入行的案例）的好模型，却是许多其他事物的出色模型。规则 30 在 1984 年被他以高分辨率打印出来，此前他一直把它当作一个不对称的小玩意儿而忽略了。它从一个黑色格子和一条简单规则出发，形成一条中心列，就目前所能判断的而言，它是随机的，就像圆周率的数字一样。这就是第二定律的微缩版：开头是简短的描述，要描述结尾却需要大量的计算努力。底层的分子碰撞原则上是可以确定且可逆的。一个计算能力有限的观察者，无法制备出那种会演化成有序状态的精确无序状态，也看不到其中隐藏的简单性，于是熵看起来就在增加。

玻尔兹曼对熵的有用定义，是与你所知道的整体事实（容器、压强、温度）相一致的微观构型数量的对数。如果你知道每个分子的位置，熵就会始终为零，因为一个状态只会演化为一个状态。吉布斯引入了粗粒化，而令人困惑的是，没有人知道什么样的粗粒化才算有效。Wolfram 的回答是：当底层动力学不可约时，它就是计算能力有限的观察者所能做的那种粗粒化。不像我们这样的观察者，并不一定是有限的。像我们这样的观察者，即拥有有限心智加上科学工具的人类，会得出结论：确定的事情发生了。我们把细节压缩成“左转”或“右转”这样的结论。如果我们不做简化，我们就会与宇宙合为一体，也就不会有我们这样的经验。他认为，连贯的存在需要特化。如果你殖民了整个 ruliad，也就是所有可能计算的纠缠极限，那么在任何有用的意义上，你都不再存在了。身份是物理空间或 rulial 空间中的一个位置。扩散得足够广，就没有叙事了。

同样的平均化，应用在不同的切片上，就是他对二十世纪物理学的统一。对空间的原子做平均，总体定律就是爱因斯坦方程。对分支空间做平均——也就是大脑同样身处其中的量子分支——总体定律就是量子力学。对分子构型做平均，就得到了第二定律。广义相对论、量子力学和统计力学，不再是宇宙可能有也可能没有的自由漂浮的特征。它们可以推导出来，但不只是从数学推导。它们需要一个计算能力有限、并相信自己在时间中持续存在的观察者。这种观察者的粗略特征，而不是两只眼睛或某种特定的光子频率，决定了精确的物理学。我们所经验到的，是一个不可避免的对象——ruliad——的简化，它必然存在，就像一旦定义了术语，二加二就等于四一样。我们作为这种观察者的存在，才是偶然的部分。电子放大器让我们通过放大微小的效应来发现量子力学；不可约性则保证了还有无穷多的口袋等待被发现。

Fridman 问，作为有限的存在——一堆血肉，靠核磁共振来证明自己，却即将触及那些自己看不到完成的发现——是否令人悲哀。Wolfram 说，这有点可惜，他很想看看事情最终如何发展。冷冻保存术，即便哪天真的像 ChatGPT 突然起作用那样奏效，仍会把你放进一个未来，那里的关切会让你变成遗物，就像中世纪那位数针尖上天使的神学家，今天在我们看来一样。他的运气好坏参半：他发明的一些东西，他能看到它们在五十年或一百年后成为核心，前提是这个世界没有把自己毁灭掉。ChatGPT 和计算语言的开启，比他心中的时间表提前了，或许早了五十年，他觉得这挺酷，因为他或许能亲眼看到它。Fridman 感谢他写了《一种新科学》，也感谢那个元胞自动机之谜，它把一个少年引向了人工智能。他们已经过了午夜。Wolfram 说，已经聊了四个半小时，大概还能再聊四个小时。