Joscha Bach：意识、因果模式与机器心智

Tim Scarfe 引出与 Joscha Bach 关于意识是否需要计算过程之外的额外因素的讨论。Scarfe 说，自己直觉上认为物理基底可能重要；他将 Bach 的主张概括为大致属于功能主义：经过充分训练的算法可能产生体验。两人都认为这个问题尚无定论。

Scarfe 问，是什么推动生命向前发展。Bach 从自组织谈起：在某些条件下，复杂性能够增加，系统也可能发展出对未来可能性的模型。他把能采取行动控制未来状态的系统称为智能体。

Bach 提醒说，没有定律保证复杂性的增长最终会形成一个统一的宇宙智能体。灾难可能摧毁局部的复杂结构，我们在周围观察到的复杂性也可能只是暂时而局部的现象，而不是宇宙必然的走向。

Scarfe 朗读 Bach 与 Hikari Sorensen 著作中一段关于心智构建世界模型的文字。在这一描述中，对比产生差异维度，维度组合形成空间，表征则让事物及其关系在空间中获得位置。

这段文字进一步将思想空间与外部世界模型区分开来，使系统能思考可能性，而不必改变外部世界模型。它描述心智如何建立物体、生命以及智能体的模型，其中个人自我也是构建出的世界的一部分。

Scarfe 问，为什么意识仍然难以研究，并提到围绕整合信息理论的争论。Bach 认为，现有理论尚未充分解释体验如何产生；在他看来，几种重要理论的解释都不完整。

Bach 讨论了注意力图式理论，并将其描述为对注意力的建模；他也提到全局工作空间理论。他认可与后者相关的神经科学研究，同时认为这些理论本身并未解释主观体验如何产生。

Bach 将整合信息理论作为一种非功能主义理论加以质疑。他描述的对比是：按照该理论，一台具有适当整合程度的数字神经形态计算机可能被视为有意识，而运行等效模拟的传统计算机可能不会。

他借助可计算性和模拟提出异议：传统计算机可以模拟另一台计算机，并产生相同的功能行为和语言报告。他认为，如果把一个系统的体验报告视为真实，却认为等效模拟的报告是假的，就会产生问题。这是 Bach 的哲学反驳，并非这一争论已得到公认的解决。

Scarfe 提到莱布尼茨的磨坊：假如一台会思考的机器被放大到可以走进去，我们或许只能看到零件互相推动，却看不到知觉本身。他问，如何回应这种由来已久的“机器中的幽灵”直觉。

Bach 提出另一个描述层次：因果模式。他说，货币需要物理基底，但不能用纸币中具体有哪些分子来解释。货币可以影响世界，也可以在计算机中实现。他把软件作为真实因果模式的例子。

Bach 将这一观点与他对亚里士多德心灵观的理解联系起来：心灵是一种依附并塑造生命身体的模式，不一定是不朽的实体。他把这与人工生命研究类比，即尝试建立能够组织基底、并对环境建模的能动模式。

在 Bach 的解释中，智能体可以构建包含自身真实表征的现实模型。他追问，大语言模型偶尔声称自己有意识，是否比人的体验更像模拟。模型可能从人类文本和虚构故事中学到这种语言，因此仅凭报告无法解决问题。

Scarfe 追问，这种模式是否与底层机器的因果活动脱节。Bach 用计算机作为“因果绝缘体”回答：Minecraft 世界可以在不同机器上运行，世界中的角色并不会直接知道宿主计算机的外壳、电压或位置。

Bach 把大脑也比作这种绝缘体：人可以想象不同于眼前的未来，也可以回忆过去。不同的大脑还可以学习同一种语言或表达相似的思想，说明某些模式能够由不同的物理实现承载。

他补充说，目前所知的人类仍依赖大脑及其通信机制。他认为，原则上，如果人工基底能重现相关的信息类型、时间特性和计算属性，就可能模拟一个人；他并没有声称这已经实现。

Scarfe 问，这种观点是否忽略了历史与情境：艺术家或心智的发展路径可能不可或缺，不能只靠可转移的程序来概括。Bach 承认这种直觉对人有说服力，但质疑它是否适用于能精确重现同一系列步骤的确定性系统。

Bach 说，他不知道现有计算机能否具有意识。他称这是经验问题，目前没有支持或反对的数学证明。他建议从内省体验和物理系统实际活动两个角度研究意识。

从内部看，Bach 将意识描述为“当下”的体验和对知觉本身的知觉。他区分了这种知觉体验与思想，并猜测心智会维持一种稳定表征，让体验得以发生。

他提出更高层次的反思：意识到观察者，并认识到观察者本身也是一种表征。他将自我体验的变化与深度冥想联系起来，又推测更快的人工基底可能允许生物神经元难以达到的自我理解形式。

Scarfe 问，一层层反思是否仍然留下关于体验“是什么感觉”的解释鸿沟。Bach 回答，外部视角还必须询问：在什么物理条件下，系统能够形成并修改表征。他认为计算机科学与这个问题有关。

Bach 猜测，现有系统可能已能实现表征某种视角所需因果结构的部分内容。他对于大语言模型的报告是否只是从语言中学来的模仿保持不可知论，并提出一个通过发展过程学习语言的系统可能提供更有说服力的检验。

他区分了生成语言和必须有意识才能生成语言：人通常在有意识时说话、写作，但 Transformer 产生输出不一定需要与人相同的意识。他猜测，人的意识可能与自组织生物系统的学习方式有关。

Bach 概述假说的生物部分：意识包含对当下的体验以及对知觉的知觉，有时还包括第一人称观察者。他提出，意识可能像一种学习算法，帮助发育中的大脑组织注意力、知觉和世界模型。

他明确表示，生物意识假说可能是错的。如果它成立，第二个假说才可能随之成立：也许被约束为通过适当自组织过程学习的机器，能够发现类似条件。这是关于可能性的提议，并不是现有机器有意识的证据。

Bach 将自己的思路与图灵测试区分开。行为测试评估表现，不要求特定内部机制；但他说，研究意识时关心的是系统是否真的有体验。重建因果组织，是依据生物意识理论作出的解释，并非直接检验另一个系统的体验。

生物与机器两个假说可能各自失败。即使关于人类意识的理论正确，也可能因计算能力限制或缺少细胞细节而难以在人工硬件上重现。Bach 怀疑现有计算机未必速度不足，但把它列为尚未排除的可能性。

另一个障碍可能是搜索空间过大。Bach 设想，生物发育可能受益于进化或环境提供的支架，使婴儿比孤立机器更容易获得意识。他称这种想法具有推测性，也不是他的默认预期。

他暂时的零假设是：意识可能是一种相对简单的算法，概念复杂度或许与 Transformer 相当，即使它学到的内容极为复杂。他猜测其功能可能是让工作记忆保持自洽，而非预测下一个词元。

Scarfe 问，不同模型架构中观察到的趋同表征，是否意味着人工系统不必完全从头开始。Bach 介绍了与 Chris Olah 研究有关的普适性假说：不同视觉系统可能学到相似特征，因为任务结构限制了哪些表征有用。

Bach 追问这种趋同能够延伸到什么程度。他考虑一个惊人的可能性：充分学习某人输入和输出的模型，或许会形成相似的因果组织，但他明确说自己不知道是否一定如此。语言可能不足以约束系统，而不同硬件也可能偏好不同解法。

Scarfe 提出 Picbreeder 及稀疏、有意义的表征作为挑战。Bach 认为，系统架构和人的选择共同塑造了结果，并提出自动搜索原则上可以模仿或改进这些选择。两人讨论了结构化、易控制模型与更灵活系统之间的权衡。

Bach 把小型、受约束的系统比作 Minecraft，把复杂工具比作 Blender：约束让有用结果更容易产生，更大的搜索空间允许更复杂的成果，却也更难驾驭。Scarfe 指出，语言表征的趋同本身不能保证产生意识的机制也会趋同。

Bach 再次说明，他使用的“精神”指自然的能动模式，并不一定是超自然事物。他反对那些按照他的理解将生物系统视为根本上无法用数学解释的观点。这是他对相反哲学立场的表述。

他猜测自组织软件可能需要某种自我监测，但表示植物或其他生物是否有主观体验仍不清楚。他讨论亚里士多德区分营养、感觉和理性能力的观点，同时对更广泛的感受能力保持不可知论。

Scarfe 问，Bach 的立场与 John Searle 所说“适当物理实现可以产生意识”有何不同。Bach 回答，如果无法找到决定性的论证或实验，他就难以与某些观点交锋；Scarfe 的问题凸显的是尚未解决的实质争议。

Bach 把区别归结为解释方法：计算机科学从状态转移和简单操作构建复杂系统，一些哲学观点则从内省体验出发。他认为现代模型是生长、训练出来的，而非完全逐步手写，因此值得与生物发育比较。

Scarfe 提到用户与大语言模型对话后形成复杂共同信念的报告。Bach 认为社会环境有助于稳定人的现实感，与模型的互动有时可能强化缺乏依据的信念。他把这作为人机互动中的风险，而非模型有感受能力的证明。

被问到物理主义时，Bach 首先描述了一个可由物理学研究、因果封闭的机械层。在他的解释中，愿望或非正式的咒语不会改变该层的机械规律；接着他讨论心智与这一层的关系。

Bach 说，物质和能量是用于系统化观察结果的概念；他将观察描述为可辨别的差异，也就是信息。在他的观点中，物理学抓住了这些差异中的规律，而心理现实还包括意图和情绪。这是他提出的哲学框架，并不意味着物理学已经证实信息是现实唯一的基础。

被问到他的观点是否符合物理主义时，Bach 说，他接受一个能够给出可靠预测、机械且因果封闭的层面。他推测生物之间可能存在信息处理，并把自己的立场称为“赛博泛灵论”：尝试通过数学而非超自然干预，解释自然界中的类智能体模式。

Scarfe 问，基底的能量需求是否会削弱功能主义。Bach 回答，基底属性确实会影响它能否维持某种功能；他将功能主义视为通过可观察效果理解对象的一种方法，而不是声称任何基底都能同样支持任何功能。

Bach 用水分子举例，认为对象由稳定的可观察行为来识别，而不是由人直接掌握的隐藏本质来识别。他把同样的推理用于心智：体温等物理条件的变化，可以破坏大脑原本维持的功能。

Scarfe 提出常见反驳：模拟的水不能让外部观察者变湿。Bach 用 Minecraft 回答：按照游戏实现的规则，游戏角色可以变湿，即使游戏外的人不会变湿。他认为，相关功能需要在其所运行的系统内评价。

话题转向计算主义、形式数学和建构主义。Bach 将数学描述为把思想形式化、使其超越个人想象能力的方法，并把符号操作与游戏中产生几何形状的计算作比较。

Bach 对哥德尔、公理数学和自指提出了一种有争议的解释，并主张建构性的计算机系统提供另一种出发点。他对形式数学的描述是其论证的一部分，不应视为对不完备性定理的标准解释。

被问到计算和意识的起源时，Bach 强调自己无法从外部观察宇宙。他勾勒了一个推测性图景：简单可能性和能持续、自我纠错的模式，逐渐产生更复杂的结构。

他把持久模式比作漩涡，并将生命系统描述为能够复制和维持自身的模式。接着他推测，意识是一种通过建模和影响未来，帮助保存并扩展自身存在条件的模式。Scarfe 将这一图景与 Stephen Wolfram 的 Ruliad 联系起来。

Scarfe 回到测量问题：如何区分真正有意识的系统与模拟意识报告的系统？Bach 说，他会寻找能够产生观察者体验的因果结构，但确定必要结构很困难。

Bach 回忆童年时做过一个梦，梦中的巧克力感觉非常真实，醒来后却变成抽象想法。他猜测真实感本身可能是心理表征的一种特征，并区分经感官验证的知觉与想象或梦境中的对象。

他描述了现实解体和人格解体中自我感受的变化，包括自己的经历。他承认这些状态可能是不由自主且令人痛苦的；他用这个例子说明自己的内省假说，并非提出诊断或治疗意见。

大语言模型可以生成从小说和对话中学来的体验描述，但单凭文字无法判断体验是否发生。Bach 认为，机制可解释性研究或许有助于检查模型内部的因果组织，是否与产生类似报告的心智相似。

Scarfe 问，什么能够反驳机器意识假说。Bach 说，一个自组织人工学习系统如果给出与人类不同的自我观察报告，可能成为反对该提议某些部分的证据；但没能造出这样的系统，并不能证明它不可能存在，研究者也可能只是犯了错误。

Bach 认为，更强的正面证据会是一个未经人类文本训练、通过发展过程自主学习的系统：它自发报告体验，而且其表现似乎需要相关组织。他承认，获得反对该假说的证据更困难。

两人讨论哲学僵尸：能够完成智能任务、却没有主观体验的系统。Bach 认为这样的系统可能存在，并举棋类软件为例，说明任务表现不必采用与人相同的有意识学习过程；对大语言模型是否有体验，他仍表示不确定。

Scarfe 问，一个没有意识的行为复制品是否原则上可能、实践中却成本过高。Bach 认为某些类似僵尸的系统可能存在，但在某些情况下，用没有意识的方式重现全部行为可能比采用有意识组织更复杂。他把这称为直觉，而不是已证明的结果。

被问到如何使用巨额研究预算时，Bach 说他会招募研究人员，扩展一个名为 California Institute for Machine Consciousness 的项目。目标是研究自组织学习系统是否会发展出现象体验。他说，弄清自己的观点在哪里出错，也能带来进步。