David Deutsch：创造力、通用人工智能与知识的边界

David Deutsch 认为，人的经济价值部分来自彼此的差异。十亿个追求同一理想工作的完全相同复制体，不会自动带来十亿倍贡献；社会本已未能充分利用现有人口的创造力。

谈到人类如何开始创造知识，Deutsch 指出，早期人种似乎也制造过需要解释性知识的技术。他认为，真正的谜题是：创造力存在了数十万年，知识为何迟迟没有快速进步。

他的非传统假说是，创造力最初为接收文化知识而进化。动物能够模仿某些动作，但复制复杂的、有目的的行为，需要理解对方试图做什么。

这种能力使更大量的文化得以传递。Deutsch 推测，早期人类主要用解释能力理解他人，很少用它改良工具或篝火，因此进步积累得极慢。

主持人复述这个理论：理解解释后，学习者可以从少量例子推演。Deutsch 表示赞同，但强调接收者的主动作用：知识不是被简单灌进被动的大脑。

学习者要猜测别人的行为和语言意味着什么。即使习得同一种母语，每个人最终拥有的语言版本也略有差异。

进步是否不可避免？Deutsch 认为不是：解释可能出错，文化可能犯下巨大错误，甚至毁掉自身解决问题的能力。他推测，早期创造性社会，包括史前人种的社会，曾反复如此。

他说，工具对思维效率的提升可能远超小幅百分比。语言帮助人交流并表达问题；文字、算术、科学、计算机和互联网进一步拓展了这些可能性。

Deutsch 使用大语言模型，估计它们让自己的写作速度大约翻倍。他看好其未来潜力，同时认为它们的发展并不等于通往通用人工智能的道路。

一位主持人问，数百万个 AI 实例若能迅速利用彼此的想法，是否会比缓慢的人类知识传递更快推进发现。Deutsch 将现有 AI 工具与假设中的 AGI 分开回答。

Deutsch 说，合理使用 AI 可以像印刷术和互联网一样大幅加速进步。但他怀疑，仅仅增加 AGI 数量就能保证新想法相应增加：数十亿人已经拥有创造力，社会却常常没有利用。

他区分计算机硬件与构成 AGI 的程序。在他看来，真正的 AGI 将是一个人，因此复制它会涉及权利、财产和同意，而不只是下载软件的成本。

Deutsch 主张，AGI 应拥有其运行所依赖的计算机，受雇时也应享有雇员权利。额外算力需要资源和费用；他认为，将这样的存在当作奴隶会是严重的社会错误。

被问到十亿个自己的复制体是否有益于人类时，Deutsch 引用比较优势：几乎相同的复制体会争夺类似工作，而不同的人能贡献不同想法和能力。他更希望延长单个人生，而非平行复制相同人生。

主持人提出，AGI 可能在数秒内完成相当于几十年的思考。Deutsch 承认更快的硬件能加速某些推理，但物理实验仍可能需要数年；更快的计算机也能帮助人类。

对于减少痛苦是否意味着有义务加速知识增长，Deutsch 说，讨论和批评本身就在作出贡献。一个有利于知识增长的社会需要多种显性和隐性知识，不只需要职业科学家。

主持人质疑：如果大语言模型的输出能被误认为人类作品，也许它的过程与人类似。Deutsch 回应，令人信服的输出不能说明系统是否创造了解释性知识。

他说，图灵的模仿游戏旨在反驳对机器智能的否定，并非判定 AGI 的最终测试。系统在游戏中的表现，与它是否拥有通用智能可以是两回事。

主持人问，模仿生物神经元是否能更简洁地解释类似人类的输出。Deutsch 反驳说，人也会运用已有知识、机械地做算术；相比之下，园丁工作时可以重新思考花园应该变成什么样。

Deutsch 认为，在计算普遍性的层面，大脑、国际象棋引擎与语言模型具有相同的基本能力，区别在于运行的程序。他认为，能够解释通用智能的程序或理论仍未被发现。

对他而言，突破的标志将是一套解释性理论：说明通用智能的特征，以及为什么具有这些特征的程序会拥有通用智能；仅有一台表现惊人的机器还不够。

一位主持人回忆《现实的织构》如何改变自己的世界观，并问：鉴于 AI 在近似优化上取得成功，哪些问题真正需要量子计算机？Deutsch 说，目前对理论版图的理解不足以给出完整答案。

Deutsch 预计还会发现更多量子算法。一些算法属于与量子并行性相关的家族，但 Grover 算法有很大不同：他能逐步理解证明，却没有形成对其原理的直觉。

参与者认为 Shor 算法和 Grover 算法在类型上不同，因此可能还有其他算法家族。Deutsch 无法判断它们是否有无穷多种；他认为量子计算更基础，因为它体现了物理定律。

主持人区分了优化、量子系统模拟和出人意料的算法加速三类用途。Deutsch 补充，已经用单个量子比特实现的量子密码学是一个早期应用。

Deutsch 认为，即使大型量子计算机尚未出现，Shor 算法已使某些经典密码方案不适合保护需要长期保密的信息。他预计抗量子攻击的经典密码技术将越来越重要。

量子密码学在速度和可靠性上仍需改进。他还指出，没有密码技术能防止别人从肩后偷看：许多安全问题需要密码算法之外的解决办法。

主持人提出，机构可能正在收集加密数据以待日后破解。Deutsch 说，风险取决于未来算力。他对硬件进展印象深刻，但表示规模化仍然困难，而自己不是实验物理学家，因此不预测时间表。

主持人问，宇宙是否可能像 Stephen Wolfram 的设想一样是一个元胞自动机。Deutsch 认为宇宙具有另一种意义上的计算性：其物理定律允许宇宙内部存在通用计算机。

普遍性意味着宇宙的一部分可以模拟其他系统的行为；量子计算使这一特性更丰富。Deutsch 反对宇宙由外部计算机模拟的说法，认为它把解释问题向外推移，而没有解释这一特性。

他认为，元胞自动机的解释本身必须具有通用计算能力，因此单凭选择某种底层载体无法解释物理规律。他说，如果从计算出发，就应考虑量子计算，而非只考虑经典计算。

主持人问，有限的人脑如何可能理解一切，尤其是某些过程无法简化为简单预测时。Deutsch 回答，人可以借助工具扩展能力，纸和笔就是例子。

在宇宙的大部分地方，更大、能量更高的事物支配更小的事物；Deutsch 称之为等级规则。知识可以逆转这种关系：人用石斧就能砍倒并利用比自己重得多的树。

Deutsch 认为，物理上强大的系统仍可能容易理解：太阳的行为可以预测到遥远的过去和未来。人类目前只占据狭小的生态位，但知识和技术让人能够改变环境。

他说，即使在牛津，没有衣物、卫生设施及其他技术，人也难以生存。他设想人类潜在的生态位是整个宇宙，前提是知识能够持续、快速而稳定地增长。

Deutsch 将某些领域必然永远无法解释的断言视为超自然假设。这是他乐观的知识哲学的一部分，并不意味着任何具体问题都容易解决。

被问到最想理解什么时，他再次提到 AGI 的解释性理论。他也希望构造子理论进展更快；这一理论试图用哪些物理变换可能或不可能来表述物理学。

Deutsch 担心社会和政治态度会拖慢问题解决，尽管他并不认为文明本身正面临迫在眉睫的危险。对他而言，失去应对障碍的信心本身就有代价。

他认为，知识的承载者是人；未来如果人工或外星的人存在，也应包括在内。主持人将此与他反对的观点联系起来：不能仅因宇宙浩瀚就认定人类微不足道。

Deutsch 说，他判断不同观点的标准是：它们是否提供更好的解释，是否指出某个错误。单纯提出一种可能性，例如任意设想出的世界，无法为无数替代方案提供选择标准。

意识与 AGI 是同一个问题吗？Deutsch 说，没有理论就无法知道。他怀疑意识、创造力、主观体验和自由意志相互关联，否则它们表面上同时出现就太巧合了；但他也承认巧合确实存在。

他不愿预测人类的近期未来。他推测，在百万年的尺度上，如果开放且知识持续增长的文明得以存续，它可能遍布银河系，包含生物智能和人工智能；若无法维持，则可能走向灭绝。

被问到每个人都应读什么时，Deutsch 反对强制课程，但推荐 Karl Popper，特别是文章《框架的神话》。他说自己时常重读，每次都有新收获。

话题转向研究的乐趣。Deutsch 回忆起自己发现一个量子算法在简单问题中只需一次查询就能得到两方面信息时的惊奇：这是一种不同于经典计算的计算方式。

关于新形式的普遍性，他的认识形成得更缓慢，最初源于与 Charlie Bennett 的一次交谈。Deutsch 起初以为自己只是在整理几个细节，并未意识到事情有多重大。

被问到比任何人更早知道一件事是什么感觉时，他说自己追究这个想法是因为它有趣，而非关注最终影响或担心别人抢先发表。他认为，乐趣本身就让一件事值得做。

成功与能力并不完全对应：出色且有创造力的研究可能失败，偶然的发现却可能得到奖励。Deutsch 用村民寻找迷路孩子作比喻：找到孩子的人或许获得奖赏，但其他人也可能找得很好。

主持人将这个故事比作华尔街的幸存者偏差。Deutsch 认为，若忽视真正的能力，这种比较就过于悲观：经济增长也需要因合理理由而做对事情的人。

Deutsch 认为，享受工作的人更可能做好研究。他追求乐趣，对无法避免的无聊工作则尽量迅速完成。被问到这次对话是否有趣时，他回答：当然。