指数级的工具，石器时代的博弈论

Lex Fridman 以一个思想实验开场。假如外星人在整个文明史中一直观察地球，并且要写一份简短的总结（像《Hitchhiker's Guide》那样的一段话，不必写成一本书），他们会写些什么？Schmachtenberger 先拒绝了那种省事的拟人化想法。他说，他不知道外星人的感官和意识是否与我们的相对应。他说，要先把这个问题限定住：假设外星人和我们足够相似，才能走到今天，只是更先进。

这些观察者看到的不会是一架干净利落的进步阶梯。他们会看到亚历山大图书馆被烧毁。他们还会看到，两千年前的希腊能造出安提基特拉机械（Antikythera mechanism）这样一台机械计算机，之后这项技术又失传了。他说，隔一段时间，人类就会自己点燃一场大火。这份记录是一连串的前进、废墟、再前进，谈不上一个不断改进的辩证过程。

放眼当下，从核武器到全球化、人类世与指数级技术，他们会注意到，决策程序的进步远远落后于工具。人类依然通过竞争和博弈来分配权力，大体上和石器时代差不多。他猜，这颗星球可能就是那种走不到星际生命阶段的星球之一，因为它会在技术青春期把自己炸掉。如果它要走得到，就需要社会技术快速进步，能够引导、约束和指挥实体技术，让人成为所获力量的安全载体。

大多数伟大的文明都已消失，Schmachtenberger 并不觉得这件事难以理解。埃及、印加、玛雅、阿兹特克，它们都有自己的生命周期，最后走向终结：有的被外部的战争摧毁，有的则是自己把自己吃掉了。复活节岛是他最典型的自我终结案例。如果一个岛屿消耗资源的速度快过资源再生的速度，同时人口还在增长，那么利用率本身就会加速上升。这时出现的是指数式攀升、撞上一堵墙，然后崩塌；平缓的 S 形曲线通向稳定状态的情形并不会出现。

他想要的定义很简单：自我终结的系统，就是依赖某种基础、又在不断败坏这种基础的系统。Fridman 提出了常见的乐观看法：人类的聪明才智、生产力和创新，可能会跑赢消耗。Schmachtenberger 没有否定这种希望，但他不会让这种希望单独成立。天真的技术资本乐观主义和天真的技术悲观主义，都是失败的模式。积极的可能性和灾难性的风险正在一起上升。要让繁荣的结果持续下去，每一种灾难性风险都必须不发生，其中任何一种发生，就足以让其余的一切归零。

他关心的是生成这些问题的机制，上个世纪的意外清单只是素材。Joseph Tainter 关于复杂社会崩溃的研究、Baudrillard 关于制度衰败的论述、Jared Diamond 的流行读物《Collapse》，读它们的意义在于抽象出系统失败的原因，然后针对这些模式去设计。慢性的死亡来自过度消耗：过度捕捞、森林砍伐、化石能源开采、污染，以及由指数增长的货币供应所要求的线性材料经济。快速的死亡则来自核战争、生物武器、失控的 AI 和纳米技术。两者并不互相替代，它们是叠加在一起的。

在历史的大部分时间里，一个群体面临的生存风险都是局部的。一个帝国可能覆灭，邻近的人群会填补它留下的空间。Schmachtenberger 说，二战和原子弹是人类第一次能够在行星尺度上破坏地球的宜居性。这并不是说此前的人们更加和平，只是他们缺乏这样的力量。超级大国已经无法打一场它们可能赢的真正动能战争，它们只能打外交战、冷战，以及通过那些不掌握大型武器的国家进行的代理人战争。

布雷顿森林体系就是为应对这种新局面而建立的社会技术：联合国、世界银行、国际货币基金组织、全球化的贸易协定，还有相互确保摧毁（mutually assured destruction）。它的赌注是，深度的经济相互依存会让战争无利可图。他承认这一结果：大约 75 年间，超级大国之间没有发生战争。但同一套架构也让世界更快地撞上行星边界。快速的 GDP 增长意味着海洋被过度捕捞、森林被砍伐、气候变化、有毒的矿山尾矿。他说，在有限的星球上，你无法永远维持指数增长的线性材料经济；而如果利息和部分准备金银行制度不断扩张货币供应，经济就必须呈指数增长，因为商品和服务必须随之增长才能匹配。

相互依存也制造了脆弱性。新冠疫情表明，一个起源于中国某个地区的问题，可以让交通中断，让化肥和农药的运输断供，并在北非和伊朗造成农作物歉收与蝗灾。连锁反应本身也成了一种灾难性风险。与此同时，武器格局也变了。原本只有两个超级大国各握一件灾难性武器，如今变成了八九个核国家，再加上能攻击基础设施和生物领域的无人机，以及联合国从未约束过的其他军备竞赛。相互确保摧毁是一个双体纳什均衡。多个行动主体则构成一个三体问题：如果 A 打了 B，我该打谁？核武器不容易制造，武器化的无人机却不难造，非国家行为体也能拿到。布雷顿森林体系并没有为一个有许多行动主体、许多灾难性武器、行星极限和连锁脆弱性的世界做好准备。

Fridman 想知道，为什么反乌托邦比一个运转良好的未来更容易想象。Schmachtenberger 用组合的道理作答，并不带病态的悲观。身体里数以万亿计的细胞，能被重新排列成不再构成一个人的方式，远比能组成一个人的方式多得多。一个成年人一秒钟就能被杀死，却无法在一秒钟内培养出来。一栋楼几分钟就能倒塌，却可能花了好几年才建成。熵是那个容易顺着走的梯度。原托邦（protopia）式的道路必须同时避开每一个灾难性分支，所以它比爆炸更难想象。

他说的不只是成吉思汗。洛克菲勒和标准石油看起来是一个建设性的项目：把一种新的能源带给世界。他们确实做到了。照他的说法，二阶效应包括气候变化、石油泄漏、中东战争，以及漫长的政治残局。Facebook 最初做的是约会应用，后来又做了给照片打标签的社交应用，它并没有想做一个摧毁民主的产品。为了广告模式而最大化用户的站内停留时间，让 AI 为任何能抓住注意力的东西优化信息流，结果就是边缘系统被劫持、认知偏差、群体身份认同，以及失去共同的现实。“他们本来并不想这么做，”他说，“但这是一种二阶效应”——而且是一种很快的效应，因为指数级技术传播得更远、更快，能力的跃升也更大。

对他来说，战争是我们想要造成、或至少明知自己正在造成的伤害。外部性则是据称我们并非有意造成的伤害，或者是我们当作副作用接受下来的伤害。灾难性风险同时来自这两者：一方面是内群体与外群体之间由指数级技术驱动的军备竞赛；另一方面，是把更强大的技术用于某个普通目标，而它对公共资源、他人或环境的二阶、三阶效应，可能超过最初的问题本身。他认为，每出现一种新的外部性就靠创新去解决，这种思路忽略了一个事实：我们跟不上指数曲线，而有限的空间也不可能永远容纳指数级增长的外部性。

Schmachtenberger 说，GDP 是衡量一个好文明的糟糕指标：它会在战争中上升，会因为给病情更重的人支付医疗开支而上升，也会因成瘾而上升。他不认为存在唯一正确的指标。任何一套固定不变的指标，都会变成回形针最大化器（paperclip maximizer），变成把地图置于领土之上的虚假偶像。用他的话说，智慧是一种判断力，能让人超越指标优化，做出正确的选择。不过，他还是愿意玩一下这个思想实验。他喜欢的一个指标，是成瘾的反面，定义为对人们自身所珍视之物造成破坏的强迫行为。社会制造出的这类强迫越多，他就越认为它不健康。

舒适与成瘾靠得很近。走出这条路的办法是兴奋效应（hormesis）：接触超常刺激，但不会让人对其他一切都变得麻木。他认为，未来的文明必须创造一些仪式化的不适，比如汗屋、寻求异象（vision quest）、独自野外生存、死藤水（ayahuasca）、太阳舞，甚至瑜伽体式，让人变得坚韧，能够面对恐惧，并且变得值得信赖，而不必被推进战争或原始的创伤之中。这些不应由国家强加，而应从理解其价值的文化中自然生长出来，成为人们共同参与的自愿修行，这样一来，事情变得艰难时，就不会有人半途而废。

他更看重的指标，是情绪状态之间的耦合。在健康的关系里，你的快乐和我的快乐、你的痛苦和我的痛苦，往往会同向变化，这构成了共情痛苦（compassion）与共情喜悦之间的一条轴线。共情喜悦是一个在英文里并不常见的词，他希望它能更常见一些，它指的是为别人的快乐而快乐。解耦就是反社会人格：我不想伤害你，但我也不在乎你。反向耦合更糟，他说这种情况极其普遍，是一条嫉妒与施虐的轴线，而我们已经对它习以为常，把它当成轻度的精神病态。嫉妒是你过得好时自己反而更难受；施虐是你失败时自己反而更痛快。如果非要概括，他说，文明应当优化共情喜悦。这排除了那种披着爱的外衣的自我牺牲式痛苦，也排除了反社会或施虐式的快乐。它要求的是一种耦合：我自己想要更快乐的驱动力，会想要支持你。

Fridman 问生命的意义是什么。Schmachtenberger 先从语义说起。人们把意义和目的混为一谈，然后去追问宇宙的目的。他说，目的是一个相对的、功利性的概念：一件事物的目的，是相对于那些已被预设为有价值的其他事物来定义的。如果去问一切事物的目的，那就没有外部的东西可以指向了。这并不意味着存在本身没有目的，只是说明这个概念太小了。按他的解读，道家谈的是事物本然的样子，在那里，“为什么”已经无法再往深处追问。

在个人生命的尺度上，他提出了三种需要保持良性关系的模式。存在，是吸收并欣赏此刻眼前的生命之美：落日、音乐、微风。在这种模式里，你不会去追问这一切意味着什么，因为你已经被体验充满。行动，是为这种美添砖加瓦：艺术、技术、科学、守护。成为，是在前两者上都变得更好，能够更深地被触动，也更有能力作出贡献。任何一种模式单独存在都会失败。纯粹的存在会滑向享乐主义。纯粹的行动会变成停不下来、最终耗尽自己的人。纯粹的成为，则会变成永远觉得自己不够的空洞。

行动从哪里来，比任务清单更重要。如果它来自存在的充盈，就更有可能注意到外部性。如果它来自想要被填满的内在空虚，就会牺牲其他地方，并把一部分注意力锁在内部。他重新审视了佛教的一个说法：欲望是苦的根源。他说，有一种欲望是缺乏，想在世界里获得满足，它会让苦一直延续下去。还有一种欲望，本身已经充满生命之美，并想要为之增添什么，这更接近菩萨愿，与渴求并不相同。他说，东方传统强调无条件的当下觉知，西方传统则把欲望视为创造力的源泉。从完整出发、为整体而创造，与从亏欠出发的创造，是两种不同的行为。

Fridman 问，死亡对于有意义的人生是否不可或缺，比如 Ernest Becker 意义上的恐惧，或者至少是结束时的忧郁。Schmachtenberger 自己也有过对死亡的恐惧，也有过以为自己快要死去、却觉得平静而美丽的时刻。他猜，人们所说的对死亡的恐惧，很大一部分其实是对死后故事的恐惧：地狱、糟糕的轮回、中阴（bardo）。而在日常生活中，对“不再有体验”本身的恐惧看起来弱得多。熬夜熬到一定程度，你会渴望深度睡眠，渴望体验停下来。这种渴望并不病态。

有限的时间带来的不只是紧迫感。在他看来，大多数人在临死前不久，才开始在情感上走向成熟。如果你能永远活着，你就可能永远只盯着对自己有什么好处。如果大写的“生命”仍在延续，包括意识、人们坠入爱河、人们为美添砖加瓦，而你这一段特定的人生却不再延续，那么你的人生仍可以在它之外产生影响。老人种下的树，自己永远也坐不到它的树荫下。死亡迫使人走向共情痛苦与共情喜悦所描述的那种拓展。

他记得 Hafez 的一首诗，诗里这位苏菲派作家告诉一位孤独的读者：想着他吧，让他的精神跨越千年，去给予安慰。几个世纪以前，已经有人在关心一个陌生人的孤独。对 Schmachtenberger 来说，这是人类最美的举动之一：超越了“对我有什么好处”。爱因斯坦关于“把万物看作彼此分离”是一种意识的视觉错觉的说法，也与此相近。当他想象自己离开之后的世界，想象年轻人第一次坠入爱河，想象人们被落日震撼，他无法不感到彼此相连。被问到被人遗忘是否会让他难过，他说，他本来就依赖着许多无名之人，没有他们，他就不会在这里。对那些连名字都没留下的祖先心怀感激，并追问我们是否在做一个好祖先，在他看来是一个健康的想法。

Fridman 想让他在大型民主国家、紧密的亲属部落，或者 Michael Malice 式的无政府主义之间二选一。Schmachtenberger 不接受这种二选一的测试。他不希望美国联邦政府明天就消失，但也不希望它照现在的样子继续下去。人类在几十万年里，大多是在低于邓巴数（Dunbar's number）的群体中生活，这个数字通常被认为约为 150，不过 Fridman 指出，原始论文给出的其实是一个范围。在这个规模以下，所有人都能彼此认识，伤害无处遁形，撒谎也很难占到便宜，一个议事会仍然能够决定大事。超过这个规模，人就可以躲在群体之外，对陌生人也不那么受约束。他说，一个文明能否延续，取决于结合能是否超过分裂能。

身体是他用来取代二元框架的模型。细胞、组织、器官、器官系统：你不会希望数以万亿计的细胞只是一团原生质，然后把它称作纯粹的民主。每一个更高的层级都建立在较低层级之上，同时也反过来影响着它们。他希望治理能够在个人、家庭、社区、城市、地区、国家和全球各个层面展开，并具备制衡机制和双向的信息流动。在这个意义上，全球治理不是一种没有刹车的自上而下的强加。它是在我们真正产生影响的尺度上进行的治理，因为任何人破坏了海洋，都会让所有人一起受害。他刻意使用 governance，指的是一个过程，与被强加之物的 government 不同。

在他看来，城市的分量比民族国家重得多。按他直截了当的说法，民族国家大体上是一种虚构，靠战争和停战协定才划出了边界。城市依托的则是实实在在的毗邻：让某些事物彼此挨着，本身就能带来价值。Jeffrey West 研究过规模问题，Schmachtenberger 拿他的结论来佐证：组织越大、协议越复杂，比如公司和国家，超过部落的体量之后，人均产出就会下滑；城市恰好相反，人均生产率随规模扩大而提高。在城市里，人还能切身感到自己有所作为。街区，以及不依托地理位置、靠兴趣联结的网络，也都应该有自己的一层。眼下要回答的问题是，怎样才能让秩序自发涌现，既不陷入混乱，也不靠压迫来维持。

他指出，威权国家在一些长周期任务上已经协调得更有效率。中国在国内外都建成了高速铁路，美国则一条也没有建成。在别处不平等加剧的时期，中国让 3 亿人摆脱了贫困。如果全球供应链失灵，中国会是最接近闭环的国家，它拥有一带一路、稀土和晶体管制造。任期限制本是为了防止终身君主而设，却产生了一个二阶效应：没有人会为下一次选举之后的事做规划，左与右的争斗把精力都耗在推翻前四年的政策上。这套系统像热量一样耗散掉了。强加秩序的替代方案，自身也有它的反乌托邦。目标是在没有独裁者的情况下进行长期规划，靠涌现，不靠讲台。

Fridman 问，软件平台能否成为那种涌现式的秩序，技术是否在价值上保持中立。Schmachtenberger 认为这种中立论很荒谬。整个人类学的流派，比如 Marvin Harris 的文化唯物主义（cultural materialism）、Marshall McLuhan 关于信息技术的论述，之所以存在，正是因为工具会改变人的思想、价值观和社会系统。牛拉的犁是他举的例子。使用犁的文化能够种出可以储存的谷物，能扛过饥荒，并且得以扩张；其他文化要么采用它，要么被淘汰。犁所到之处，万物有灵论（animism）随之消失，因为一天到晚驱赶牛干活，就很难再谈什么水牛之灵。上半身的力气使食物供应的责任转移到了男性身上；孕妇在犁地时流产；神灵的性别比例向男性倾斜。还有一种相关的、还原论式的说法甚至认为，内燃机抹平了力量差距之后，女性主义才随着拖拉机而来。剩余产出先变成了继承，继而变成资本，再变成阶级。他承认，单一原因的叙事太过整齐。但他不会放弃的主张是：技术编码了行为模式，行为模式又编码了价值观，而价值观再为这个工具提供理由。

同样的循环在之后又出现了，这也解释了为什么实体技术的一次重大飞跃，会打破先前的社会体系：犁打破了部落，工业革命打破了封建制度，核弹让民族国家之间的战争不再是足够有效的制度，并迫使建立国际性的机构。对他来说，顺着当前市场激励走的指数级技术，并不是解决办法。市场本身也是一种先前的社会技术。维基百科是他很推崇的对照案例：它在经营一个信息公共品，不是营利性公司，也不会同时侍奉两个主人。Facebook 和谷歌采集的行为数据，可能比治疗师、医生、律师或神父所掌握的还要具体，那是一种特权信息。在普通的受托责任法（fiduciary law）中，代理人与委托人之间并不存在博弈论式的关系。平台却有。用户以为自己拿的是一件工具。他说，他们实际面对的是一个行动主体，这个主体的目标，也就是最大化站内停留时间，与用户自身的目标相互竞争。

Schmachtenberger 说，现代民主源自启蒙运动的一场赌注：大量彼此陌生、没有纽带、成长背景各异的人，仍然能够共同做出决定，甚至为陌生人作出妥协。这是一个相当大胆的设想。它依赖于共享的理解，比如发生了什么、一项政策会做什么，也依赖于共享的意义建构，即我们想要趋近的价值观。如果你认为系统性种族主义普遍存在，而我认为它根本不存在；如果你认为气候变化几乎是生存级威胁，而我认为它毫无影响，协调就会失败。要做的工作是：充分进入对方的观点，直到能把它讲到最强，然后寻找一个比只为赢而设计的提案更能服务于多种价值的命题。

他转述杰斐逊的话：如果面前是一份完美的报纸和一个破败的政府，那就选报纸，因为明白时局的人能够重建政府，而不明白的人则无法做出好的选择。他转述华盛顿的话：联邦政府的首要目标，应当是对每一位公民进行全面的政府科学教育，包括博弈论、协调、历史、社会学和经济学。关键不在于法治，也不在于守住边境，独裁政府也能做到这些。他说，如果首要目标不是这种教育，那么这个国家就很难长久保持民主。教育和运转良好的新闻界（第四等级），是先决的制度条件。

在开国先贤们能想象的规模上，最初的做法是镇民大会。提案可以在现场当场打磨，也不必由某个特殊利益集团拿来让人投一个赞成或反对的票。他引用一位开国元勋的说法，即投票是民主的死亡，因为投票会把民众撕裂成一场被升华了的政治战争。所以投票应该放在最后。先问：你所关心的事情，在这份草案中似乎会受到损害，怎样才能让这项提案变得更好。规模扼杀了这种过程：代表们只能在一个个会场之间奔波。互联网本可以在地理范围之内恢复提案的共同创作。他说，它大多没有这样做，这一点大概介于荒唐和符合阶级利益之间。

Fridman 提出了一个论点，Schmachtenberger 很乐意加入。维基百科的二阶效应被低估了。不只是人们会去读它。一些本身并不熟悉某个主题的 YouTube 创作者，会把一篇条目读透，再做成引人入胜的视频，于是数以百万计的人了解到二战确实发生过，奴隶制的规模有多大，不公正是有名字的。Fridman 认为，知识不可避免地会带来同理心：一旦你知道有数百万人曾遭受酷刑，一段恋情的分手看起来也会不一样。这种影响还会渗透到警察、律师、法官、陪审团和普通公民的说话方式中，即便周围的制度有缺陷。Schmachtenberger 是它的忠实粉丝。“你应该给维基百科捐款。”这样的系统已经很少了，他为此感到惋惜。

他希望听众对信息技术进行一次完整的辩证思考：把 Tristan Harris 的技术忧虑推到底，包括伤害的指数曲线；然后把 Kurzweil 或 Diamandis 可能提出的技术乐观论也摆出来，两者同时保留。在某些指标上，事情会同时以指数方式变得更糟和更好。这是对先前系统的失稳，从中可能涌现出更好的秩序，也可能走向崩溃。他不希望在评估中掺入乐观。“我希望我的判断清晰到不能再清晰。”乐观应当用在这份清醒之上，用来寻找解决办法。悲观则应当用来对这些解决办法进行红队式的审视，检验它们的二阶效应，但不要陷入绝望。

他接着说，威权国家正在有意识地运用指数级技术，让自己成为更好的威权国家：物联网监控、机器学习、社会信用体系。开放社会大多没有把技术引向更好的涌现式秩序。它们任由企业在公司法之下这样做，而公司法从未设想过对注意力的受托责任，也没有设想过针对网络效应垄断的反垄断监管。YouTube 的规模比所有其他视频平台加起来还大，亚马逊的规模比其他市场加起来还大。苏格兰启蒙运动时期最大的企业，与今天的相比简直微不足道。供给学会了制造需求，而成瘾正是实现这一点的绝妙手段。这些公司在某些方面比民族国家更强大，并从内部败坏着开放社会：这是一种科技封建主义，因为公司终究不是民主体制。两种吸引子，都不好：威权国家与封建化的公司，共同操纵着指数级技术。他想要的路径恰恰相反：用指数级技术去打造社会技术，使健康的涌现式秩序成为可能，然后再让这种秩序去约束技术。

现有的问题解决流程，跟不上眼下的局势。拥有核武器的国家越来越多；核裁军没有实现；联合国可持续发展目标没有达成；每一类新技术都引发了军备竞赛。作为解决问题的主体，市场和国家都太慢了。DDT 和香烟都是在已经造成大量死亡之后才被监管的。照 Schmachtenberger 的转述，马斯克关于 AI 的观点是：对于能够自我复制或以指数速度运行的系统，事后监管会失效。一旦你注意到一个自创生（autopoietic）的 AI，可能就再也没有机会扭转了。新的流程必须以恰当的速度和地理范围内化外部性，而且不能被强加。它们必须从那些想要它们、也能帮助建设它们的人当中生长出来：围绕大规模参与式治理的一场文化启蒙或文艺复兴。

Fridman 的话题从社会转向了父亲。Schmachtenberger 的父亲异常地在场：在家教育孩子，在家办公，把当父亲视为一项使命。他一直记着的大道理，是自我赋能与超越自我的善意目标之间的交汇。在石膏板封上之前布线时，他父亲把隐藏的线路也做得很漂亮：孔洞高度一致，电线以特定方式拧好。因为一件值得做的事，就值得做好，而卓越本身就是回报。遇到令人厌烦的活儿，他父亲的原则是：看清活儿，干好活儿，别让自己陷进烦恼里。被问到自己怎样才能做个更好的儿子时，他为自己二十出头时的一段经历感到尴尬：那时他对 Dawkins 与 Hitchens 式的笃定深信不疑，对父亲那些不太主流的信念既自以为是，又轻蔑地予以还原论式的否定。后来他有机会向父亲道了歉。

Fridman 读了一段 Schmachtenberger 写过的文字：无数次，在做爱、看日落、听音乐、感受微风的时刻，他都愿意报名接受整段人生，连同其中的痛苦，只为拥有那一个确切的时刻。经验本身有无限的意义；痛苦是暂时的；看得清楚的话，即使是苦难也充满美。他不认为自己应当因那些教他这样看世界的哲学而获得功劳，他只承担把它们付诸实践的责任。看着自己所爱的人，他会被一种情绪淹没：世上从来没有过、也永远不会再有另一个这样的人，而他们明天也可能不在了。

他第一次大剂量服用蘑菇时，盯着屋前的一棵树，因为它是那么美而哭了起来。这棵树并不是紫色的。它仍是绿色的，有叶子，用普通的方式就能描述，却比他过去上千次没有留意的散步时要动人得多。蘑菇似乎做的，是关掉了那套会把他带往别处的叙事，让他真正看见这棵树。他决定，等不再服用蘑菇的时候，要练习去看这棵树，因为它一直都是这么美，而他一直没有看见。Fridman 也有过同样的经历：一连盯着看几个小时，傻乎乎的，心里满是感激。他们没有喝伏特加。Schmachtenberger 买了一小杯姜黄、生姜和卡宴辣椒调成的饮料。他们为他们能够共享的这个独特时刻举杯。他们是第一次见面。他从此再也不一样了。