30 秒看懂
2023 年 10 月,化学家 Lee Cronin 与合作者 Sara Walker 在《自然》上发表论文,主张装配理论可以量化选择与演化:一个物体的复杂度,是构造它所需的最少步骤数;而同一物体的大量相同拷贝,正是区分人造复杂与侥幸的关键。在 Lex Fridman 播客中,Cronin 为这一观点辩护,回应生物学家、物理学家和复杂性理论学者的质疑,介绍一台通过 NASA 盲测的质谱生命探测仪,并把论证推到时间、自由意志和 AGI。他的立场很直接:回头看,宇宙像是被决定的;往前看,宇宙大到装不下它自己。
- 1在因果链上的工作完成之前,你无法即时获得未来那个高度装配的物体这种从“物理上可能”到“历史上偶然”的转变,正是装配理论的核心。
- 2在一个不断摧毁分子的环境里,能用更少步骤完成自我模板化的分子会胜出。Cronin 把最短路径看成一种类似守恒定律的东西:在时间和空间中传播一个模式所需的最少信息。
- 3在看到拷贝之前,极致的随机与极致的复杂无法区分一个华丽的分子,可能是工厂的产物,也可能只是一次性的侥幸;他认为,一个由一百个部件组成的分子若有一百万个相同的拷贝,即使在无限多个宇宙中也不会出现。
- 4在地球上,用同样方式处理,生物样本产生的分子装配指数高于 15;所有非生物样本都低于 15。NASA 的盲测样本包括化石和陨石,结果都被正确地标为活的或死的。
- 5Cronin 的口号是:宇宙装不下未来。有限的物体无法存储无限精确的坐标,因此初始条件无法规定接下来会发生什么;回头看,过去像是被决定的,往前看,宇宙正在不断产生新事物。
- 6他认为,AGI 导致毁灭的概率为零,因为目前并没有已知机制,正如反重力也没有机制一样。他真正希望被监管的是眼前的问题:假数据、假用户,以及未经认证的身份。
按章节阅读完整文稿
任何物体都可以按制造它所花的最少步数来打分
Lee Cronin 第三次做客 Lex Fridman 播客,开场就是一篇标题并不谦虚的《自然》论文,论文题为《Assembly Theory Explains and Quantifies Selection and Evolution》,直译是“装配理论解释并量化选择与演化”,2023 年 10 月与 Sara Walker 共同发表。一个月后,它在推特上引发了约 230 万次互动,下载量也有几十万次。进化生物学家很恼火,一些物理学家不满意,前生命化学家想看到更多化学内容;而当神创论者抱怨它不够神创论时,Cronin 觉得自己算是完成了任务。Fridman 试着用两句话概括:看任何一个物体,数一数造出它需要多少步;再数一数它存在多少拷贝,由此判断它是不是像演化那样被造出来的。Cronin 说,这一概括完全正确,而且说了两遍。
按照论文的定义,一个物体是有限的、可区分的、会持续存在于时间中的,并且可以拆分成子单元,因此重建它所需的约束是可以量化的。Cronin 有时仍会在某些日子里不确定,物体到底是什么。他说,历史就写在物体里。装配指数是从基本积木重建它所需的最少连接步数;如果已经记住的模式可以复用,那么复用一次只算一步。他把这个最小值视为神圣不可侵犯。后来数学家逼他给出物理上的理由,但在这篇论文之前,他就已经相信它,因为他的实验室早已证明:你可以测量一个分子的装配指数。
化学家的版本是字面意义上的。取十三个同样的分子,把每一根化学键都切开,把原子摊平,再沿最短路径走回去,走的时候顺便收割对称性。乐高城堡也是同样的道理:积木就是原子,错开排列的一对可以重复使用,而这张图上的最短路径就是指数。分子越大,计算它就越是组合上的难题。但有一条物理上的捷径:指纹区的红外吸收、用来统计不同磁环境的核磁共振,以及质谱的碎片计数,各自独立地都指向数学所给出的那个装配指数。Cronin 认为,这就是为什么它不是一个比喻:仪器真的能读出它。
在因果工作完成之前,你够不到未来的那个物体
Cronin 把空间分成四层,彼此嵌套。装配宇宙是组合意义上的“什么都可以”:没有物理,物体可以穿山而过,甚至超光速。装配可能加入了规律,在化学里就是化学键,但仍然允许你瞬间调出每一个模式,因此原则上什么都能造出来。真正关键的一层是装配偶然:你要等过去因果链上的工作全部完成,才能拿到未来那个高度装配的物体。装配观测就是我们实际看到的东西,我们据此推断,是某个因果过程把它造了出来。他说,计算机科学里的压缩,默认你能瞬间访问整个内存。装配理论则说,你要先把活干完,才能拿到下一段内存。
Fridman 问,宇宙里究竟是什么在做这份工作。Cronin 举的例子是一座特斯拉工厂、一个核糖体、一个细胞。他并没有偷偷引入形态共振,或是那种玄乎的宇宙记忆。在物理现实中的某个地方,存在一个有方向、受约束的过程,它造出的是这一个物体,而不是所有物体。接下来是更难的问题:那座工厂是谁造的?Cronin 把它列为他想回答的四个问题中的第一个。他的猜想是:工厂是在环境与正在被造出的物体相互作用的过程中涌现出来的。
他给了一个化学上的思想实验。原子在一个盒子里被胡乱抛来抛去;分子有半衰期;只有能模板化地复制自身、并在盒子里存活下来的分子,才会称雄。如果分子 A 需要十步,分子 B 需要五步,而两者被摧毁的速率相同,那么 B 复制自己的速度会更快。“最短路径至高无上。”他说,这条路径看起来像一条守恒定律,即在时间和空间中传播一个模式所需的最少信息。但它并非绝对:两个物体共享一个联合装配空间,所以高效的折中可能会让 A 稍微变长。并行构造可以把装配深度压到装配指数以下,他的团队在细胞里观察到的正是这种现象。不过,在极限情况下,最短路径正是你区分工厂与随机过程的方法。
选择是物体的更替,而不是山坡上的一块石头
论文的核心方程把装配定义为:产生某一观测集合所需的选择总量。它对每个不同的物体求和,每一项都包含装配指数和拷贝数,然后再减去一,这样单个实例仍然可能只是侥幸。Cronin 说,一旦指数很高,两件同样的东西就非常重要。Fridman 指出,Cronin 以前并没有特别强调拷贝。直觉是:随机过程偶尔也会吐出一个华丽的东西;没有拷贝,你就没有证据证明存在一座工厂。
这也是为什么标题引起了争吵。摘要的前两句说,科学家一直在尝试把生物演化与物理学不变的定律调和起来;这些定律支撑着生命、文化和技术,却无法预言它们的涌现。Cronin 说,如果重来一次,他还会这么做。他认为,物理学家还无法运行标准模型并从中推出生命;进化生物学家也不该宣称“选择”和“演化”这两个词归他们所有。如果在前面加上“非生物”,也许会让现场降温。他并不认为,生物学有资格把生命起源的缺口看成理所当然。
他对选择的广义理解固执地带着化学味。一个物体如果在一个会摧毁较弱同类的环境中形成并持续存在,它就已经被选择过了;但一块在山坡上躺了四十亿年的石头并不有趣。你需要更替:先是发现时间,即物体首次出现;然后是生产时间,即它在自身的事件链上发挥作用,并且数量越来越多。温暖池塘里的一个自我复制分子,就是一座原始工厂。之后生物学又添上了稳健性、纠错能力,以及在多种环境中存活的本事。他说,装配方程提供了一种提问方式:在一个空间里,究竟发生了多少选择,从热液喷口一直到技术。在一只装着糖和一个大肠杆菌(E. coli)细胞的培养皿里,装配量起初很低;随后,随着细胞进食、复制,并用工厂填满这个容器,变化速率呈 S 形增长,直到食物耗尽。
一个华丽的分子可能是侥幸,一百万个拷贝则不能
Cronin 说,把质谱仪带到火星、土卫六或土卫二上去,分辨率要足够高,既能按质量筛出一个分子,又能确定自己看到的确实是相同的拷贝。把它们打碎,数碎片,称重。在他看来,地球上质量约 350 以上、碎片超过十五个的分子,只有生命才会产生。如果你不信任地球上的这个数字,可以把阈值提高到 30 或 100。到某个时候,你会发现一个由一百种不同部件组成、却有一百万个相同拷贝的分子。他说,这在无限多个宇宙的集合里也绝不可能发生。
拷贝就是运气与工厂之间的分界线。给别人一个复杂分子,他总能说这只是随机的。“极致的随机与极致的复杂在看到随机中的结构之前是无法区分的。所以你要能看到拷贝。”两个物体算不算相等,取决于你用的显微镜。化学家对此习以为常:一摩尔某种分子,就是阿伏伽德罗常数个无法区分的拷贝,成键与构型都相同。振动态与转动态不计入。手性在你拥有手性探测器之前不计入;在仪器分辨出它们之前,左右手就是同一个物体。放大到很细的层面,Fridman 和 Cronin 是不同的;再放大到更大尺度,他们都属于同一个物种,再往上是地球生命。如果一箱物体在你的技术手段下无法区分,但装配指数很低,那说明你的分辨率用错了。
生命探测仪可以不带地球生化偏见地搜寻外星生命
Walker 在亚利桑那州立大学的同事 Paul Davies 一直把这台仪器叫作生命探测仪。恶劣的表面会烧掉复杂性,所以你得像嗅味道一样去探测梯度:越来越暖,越来越暖,然后是生命;再往后,用 Cronin 的玩笑来说,是马斯克在火星洞穴底部抽大麻烟。这台设备由一个真空腔、一个带色谱的“鼻子”、一个静电阱和一个红外单色仪组成。取样,加溶剂或加热,把挥发物通过填充式进样口吸上来,将它们分离;然后在每个谱带上计数质谱碎片和红外吸收。标尺从死亡开始,经过“有趣”、越过阈值、到地球生命,一直升到疯狂透顶的外星智慧。质谱只有在大约一万个相同分子的量级上才会显示出一个峰,所以拷贝数已经内含在测量里了。
他说,几十年来,这个领域一直执迷于地球上那些小型生物标志物、单个氨基酸,以及带有地球化学偏见的研究。装配理论的主张更简单:丰度中的复杂性就是选择的证据。化学家们告诉他,复杂分子在地球之外当然也会随机形成,他听出这其实是在说,达尔文的书是猴子打出来的。正是拷贝数让这个论证站住了脚。他的实验室测试了无机矿物、苏格兰威士忌、大肠杆菌裂解液、啤酒和紫杉醇(Taxol),外加 NASA 的五组盲测样本:一块百万年的化石、一份约一万年前的南极海底样本、一块默奇森(Murchison)陨石等。所有样本都用同样的方式处理。生物材料产生的分子装配指数大于 15;所有非生物样本都低于 15。NASA 把活的、死的判断结果都正确地返了回来。
威士忌并不是噱头。据说在艾雷岛(Islay),泥炭里的复杂分子会渗进酒桶;正是这种分子层面的复杂,带来了深色与风味。Cronin 把带泥煤味的雅柏(Ardbeg)与拿格兰哥尼(Glengoyne)做了对比,后者是他家附近一款口感较温和的低地麦芽威士忌。一位复杂性理论学者嘲笑啤酒的结果,说这证明啤酒比人还复杂。实际上,他们做的是打碎酵母细胞,提取分子,再寻找超过阈值的任何东西。啤酒本身并不是研究对象。整套测试的重点在于:读这台仪器的数,不需要先了解地球生物化学。
不用测序,也不用画图,就能重建生命之树
Cronin 先私下说,后来又正式说了一遍:他的实验室已经用装配理论绘制出了生命之树。经典做法是画形态图,就像达尔文和孟德尔那样;然后是测序,就像 Craig Venter 在游艇上做的那样;再加上一点分子考古。第四条路线是:随机采集生物样本,放进质谱仪,不只看单个分子,还要看共存的分子集合及它们的联合装配空间。信号并不是最复杂的细胞产生最复杂的分子。固着不动的真菌会就地合成极其复杂的分子,有些懒惰的动物干脆吃真菌。对质量最高的几种高分子物种做指纹识别,将它们打碎,比较共有的装配路径,差异的数量就能估计出共同起源有多久远。当他们意识到,不做基因测序、也不画图,就能重现这棵树的时候,大家的反应是:“咦?”
这套方法对活的样本有效。他接下来想研究古老的化石,因为 DNA 和 RNA 在数万年的尺度上并不稳定,而某些复杂分子也许能留存下来。死亡之后,聚合物会发生消旋化:从纯的对映体向混合物漂移,这个过程本身就是一种半衰期,也就是死亡的日期。动力学同位素效应提供了另一把钟。生命在新陈代谢时会富集碳 13,因此原则上你可以估算一个生物体代谢了多久,或者它何时停止了代谢。他承认,自己勾勒的时间尺度可能是错的,而且专家们已经在做很精细的同位素研究。他的赌注是,装配理论再加上一个维度:这个分子是多久以前由生命产生的,以及此后它碎裂到了什么程度。
有人问,这套理论能从分子一直爬到由数十亿个其他生物组成的人类吗?Cronin 很谨慎。下一步是细胞表面、糖基化、组织类型和疾病细胞类型。细胞自动机的规则已经有了装配指数和拷贝数,因为不同的人在不同时间发明了它们,并且彼此通过小修改相互复制。人脑的指数无法与分子的指数直接比较,它们处于不同的涌现层级上。你也许可以数一数人、鲸、海豚、黑猩猩和鸟类大脑之间共有的形态特征,拷贝数等于每一类的个体数;但要决定哪些特征算数,你仍然需要解剖学,或者机器学习。Fridman 希望对文本、图像和文化做一次 NASA 式的盲测。Cronin 同意,这将是第一步,并且这个框架很可能需要改变和扩展。他说,这篇论文只是对生物学明显在做的某件事进行量化的初步尝试。它肯定是错的。他希望它比其他一些想法错得没那么离谱。
这篇论文参加了一场聚会,同时得罪了每一派
Cronin 说,他过去开会时,总能想办法同时得罪所有人,把原本彼此憎恨的派别统一起来。这篇论文就像聚会上的那个人。有人写信来告诉他,这是写得非常糟糕的范例。他倒是想再写得那么糟一次:既然要发表,就希望有人读。Fridman 把这些围攻看成科学界的免疫系统,只是它也可能反应过度,把新的讨论压下去。Cronin 说,最令他兴奋的批评来自进化生物学家,他们告诉他,生命起源是一个已经解决的问题。正是从这里,他知道自己戳中了痛处。这里有一道缺口:演化必须先于生物学发生。物理学家们则很礼貌,但对初始条件并不确定。他更强硬的观点是:生命的涌现,并没有、也原则上不可能被编码在宇宙的初始条件之中。
一部分噪音是冲着《自然》本身来的。他告诉批评者,这是一个可能改变我们看待生物学与宇宙方式的新想法,而他们听到的却是炒作,仿佛他在壁橱里发现了一个外星人。他想要的是一个大胆、精确、可检验、并且可以被纠正的主张,而不是又一篇含糊其辞的“生物学中的信息”论证。有人问他,是不是只是给一件显而易见的事贴上了吸引眼球的名字。他的回答很平淡:此前没有人测量过分子的装配指数,也没有人用这种原始方式把选择、复杂性和拷贝数放在一起加以量化。有人说这篇论文是垃圾,也有人说他们二十年前就有过这个想法。他反问,到底是哪一部分:是垃圾的部分,还是革命性的部分?“如果它显而易见,那你们为什么没做?”
他说,没有人攻击论文的物理内容。你可以测量装配指数,也可以测量选择。如果它没有用,论文就会沉没;如果它有用,人们就会在它之上搭建脚手架,走向新的范式。遭到反击后,他曾写信给编辑道歉,为这场争议致歉。编辑却让他不必如此:这是一篇很好的论文,遭到反击是理所当然的,他说了有争议的话,而这很棒。Cronin 喜欢说,论文不是金牌。他之所以想在《自然》上发表,是因为这个论断主张:如果你不是神创论者,那么在生物演化之前,必须有某种东西先出现;而这篇论文给出了一个具体的量化方法。下一步是机制问题:自催化集合、自我复制分子。
柯尔莫哥洛夫复杂度没有因果链,化学反应并不存在
常见的比较对象是柯尔莫哥洛夫复杂度(Kolmogorov complexity):输出该对象的最短程序的长度。这个度量需要图灵机。Cronin 先给复杂性理论学者打了个预防针,然后说,算法信息论将被证明是装配理论的一个重要子集。选择产生工厂,工厂最终产生计算机,算法信息论就是从这里生长出来的。他认为,用信息论来看生命,会跳过因果关系。在计算机内存里,每个数据的访问成本都一样,你只需压缩即可。而高指数的物体意味着,过去某处确实有一条真实的因果链完成了这份工作。Fridman 反驳说,物体本身不会附带一个维基百科词条,这个理论只能推断出最短的历史。Cronin 接受了“推断”这个说法。如果手边没有能造出该物体的机器,那么最短路径就是最坏情况。它告诉你,这个物体在时间中埋得有多深。
链条上不同的反应概率重要吗?他的第一个回答是否定的:装配指数是一个下界,是随机图上的一次游走,没有反应约束。然后他走得更远。他正在写一篇名为《化学反应的起源》(The Origin of Chemical Reactions)的论文。反应性是存在的,受量子力学支配。有名字的反应,比如 Wittig 反应、Suzuki 反应,是压缩过的约束清单:地球、1 克、298 开尔文、1 巴、地球的成分、一个玻璃烧瓶、纯净的试剂,以及可控的温度和压力。他认为,Wittig 反应在金星上是不可能发生的。按照这种说法,装配理论本身不谈化学,因为化学本身就是一种约束结构。除非你相信天上有一位化学家,否则生命起源时并没有化学家。分子在质谱中碎裂时,弱键可能会让你数错指数;红外可以捕捉到这一点。地球化学的语法是一种可靠的速记。但它仍然只是速记。
可以行动的批评、补课班,以及从零重写的论文
论文第一次投给《自然》时,收到的是职业化的怀疑:不太有意思,概念很难,你们在想什么,措辞却很礼貌。Sara Walker 和 Cronin 花了一年时间。预印本里堆满了二十三个方程;Cronin 告诉第一作者 Abhishek,除了装配方程,其余的都得删。他们改了大约 160 个版本;到第 40 版时,他们干脆从空白页重新开始,逐句追问自己到底想说什么。他们本以为会被编辑直接退稿。结果论文进入了同行评审。审稿意见深入而尖锐,却并不轻蔑:请解释这一点;你们确定它不是柯尔莫哥洛夫复杂度吗?经过三轮修改,编辑说可以发表了。他们更早一篇关于测量复杂性的质谱论文,在《自然》上经历了六轮评审,最终仍被拒,还有一位化学家坚称他们一定是在造假。
Fridman 问,被第五次拒稿的那个晚上,你会做什么?Cronin 通常不会为论文情绪化;这一篇却压缩了他五年的焦虑。他远程与亚利桑那的 Walker 以及圣达菲研究所(Santa Fe Institute)的人合作,他觉得自己像《美丽心灵》里那种形象,只是少了天才的部分:只剩胡言乱语,不断展开各种表达式,数学能力却为零,直到拷贝数从方程里掉出来,一切才轰然倒塌。他一部分人被击垮了,另一部分却很兴奋:他们没法告诉他,他错在哪里。他说,这种感觉可以一直追溯到学校。在一个学习困难班里,他总是问老师,今天自己能做点什么来证明自己很聪明。
小学时,老师就指出他字迹潦草、似乎读不了书、数学很弱,而他那时已经在拆电子设备,试图自己组装电脑。他其实会读书,只是不肯读别人让他读的东西。他还曾被抓到在教另一个学生认字。老师不肯让他报名参加更高级的 GCSE(英国普通中等教育证书)考试;他父亲提出付钱,学校这才承认,他要是没考过,才会收费。他及格了,但 GCSE 得了 C,因此被挡在 A-level 数学之外;他是靠化学和一位好老师才进了大学。八岁时,他想造一台二氧化碳激光器,为了收集 CO2,他放了一把火,结果烧掉了车库一半。他喜欢不理解事情。他喜欢和聪明人待在一起,把他们弄糊涂,前提是他们不会干脆骂他是白痴,而且会给出不同的理由。装配理论的情况是,没有人能给出一个前后一致的“为什么”。他想要的是可以行动的批评:这个方程在这里不成立,那个方法在那里失效,这样他就能进行三角定位。如果有人足够执着,他就会把人留下来。曾经有人给过他机会。
宇宙大到装不下它自己的未来
他与 Walker 关于时间是否存在的争论,以及物理学家 Nick Gisin 的工作,把 Cronin 推进了一个三难困境:如果你想要自由意志,时间就必须是基本的;如果时间是基本的,你就得放弃柏拉图式的数学,转向直觉主义:希尔伯特允许无限的数,布劳威尔则坚持所有数都是有限的。他认为,产生生命与技术的组合空间,比 Sean Carroll 或 David Deutsch 那样的多重宇宙所能容纳的还要大。Max Tegmark 的数学块状宇宙,也就是可以把初始条件运行到终点再倒回来的那种宇宙,并不正确。“宇宙大到装不下未来。”排中律对纽约上周的雪成立,对下周的雪却不成立。对他来说,这一失效正是时间为真实的原因。
这个论证并不是普通的混沌。一颗几厘米宽的高尔夫球,能存储的坐标只能精确到原子的位错,再细就不行了。有限的物体无法包含一个无限精确的数,因此原则上,碰撞的初始条件无法被规定。按照这种说法,经典力学与量子力学共享一条不确定性原理:这种不确定源自宇宙在不断产生新事物,并非源自无知。回头看,你可以说某件事是真是假;往前看,你做不到。玻尔兹曼脑的概率为零,因为它跳过了演化所需要的因果链。Cronin 说,生命是一个新颖性的矿工:它从未来挖掘新颖性,并在当下将其变为现实。紫杉醇是地球独有的,是相互作用的偶然产物,并非写进大爆炸里的一个决定。他会把 Carl Sagan 的“暗淡蓝点”倒过来看:不要通过旅行者号来看宇宙有多大,而是看旅行者号从地球来,地球从最后共同祖先(LUCA)来,由此看地球有多大。从组合意义上说,地球是我们在宇宙中所知的最大的地方。
他仍然猜测,每颗恒星都有行星,而生命很可能正在这些行星上涌现。这些组合空间差异太大,因果锥无论在时间上,还是在相互通信的能力上,都很难重叠。他最大的担心是:生命可能无处不在,而我们却因为自己搭起的脚手架而变得无限孤独。因此他想要一个行星模拟器:一个“地球 2.0”,使用不同的遗传字母表、不同的蛋白质字母表,但仍然有细胞和演化,从而把生命和选择从地球的化学中剥离出来。那样一来,你就知道该把 James Webb 望远镜对准哪里,也知道如何解读一个看起来随机、却带有拷贝数和演化结构的信号。细胞自动机并不能否定这一点。你需要初始条件、规则,还需要时间作为一种资源,来迭代出新颖性;有些规则你是无法预测的。没有时间这个坐标,你就无法把复杂性迭代出来。他对 Fridman 说,如果你相信自由意志,唯一的结论就是时间是基本的。
AGI 毁灭没有机制,所以一个概率算不上信息
Cronin 有意把现有系统称为自主信息学,就是为了让人们不高兴。他看不到 AGI 很快到来的证据,并认为毁灭情景荒谬至极。小行星撞击的概率是可以算的,因为它已经发生过,机制也是已知的。那些担心反重力(anti-gravity)或大气被抽空的人,并没有任何机制可言,所以他们也就不去操心。他说,AGI 在认识论上处于同样的困境。Eliezer Yudkowsky 给出的约 95%,或者如果网上的说法属实、Scott Aaronson 给出的 2%,都不是他会当作知识来对待的数字。他自己的数字是零。他公开表示真正担心的是假数据和假用户。他想要真实的人和真实的数据,并且愿意为真实存在的风险接受监管。
Fridman 给出了通常的那套推理阶梯:智能让人类统治了其他物种,因此一个聪明十倍的系统,如果掌握了电网和武器,就很难加以限制。Cronin 指出,这一论证犯了两个范畴错误。能动性和意图来自人类,来自提示词的人和编程的人;把模型说成是在做决定,是一个错误,尤其是在我们还不理解人类自由意志的时候。超级智能并不能从能力中直接推出。国际象棋电脑非常擅长下棋。他说,Eric Drexler 所说的原子级精确、可自我复制的纳米机器人,犯的也是同样的错误:把工程原理硬塞到一个既没有资源也没有精度的尺度上。我们所知的、唯一能运转的分子纳米技术,是由演化产生的。人脑在很小的体积里只消耗约 20 瓦;而一个 ChatGPT 集群要烧掉数千瓦,仍然需要人类来纠正。回形针世界经不起资源计算的检验。一种致命到极点的病毒,只会毁掉很小的范围,然后自己也死掉。当末日论者被问到机制是什么时,他们会编出一些东西来。Yann LeCun 那句话,说的是在喷气发动机被发明之前就去监管它,是 Cronin 喜欢的一句。
他把 AI 毁灭论和 AI 救世论看成一对新宗教,并怀疑这些喧嚣中有一部分,是在掩盖社交媒体已经造成的伤害。Fridman 承认,那些高喊我们都会死的人有一种社会角色:在先知口中的 95%,到了公众那里可能平均只有 0.03%,这也许正是合适的背景性担忧,就像在涉及核大国的战争中,核武器的风险目前被低估一样。Cronin 是在《Threads》和真实的存在主义恐惧中长大的。他指出,清除空气中的硫,无意中加速了变暖;把每一枚核武器都拆掉,可能会引发常规战争。他们半认真半开玩笑的思想实验,是找出最少数量的武器,哪怕只是模拟中的虚拟相互保证毁灭,并带有灾难性的经济惩罚,能使大规模冲突趋近于零。他既是在开玩笑,又不完全是。贯穿他观点的线索是:他想要的是产生知识,而不是被科幻冻结住。
真正的新颖是不同历史的碰撞,而不是对训练集的插值
Chem Machina(取名自《Ex Machina》)是 Cronin 的一项尝试:按照演化实际产生智能的方式去理解智能:生命起源、多细胞化、运动、感官,然后是记住过去、追问现在、想象未来的能力。他并不指望在凝胶里造出智能。那里没有神经元。他确实想要一种可重新编程的混合硬件,它能以更低的成本处理信息,并在不同领域之间迁移知识。他说,大语言模型是在挖掘过去,而人脑似乎是在挖掘未来。用 0 到 1000 之间的每一个素数去训练模型,它也不会知道什么是素数,也不会产生数据集之外的任何东西。推理需要意图,而在今天的系统里,意图来自外部:来自提示词,以及开启这次会话的那条因果链。如果一个系统,无论是人还是聊天机器人,产生了某种真正新颖、哪怕对过去做完整审计也无法预测的东西,他就会被说服。仍然在训练集里的浅层新颖,只是插值。
建设性的反例是“电子密度版的 GPT”。分子既不是图,也不是连续可微的;它们是电子密度。这个实验室计算了数百万个分子的电子密度,用生成模型学习密度的样子;然后把噪声灌入一个蛋白质口袋,让模型把噪声转换成一种密度,使静电黏附最大化、空间位阻冲突最小化。第二个类似 ChatGPT 的模块,再把这种密度翻译成 SMILES 字符串,交给机器人化学家去合成。它还很粗糙,但是端到端的。他们用最多九个重原子的分子进行训练;模型生成了看起来合理的十二原子结构。“这种幻觉我可以免费拿去。”这些分子对我们来说是新的,但仍然算不上真正的新颖,因为宿主口袋限制了它们。真正的新颖,即装配理论的版本,是指拥有不同历史的物体发生碰撞时所发生的事。历史差异越大,它们此后产生的新颖性就越多。这也是他对宇宙的图景:回头看,是被决定的;往前看,是非决定的,因为未来无法被装进现在。事后,这个新事物会加入数据集,而过去看起来就像是初始条件早已经规划好了一切。
上帝还有容身之处吗?他说,上帝存在于我们的头脑之中,是选择造出来的,就像人类发明了超级智能这个概念一样。宇宙中有一种创造性的力量,但他不认为它有感知能力。他是无神论者,但并不愤怒,也不会说宗教信徒愚蠢。选择是产生新颖性的力量:那些本可能衰败的物体,通过维持结构的运作而持续存在下来。自由意志位于过去与未来的边界上。想象具有因果后果,而初始条件无法预测这些后果,这已经打破了目前所写下的物理学。他觉得美丽的地方在于,宇宙似乎尚未决定,仍然敞开着;每当他接近一个答案,就会冒出更多问题,而追寻本身就足够了。他并不讨厌这一切终将结束。牛顿也已经过去了吗?他的因果力量仍然在起作用。Cronin 想在其中留下一些彩蛋。一个忠实复刻 Lee Cronin 的语言模型,会是一件有趣的人造物,却会是一个无聊的伴侣,因为认识一个人的乐趣,恰恰在于不知道他接下来会做什么。选择产生生命;有生命的宇宙,与没有生命的宇宙,在物理上是不同的。他猜测,一千年后,这一点会显得显而易见。装配理论在它的反对者眼中,现在已经显得显而易见了。他认为,这正是他们如此愤怒的原因。
同频道的其他文章
3:36:56EN
5:15:51EN → 简体中文
3:12:58EN → 简体中文
3:46:18EN → 简体中文
3:51:47EN → 简体中文
2:53:42EN → 简体中文