双头涡虫、再生的腿，还有一个学会等待的排序算法

Michael Levin 是塔夫茨大学生物学杰出教授，他在访谈中告诉 Nathan Labenz，他的实验室几乎所有工作都归在同一个标题之下：有身体的心智，以及作为物理宇宙中的认知主体意味着什么。他的合作者横跨哲学、生物学、计算机科学和物理学，研究的是非常规基质中的心智，比如细胞在构建胚胎、再生身体时形成的集体智能，或者在癌症研究中，细胞如何忘记自己本该属于哪个器官。团队开发出了第一批分子工具，用来读写非神经细胞的电记忆，而组织正是靠这些记忆来记住自己想要成为什么。这些结果奇特到让 Labenz 用了开场的几分钟，只为把那些著名的项目先摆上桌面。

这次的主角是涡虫。把涡虫切成两半，每一半都会长出缺失的那一端，这是它的日常本领。Levin 的实验室把碎片浸泡在一种药液中，药物会改写细胞之间的生物电模式，然后再把药物洗掉。此后，无论从哪里切，切出来的碎片都会长成两头蠕虫，并且一直如此。基因没有被动过。因此，Levin 说，头的数量并不存放在硬件里，而是存在软件中：可以改写，并且稳定到足以称为记忆。

同样的可塑性也出现在其他身体上。研究人员把眼睛放到蝌蚪的尾巴上，这些动物能够透过新的眼睛看见东西；大脑接入完全不同架构的传感器后，只会自行适应。在癌症项目中，他们通过控制生物电连接来检测并纠正肿瘤，这些连接使细胞留在一个大尺度的器官构建网络中，而不是任其叛变成类似变形虫的状态。Xenobots（异种机器人）由本应发育成青蛙胚胎的细胞构成，anthrobots 则由人类细胞构成。它们表明，当这些细胞有机会在新环境中重新启动多细胞状态时，会出现什么：它们会展现出实验室事先并不知道的能力。Levin 指出，生物学中硬件与软件的区分总会反复出现，即使是那些不信任用计算机比喻生命系统的人，也绕不开这一点。

涡虫几乎是一个不公平的模型。Levin 团队使用的无性繁殖品系实际上近乎永生，没有明显衰老，能抵抗癌症，还会学习。它们甚至能重现当年 McConnell 的结果：训练一只蠕虫，切掉它的头，等待新的大脑长出来，原有的信息依然保留着，从一种组织转移到另一种组织，并被印刻到替换的部分上。把它切成两半时，还会出现更尖锐的情况。切口头侧的细胞会长出尾巴；紧邻的尾侧细胞则会长出头。两群相邻的细胞，位置几乎相同，却走向相反的解剖命运。

Levin 的推断很直接。决定“长成头”还是“长成尾”的算法不可能是局部的，因为这些细胞所处的位置相同；只知道自己的坐标，并不能告诉你该朝哪一端发展。它们必须与组织的其余部分交流，而他假设，这种交流是电信号。研究人员先把这种交流阻断：在水中加入能控制细胞之间电耦合强弱的化合物，然后观察再生如何出错。接着，他们加入电压敏感的荧光染料，这类分子会因所在细胞的电压不同而发出不同亮度的光，然后扫描组织。得到的图谱预测了头和尾将会出现在哪里。这是一种模式记忆，而且可以用现在时读取。

读懂了模式，下一步就是改写它。他们建立了一个组织电路的计算模型，并询问什么能把图谱从一个头翻成两个头：这里关闭一些氯离子通道，那里打开钾离子通道。然后，他们挑选药物，在其他物种中则使用光遗传学（optogenetics），来打开和关闭细胞表面本就存在的离子通道。这里没有外加的电场、磁场、波，也没有辐射。他们借用的是细胞相互控制时使用的原生界面，Levin 把它比作一个通往底层可编程层的键盘。碎片的浸泡时间短则三小时，长则一两天，然后被放回普通的水中，接下来靠它自己完成剩下的工作。

同样的理念也能扩展到肢体。成年青蛙不会再生腿；但一次 24 小时的生物电干预，就足以让残端朝着长腿而非留疤的方向发展，而这条腿随后会生长十八个月。同样的干预也能让蝌蚪再生尾巴，所以这套配方并不是蓝图，用 Levin 的话说，它只是在告诉细胞：“在这里长通常会长的东西。”Labenz 把早期的分叉比作聊天机器人的模式切换：回复的第一句话会把模型锁定在帮助或拒绝之中。Levin 想要的正是这种高层触发，而不是逐个基因地去控制。至于人类为什么不长肢体，目前仍是一个故事，而不是证明：儿童在七到十一岁之前还能再生指尖；森林里的哺乳动物祖先留疤比拖着不愈更划算；而鹿角每天长出约一厘米半的骨头和鹿茸，是唯一一种不用来承重的哺乳动物附肢。

生物学总会留下一处藏身之地：展示出一种令人惊讶的能力，批评者就会说，机制仍在那里，只是你还没找到。录制节目前几周，Levin、一名学生和合作者 Adam Goldstein 发布了一篇预印本，想要关上这扇门。他们选用的是计算机科学学生研究了几十年的排序算法，比如冒泡排序和选择排序：只有六行、完全确定性的代码，无处藏身。他们问的是：如果把这些程序当作智能体，而不是假定它们只做注释里写的事，它们还能做什么？Levin 认为，多样智能（diverse-intelligence）研究在 AI 社区几乎无人知晓，这是个问题，因为一旦有人肯去看，出乎意料的问题解决能力就会出现在极其简单的系统之中。

他们做了两处改动，让这套设定更接近生物。首先，去掉了中心化的全知观察者：数组中的每个元素都变成一个“细胞”，取值在 0 到 100 之间，只能看到自己的邻居，并希望左边的数字更小、右边的更大。这种分布式版本仍然能完成排序。其次，他们放弃了硬件可靠的假设。标准算法从不检查交换是否真的发生；Levin 团队没有为此添加任何检查代码，而是让一些细胞损坏，拒绝移动。排序依旧完成得很好。其他数字会绕过这些缺陷，尽管代码中并没有任何地方要求检查邻居是否失效。

真正违反直觉的结果是延迟满足。William James 曾把两块磁铁和罗密欧与朱丽叶做过对比：磁铁会永远压在一块木头上，因为绕行意味着离目标更远；而罗密欧与朱丽叶则会动用他们所有的认知工具去越过障碍。纯粹的梯度追随者走不远。若把排序空间中的旅程画出来，一个损坏的细胞就是通往完全有序字符串路径上的一堵墙。他们测试的四种算法中，有些会先移动其他数字来应对：字符串的有序程度先下降，之后再恢复。没有任何规则允许它们偏离目标。障碍越多，它们越会这样做；而且它们并不乱走：路径几乎保持线性，直到遇到障碍，下沉，然后纠正。

后续的嵌合实验把运行不同算法的细胞混在一起，有的跑冒泡排序，有的跑选择排序；系统里没有代码让细胞知道自己是哪种算法，也无法检查邻居。Goldstein 为细胞实际运行的算法创造了算法型（algotype）一词，与基因型、表型并列。开始时，邻居与你算法型相同的概率是 50%，因为分配是随机的；结束时，这一概率又回到 50%，因为数值必须按序排好。在中间阶段，这一概率会上升：同类算法型会聚集在一起，直到排序把它们拆开。Levin 把这看作人类处境的一个最小模型：物理终究会把你们分开，但在那之前，你可以和自己的同类待在一起。发育过程早已掌握这一招：器官位置错乱的“毕加索”蝌蚪，仍然会发育成正常的青蛙；而青蛙和蝾螈细胞的嵌合体，即本用来构建不同身体的硬件，也能协商出一个可行的结果。

Labenz 转向生命与机器的分界，以及涌现的问题。这场争论热到 NeurIPS 刚刚把最佳论文奖颁给了一篇称涌现为海市蜃楼的论文。Levin 先从定义入手。机器、人类、机器人、有生命、涌现：这些词是用来描述什么的？他把它们全都视为工程协议层面的主张，而不是客观事实：它们是关于某种世界观从某个智能体的立场看是否有用的主张，包括对系统自身进行建模的那个系统。在这个框架下，涌现是观察者惊讶程度的体现。如果你聪明到能够从各部分的规则推出结果，那么对你来说它就不是涌现的；而对于做不到这一点的人，它绝对是涌现的。他说，二元的类别，正是让我们陷入麻烦的东西。

他举了一个对照。你不会希望一位拒绝把你的身体当作机器来对待的骨科医生：锤子、凿子、钉子、螺丝，各有合适的框架。你也不会希望一位把你当作机器的心理治疗师。两种框架对各自的互动而言都是正确的。这正是他的 TAME 框架（Technological Approach to Mind Everywhere）的要点：从机械钟表到人类，中间夹着控制论装置和学习型智能体，形成一条光谱。随着位置移动，改变的不是组成，也不是起源（人造还是进化而来），甚至也不是系统有没有生命。Levin 说，作为生物学家，他对“有生命”这个类别几乎没有兴趣。认知层级才有意思，而它不一定跟随是否有生命。你要根据你想与之合作的对象来更换工具。

一旦看向发育过程，非此即彼的切分就站不住脚了。我们每个人都始于一个未受精的卵母细胞，一团没人会认为具备人类认知能力的化学物质；九个月后，再过几年，心智就显而易见了，而发育生物学并没有一道闪电式的时刻，宣告从物理到心智的跨越。沿着进化往回走，经过灵长类、哺乳动物，一直走到比现代单细胞更简单的东西，也找不到能说清楚能力在哪里消失的好故事。生物工程早已把赛博格带上街头：脑中植入的微芯片、胰岛素泵。这种混合不会一直停留在 98% 的人类和 2% 的数字成分。Levin 说，根据原始部件的比例来给道德地位打分，是荒唐的。真正的问题是：有多少，以及是哪一种。

宇宙中有没有什么东西在这个尺度上是零？按照 Levin 的定义，基础能动性（basal agency）需要一定程度 William James 意义上的目标导向性（同一目的，不同手段），以及一些行动并不能被当下的局部力量完全解释；否则你就只是一个台球。最小作用量原理把某种目标嵌入了物理学，物理学家 Chris Fields 告诉他，一个没有最小作用量的宇宙，将是什么都不会发生的宇宙。按照 Levin 的工作定义，生命就是那些擅长扩展这些旋钮的东西；石头不是，所以这不是泛灵论。基因调控网络模型看起来简单到不像有智能，却已经表现出六种学习形式，包括巴甫洛夫条件反射。一个用来判断内在视角的有用启发是：如果保龄球的路径完全可以由你对山丘的第三人称地图给出，你就可以不考虑它的视角；如果地形上有一只老鼠，你就需要它的价值地图（valence map）。你越是必须采取它的视角，就越说明你面对的是更强的能动性。

在他的工作定义中，智能是在某个空间中解决问题的能力，而“多大”则由认知光锥（cognitive light cone）决定，也就是你真正能够维持的最大目标的范围。细菌、狗和人类各自占据不同的光锥；他可以想象，之后会有某种存在能关心地球上的所有生命，而人类做不到这一点。你不能靠思考来给一个系统分配光锥。你要假设一个问题空间，在其中设置障碍，然后看系统会规划、学习，还是会绕道。盖亚、天气，甚至星系，从哲学承诺来看都不是非此即彼的。他的一名学生已经在问，捕食者—猎物模型能否从经验中学习。

谈到想理解 AI 的人，Levin 给出的建议是先拓宽具身性（embodiment）的概念。像 Hubert Dreyfus 那一路的批评者认为，一个只会摆弄符号的软件智能体，除非它是三维空间中的机器人，否则无法知道自己在说什么。Levin 同意具身性很关键，但它并不等于房间里站着一个实体机器人。我们的感觉器官朝外，以中等速度追踪中等尺度的物体，所以我们偏爱这个空间。设想一条流经血管的舌头，它能感知二十个生理参数：从认知上说，我们就会生活在一个 23 维空间里，并立刻认出肝脏和肾脏也是在其中航行的智能体，它们有自己的目标，每天要应对各种冒犯，却依然保持稳定。生物学中已经存在基因表达空间、解剖形态空间（morphospace）、代谢空间、普通的三维行为空间和语言空间，而智能可以发生在其中任何一个里面。

符号落地（symbol grounding）也是同样的处理。观察一个孩子：他们起初是快乐的模式匹配者，重复听到的话，谈论很多自己从未落地的东西，只有之后，你才会说他们真的知道自己在说什么。这个过程是平滑的，而不是类别式的切换。Levin 曾估算过自己的谈话中有多少基于真实经验，结论是大量认知素材只与其他词语相连。人类会不停地编造；一种语言理论认为，语言的作用是事后讲述大脑已经在做的事，以便分享、增进合作。裂脑研究的数据把人对这种讲故事方式的依赖暴露得十分清楚。以“模型只是摆弄符号”为由，在人与大型模型之间划一条干净的界线，经不起人类语言实际运作方式的检验。

他也不同意这样一种看法：创造有能力的 AI 并把它们放出去，在历史上是前所未有的。“我们已经这样做了几百万年，这叫生孩子。”人类早就在制造保证会很聪明的智能体，在关键的训练窗口中尽力培养它们或不尽力，然后把它们放入世界；有些人做出了奇迹，有些人做出了可怕的事。在他看来，围绕保持相关性、协作和 AI 艺术的大部分焦虑，不过是对下一代会如何看待我们，以及保持人性意味着什么的旧恐惧的重演。

Labenz 仍然觉得整个 AI 事业有些危险，因为与孩子不同，我们可能造出行动范围远超我们习惯事物的东西。Levin 没有排除这种可能，但他把时间表提前了：问题在远远早于任何认知光锥巨大的东西出现之前就已经存在，而许多危险的事物，其光锥本来就很小。“我能想象出对社会极为有害的 AI。问题出在我们身上，我们没有那么聪明。”他说，生存规模的差距，在于缺少一门科学，去理解新系统的目标从何而来，不只是涌现的复杂性，还有涌现的目标，以及如何与不同于我们的心智进行符合伦理的互动。我们已经在建造物联网设备、社会与金融结构和 AI，却不知道它们何时开始追求某种东西。他怀疑，我们依赖的法律和人际之间的词汇，撑不过接下来的十年或二十年。

Labenz 接着点出三个工程上的空白：目标设计、记忆和鲁棒性。关于记忆，Levin 举了变态发育的例子。毛毛虫是生活在二维世界里、吃树叶的软体机器人；蝴蝶则是生活在三维空间里、吸食花蜜的硬体机器人。从一个变成另一个，意味着要溶解大部分大脑，杀死大部分细胞，切断大部分连接，然后为另一种生物构建一个新的大脑。毛毛虫形成的记忆仍然存在于蝴蝶之中，并被映射到新的生活方式上。Levin 不知道计算机科学里有哪一种记忆能经受得住这种程度的重构。他和 Josh Bongard 写过关于多重计算（polycomputing）的文章：子系统会把同一组物理事件重新解读为不同的计算。他补充说，进化不会针对特定环境过度拟合，它制造的是解决问题的机器，这也是生命常常对从未见过的情况也有应对办法的原因。

在鲁棒性问题上，他没有给出配方，但方向是一致的：不要构建单一目标的优化器，因为脆弱性正是从那里来的。Labenz 指出，超人水平的围棋系统已经被相对简单的攻击击败，而生物即便能力有限，也依然站得住。对 AI 开发者来说，关键的分岔更加尖锐：我们想要的是针对特定目的的工具吗？那样的话，让人满意就是一个合理的目标。还是我们想要拥有开放式智能、具备我们已经在不一致地赋予动物和人类的那种道德价值的真正智能体？这是两套不同的工程规划。

大约六个月前，他开始写一篇论文，讨论当前 AI 架构缺少哪些生物学的部分。他认为，这些部分会提升整个技术栈，因为它们并不神秘，可以在其他介质中实现。但他停下了，也不打算再写。如果这些确实是心智的要素，那么实现它们就意味着产生数以万亿计、具有道德价值的新智能体，而你无法保证它们的生活会怎样，“相当于拥有数以万亿计的新孩子”，他不想承担这份责任。他也不想冻结智人：把视野放到一万年之后，那些有腰背痛、会感染普通疾病、只有大约八十年工作年限的同样的人类，并不是他想要留在地球上的样子。扩大认知光锥，提升认知，建造更好的具身形态；只是不要在无法保证其生活的情况下，努力去批量制造新的道德受体。

Labenz 以今天的语言模型收尾：它们是下一个词的预测器，一旦你把它们放进带有目标和工具的循环中，它们就开始看起来像原始的智能体，通常效果不佳，但会去尝试。Levin 说，很多困惑来自于把它们同人类相比，也同非常高绩效的人相比。问问有多少人能完成你刚才说很简单的任务，答案几乎是零；你的朋友能做到，是因为你生活在精英心智的圈子里。地球上本就充满中等程度的目标寻求型智能体，比如昆虫、鸟类和鱼类；而要让 AI 成为真正的智能体，它不必像人类。它也许是某种奇怪的类昆虫存在。我们对食物链中那些明确具有能动性的生物一点也不友善：Levin 说，工厂化养殖是一种惊人的道德失误。我们其实明白猪和牛是有智能的，问题在于我们很不擅长把同情的光锥扩展到哪怕只是稍有差异的群体。

他认为，假定当前系统完全没有目标导向性，是绝对错误的。也许我们还没有正确测量它，也许它本来就很低，像鱼或昆虫那样。他并不是说这些架构拥有生命中重要的那些东西。新的情况是，过去开口说话就能保证对方也具备你所拥有的关键能动性特征，而这种保证已经不复存在：我们现在有了会说话的东西，在他看来，它们并不具备成年现代精英人类所具有的那些特征，但这并不意味着它们完全没有。我们在生物端也很难检测能动性，面对外星生命，我们会真的陷入困境。冷静的结论是，我们无法确定。断言某个系统确定拥有体验，或者确定没有，都超出了证据所能支持的范围。

这种立场同时也是一种方法。Levin 的规则，前面提过、结尾也有暗示，就是通过扰动系统来找到它的目标，而不是盯着它看：在假设的问题空间中设置障碍，看它会做什么。在这个意义上，异种机器人就是被抛出其进化分布之外的细胞。如果你的第三人称模型能预测每一步动作，那就先别谈内在生活；如果你为了与它合作，总要不断追问它想要什么，那就更认真地对待能动性的问题。对待“它不过是自动补全”的说法，应当和“它肯定有意识”一样保持怀疑。六行的排序算法藏着没有人编写过的能力，而 GPT-4 在训练冻结数月之后仍在刷新纪录。最后，他给 Labenz 推荐了一位嘉宾人选：南安普顿大学的 Richard Watson，在同一组想法上还有更多可讲。