如果把地球重演一百万次，还会有像我们这样的生物出现吗？

Lex Fridman 介绍 Risto Miikkulainen 是德克萨斯大学奥斯汀分校的计算机科学家，同时在 Cognizant 担任进化人工智能副总裁。Fridman 顺带说，受自然启发的方法总让他感到惊讶，从遗传算法、元胞自动机到神经网络都是如此；他觉得计算机科学的长期走向，似乎是朝着生物学靠拢，而不是远离它。接着，他把生物学家那个不可能回答的问题，改写成模拟器能够运行的形式：如果把地球上的实验重放一百万次，结果会有多大差异？

Miikkulainen 说，生物学没法回答这个问题，因为样本量只有一个；但计算模型可以重跑。他补充说，我们现在还做不到，不过应该会看到一些规律。进化起步很慢，之后逐渐加速。操纵物体、对生的拇指、某种形式的交流、决策和视觉，大概率还会再次出现。眼睛在演化史上多次独立出现，硬件各不相同，但活儿都干成了。灵长类、人类，或者任何长得像我们的东西会不会出现，这还是个悬而未决的问题。不过他认为，使用工具和改造环境的生物是会出现的。一旦智能体能够重塑外部世界，生存优势就会压倒性地大。那种物种长什么样，每一次运行都可能不同。

Fridman 问，一个忙碌的创造者，怎么可能在一锅智能体里注意到人类。Miikkulainen 说，他会给这次运行装上仪器：用探测器和可视化工具去观察交流、合作和操纵，这些大致也是我们已经想要的东西。在地球上旁观的外星人，未必会选中我们。以生物量计，昆虫占据主导；鲨鱼已经存在了 4 亿年，比树木存在的时间还长，而且挺过了几次大灭绝。人类出现得晚，动静又大。他想到的第一个计算指标是环境影响。城市就是人造的栖息地，而大多数人住在城市里。鸟会筑巢，白蚁会堆土丘，但没有别的东西能建造出这种复杂程度。他承认鲨鱼能给出反方论据：长久存在却不破坏环境，也许才是更聪明的招数。探测器本身有偏差，但他说，多跑几次，就能修正它。

第零步，是从原始汤里得到一个能够自我复制的分子。Miikkulainen 说，人们已经离这一步不远了：稍加帮助、条件合适，就能让复制发生。进化花了几十亿年，是因为它不知道终点在哪里；我们知道终点，所以重现应该更快。接下来的几步，包括多细胞化，他认为在一定的人工引导下是可以达到的。真正让他着迷的，是之后大脑那种失控式的进化，它催生了人类和其他高等动物，而且速度很快。这个过程能不能复现？如果发生，是否还会沿着同样的路走？没有人清楚这种实验需要什么条件，因此也就没人能在硅基上开始。他后来还指出，进化计算已经有五十年历史，却从未产生过类似生物界那样的重大转变。

被问到什么是智能时，他戴上计算机科学家的帽子，拒绝从定义开始。目标是创造智能体，而这本身就是一种定义方式。一个感知和行动能力有限、与世界互动、并带有决策机制的程序：它能不能生存、繁殖，或者解决交给它的问题？这个标准远低于人类。许多动物都能达到，一些看上去不像动物的东西可能也能达到。按照这第一层含义，智能就是在既有资源下的一种生存技能。

Fridman 引出了 Ernest Becker 的《The Denial of Death》和恐惧管理理论（terror-management theory）：人类预见到生命终将结束，而这种认识会推动创造性的工作。Miikkulainen 认为这个说法站得住。动物大概不会这样思考死亡；人知道时间有限，所以希望它有意义。他喜欢的第二层定义，就来自这种冲动：你做的事情会留在身后，对别人或未来有用，而不只是对自己有用。这并不需要生物体。Fridman 担心的是蝴蝶效应式的独一无二，也就是《生活多美好》式的检验。Miikkulainen 说，那是莫扎特级别的标准，太高了。一个局部的、有时间边界的影响就够了：如果你不在，事情就不会以这种方式发生，而你希望它是正面的。

能不能给智能体植入对死亡的恐惧？不光是设一个寿命参数，还要做出随着终点临近而越来越紧的那种东西。Miikkulainen 把认知和情绪分开来谈。大多数人知道自己会死，然后照常生活。瘫痪般的恐惧不健康，完全不在乎也不是人类的正常状态。有用的中间状态，不只是逻辑。在他看来，情绪是一种生存过滤器：来不及推理出危险时，恐惧会把注意力锁定在关键事实上。这可以实现为一种计算状态：一些输入被放大，另一些则被挡在门外。你可以拒绝承认这个盒子里的东西是真正的情绪，但它的行为就像情绪一样。

他的团队模拟过非洲鬣狗抢夺狮子猎物的行为，这种行为比鬣狗的大多数其他行为都复杂。鬣狗很聪明，但没有狒狒那样复杂，这反而让它们的行为便于观察。大约三十只鬣狗能通过叫声召集同伴，掐准进攻的时机，把狮子从尸体旁推开，尽管狮子的一次爪击就可能要了其中一只的命。三种拉力同时作用：对狮子的恐惧、对群体的归属感，以及饥饿。归属感以微弱优势胜出，它们于是作为一个整体行动，围猎成功。Fridman 听出了算法的味道，而这正是重点所在。狒狒和人的脑子里，同时进行的事情太多。鬣狗的动机直接体现在行动上，甚至粪便中的化学物质，都能反映它们过去 24 小时的情绪状态。

Miikkulainen 认为，智能在很大程度上是社会互动的产物，有用的智能体必须从根本上是社会性的。他引用了一种语言起源理论，与 Derek Bickerton 相关：社会系统先出现，角色可以互换，“你挠我的背，我挠你的背”。一旦大脑能够把行动表示为可以互换的角色，语法就有了根基，符号也就能开始指代不在眼前的东西。语言是这种结构的副产品，之后才成为规划的工具。Marco Dorigo 的那些小机器人，彼此抓住，搭成一座单个都跨不过去的沟壑之桥，这就是计算领域里的呼应。鬣狗单独行动会失败，组成团队就不会。

被问到他见过的最美的受自然启发的算法时，Miikkulainen 没有举某篇论文，他说的是：计算机能给出比你投入的更多的东西。大一时，一个小程序接收一个数字，返回一个他本不必亲自算出的结果，这让他大为震撼。再往前推一步，机器就能学到人类难以把握的规律。再往前推，进化算法能找到你想不到的解，而且常常因为它不带你的偏见。按他的定义，创造力需要三个条件：新颖、有用、令人惊讶。算法能同时满足这三点。看着一个程序超出源代码的范围继续发展，他同意 Fridman 的感受：这接近于看着一个生命在生长。你给了它一个起点，然后它就有了自己的生命。

最典型的例子，是他与麻省理工学院媒体实验室 OpenAg 的 food computer（食物计算机）的合作。这是一个水培箱，光照、水、养分和温度全部由软件控制。农民之所以了解自己的土地，正是因为他们无法控制一切。一旦什么都能控制，这种经验知识就站不住了。他们做了一个进化优化器，又加上一个植物生长的代理模型，然后为罗勒搜索光照配方：光强、波长、时长。他们给搜索加了一条常识性约束：至少 6 小时黑暗，因为地球上有黑夜。进化把每个配方都撞到这堵墙上。后来他们取消了这条约束。罗勒并不需要睡觉。24 小时光照长出的植株更大，味道也更好。工程师和生物学家都很意外，因为他们原本以为这条约束是有原因的。进化并没有这种偏见。

Fridman 问起类似 Neuralink 的大脑扩展：颅骨、寿命和感官，对智能来说是根本的，还是可以打开、直到智能爆炸的偶然限制？Miikkulainen 对替代持乐观态度，对扩展则比较谨慎。有动物实验把听觉信号接入视觉皮层，动物仍然能感知；失去半个大脑的孩子，功能可以转移到剩下的那一半上。假肢能起作用，既因为装置设计得巧妙，也因为大脑会适应。不过，向大脑灌入过多额外输入，可能只会让它不堪重负。过滤和聚焦，本来就是大脑皮层最耗费能量的工作。扩展其实已经在颅骨之外发生：手机成了随查随用的记忆，孩子们在 DNA 被发现几十年后，就在学校里学它。视觉本身就像一根消防水管，大脑早已不肯全盘接收。他对一只猴子通过植入装置玩 Pong 游戏印象深刻，前提是这条通道始终按照人的条件运行。

Miikkulainen 说，惊喜时时都在发生，而且常常是利用了一个你并不知道存在的漏洞。学界把这类故事收集在《数字进化的惊人创造力》（The Surprising Creativity of Digital Evolution）一书中。他自己的例子比罗勒的结果小，来自一门课程。学生用进化出的神经网络下井字棋，其实是在大棋盘上下五子连珠。一支队伍在比赛中夺冠，主要是因为对手崩溃了。进化出的程序学会了在棋盘上几百万格之外落子。其他程序的棋盘在内存中不断变大，直到耗尽内存而崩溃。Fridman 指出，有时候取胜的方式，就是找到对手大脑的边缘。Garry Kasparov 在深蓝之后也说过类似的话：它下的棋不是他预料的那种。缺少人类的先验知识，本身就是一种优势。

去掉修饰，进化计算就是两个操作：制造变异，然后筛选。你需要一个可以修改的数字基因型，以及一种解码方式，把它变成会行动、会被打分的表型。计算机科学常用数字串或树状结构。DNA 也是一串序列，但它还会折叠，并以大多数模型忽略的方式相互作用，而我们至今不知道这些额外的部分哪些是必不可少的。生物学里充满了历史包袱，比如阑尾和尾椎，它们在演化的路上曾经有过用处。表示方法必须能承载这种历史，而数字串和树状结构大概做不到。这个领域最明显的空白，是重大转变：从单细胞到多细胞，从个体到社会，选择单位的一次跃迁。开放式进化的尝试，至今没能重现这种攀升。这大概需要更丰富的编码方式，而生物学本身对这次跃迁也还没有完全解释清楚。

变异可以是重组，包括交叉；也可以是突变，即对染色体的随机修改。在生物学中，交叉是主力。在计算中，突变承担了更多工作，而且越来越多地由性能统计来引导，这与机器学习其他部分的统计化转向如出一辙。在这个有五十年历史的领域里，这种成功持续了大约二十年，也把算法拉离了生物学。Miikkulainen 希望把其中一部分拉回来：减弱选择压力，增加交叉，扩大种群，给更多时间。如今的进化计算会立刻淘汰弱个体，然后直奔一个适应度数字。生物学很有耐心，而成功也有很多种形式：更强、更快、更大、更聪明，或者这种食谱、那种生态位。单一指标会让搜索收窄，多个指标才是创造力所在。代价是速度慢，而人类总是很急。

他说，深度学习吃的是带标签的数据，像天气这种情况，明天的观测结果就是今天输入的标签。现实中有很多任务没有标准答案，也永远不会有，比如游戏、机器人动作、医疗方案和投资。强化学习借鉴的是生物的一生：一个个体吃浆果、生病、变得更强。进化则在另一种时间尺度上运作。整个种群来发现什么管用，失败的个体死去，下一代变得更好。按最初的设想，强化学习关心的是一生。进化则是一种工程：你不关心候选解经历了什么痛苦，只关心哪个解留了下来。两者的边界正在变得模糊，但实践中的主要区别是试错成本。试错昂贵时，谨慎的强化学习更合适。试错便宜，尤其是配上代理模型，再加上对惊喜的渴求，就会偏向让一个种群去尝试强化学习不敢尝试的东西。

把两种算法放到一个模拟的步行者身上，差别就很明显。强化学习智能体很保守，尽量长时间保持站立。进化出的智能体则乱成一团：摔倒、趴下、跳跃、再摔，最后干脆故意往前倒，也就是跑了起来。那些难看的步态并非纯粹的死胡同。把其中两种合在一起，也许就能得到能用的那一种。进化并不要求每一步都是改进，所以它能跳跃。另一项研究不只进化了控制器，也进化了身体：圆柱、关节、肌肉、传感器。最后得到的形态，有的有很多条腿，有的一条腿都没有。身体和控制器一起优化时，动作看起来很自然，与那副身体相配，你会开始相信这个生物是活的。

自然的动作，也正是波士顿动力的舞蹈视频先让人惊艳、随后又令人失望的原因。编舞都是人工写死的。Fridman 说，要学会一种让人愿意与之相处的运动质感，才是难题，这大概只有在物理足够真实、能够迁移的模拟中才有可能解决。Miikkulainen 认为，这有时需要一种心智理论：机器人之所以懂你，是因为它在做类似的事。在 Ken Stanley 的一个模拟中，两个机器人觅食获取能量，力量够强之后就互相冲撞。进化先学会去最近的食物，然后学会更好的路线，再学会观察对手。最精巧的策略是朝两块远处的食物做假动作，让对方把能量耗在路上，然后自己转身去吃近处那块，赢得胜利。代码里没有任何地方写着要欺骗，是竞争促成了它。

Fridman 描述过马路的行人：先瞥一眼司机，然后迈步，这是一种薄薄的社会契约，车里的人不会把你撞死。现在的机器人不会跳舞，它们把人当作弹道式运动的物体，留出很宽的安全余量，然后躲开。Miikkulainen 认为，不必有完整的心智理论。一个功能性的版本已经走得很远：预测其他智能体会做什么，给这些未来打分，判断好坏，然后朝好的那边靠近。协作会把门槛抬高。两个人抬一个箱子，必须推断对方是要抓紧、要放下，还是只是路过，这一点仅凭物理轨迹是看不出来的。再往上，你还要预测职业层面的目标，比如名声、钱，或者做点好事，这需要更多信息，但逻辑是一样的。在 Fridman 看来，特斯拉式的系统仍然优化的是避障，而不是那种舞蹈。

神经进化，是把神经网络和进化搜索结合起来。早期版本用进化来代替反向传播，把权重编码成一串数字来进化。这在没有目标能让梯度从中传出时尤其重要，比如迷宫里的机器人、一个游戏，或者任何每一步都没有正确动作的任务。你仍然需要神经网络，因为它能做插值。近来更有意思的做法，是进化设计本身。现在的架构复杂到人类几乎看不懂哪个模块在做什么。进化可以搜索深度、拓扑结构、激活函数、损失函数、数据增强，也就是整个实验布局。几年前，他的团队拿了一个获胜的图像描述（image captioning）架构，把它拆成若干部分，然后围绕这个人工设计去搜索改进。性能提升了 15%。这个数字本身远不如它所暗示的含义重要：即使是冠军网络，附近也还有没用上的空间。

还剩两个硬约束。搜索空间极大，所以你必须先定义好基本构件，并对哪些方向值得尝试有一种直觉。另外，评估意味着真的要把网络训练一遍。每个模型训练几天，种群 100 个，进化 100 代：算力（compute）开销和碳排放，都让人承受不起。在没有完整训练的情况下预测模型质量，是这个领域的核心难题之一。另一条路是先生长、再扩展。Esteban Real 及其同事先进化出一个小网络，然后把它放大。Miikkulainen 更感兴趣的是真正的发育过程：进化只提供一个起点，一生的学习则在与环境的互动中把成体构建出来。人类的 DNA 无法直接规定成年大脑的样子，正是这个道理。慢的种群进化和快的个体学习这两个时间尺度，目前看来仍然没有被充分利用。

捕食者与猎物之间的博弈，是他的团队做过的最漂亮的军备竞赛，合作的动物学家是 Kay Holekamp：模拟的鬣狗对模拟的斑马。起初，鬣狗会笨拙地扑向猎物并吃掉它。斑马学会了逃跑。鬣狗学会了从两个方向包抄。斑马便分散开来，这是真正的瞪羚用来扰乱追逐的招数。更多鬣狗加入进来，绕圈围堵，一次能同时捕到好几只动物。这些战术都不是事先写进去的。竞争式协同进化的价值，就在于它会带给你原本不知道的东西。让这场竞赛持续下去并不容易：模拟世界必须保持足够丰富，才能承载下一层复杂性。他们只推进了几步，但每一步，都是大自然早已用过的策略。

Fridman 问，神经进化会怎样处理类似特斯拉 Autopilot 的多头网络：共享的主干，加上针对各个任务的输出头，正是 Andrej Karpathy 团队大规模运行过的那类系统。Miikkulainen 说这很契合。从 X 光片上同时学习多种病变，一种疾病形成的嵌入表示会帮助其他疾病；每个任务都会比单独学习时做得更好。进化的任务，是决定如何融合：哪些层共享，共享多少。同事 Elliot Meyerson 研究过，当一个表示需要支持很多个输出头时，它应该是什么样子。Miikkulainen 说，生物智能本来就是这样工作的。人类不会为一项工作单独搭一套表示。人搭的是世界的结构，让未来的任务，包括那些还没遇到过的任务，都有地方安放。多任务带来的收益，只是这个目标的副产品。

Meyerson 发现的惊喜是，这些任务不必彼此相关。语言可以帮助视觉，DNA 的结构可以帮助语言。“世界是押韵的”，即使跨越那些看似毫不相干的领域，也仍然成立。有人问语言和视觉哪一个更基础，Miikkulainen 不肯选。图像加文字的联合训练，学到的语义比任何单一模态都更深，他认为这是未来几年的方向，会超越 ImageNet 和纯文本语料。视觉的难点在于三维关系和预测，而不在于识别物体的标签。语言的难点在于目标、计划和历史，而不在于谁对谁做了什么。视觉皮层会对语义概念产生反应；人们会在白板上画抽象概念的图；许多动物能看见却不会说话，所以视觉或许出现得更早。语音本身，也许是一个原本用来进食、后来恰好能发声的器官的意外结果，也可能是手势的后继。他怀疑，在两者之下，有共享的关系结构。

Fridman 担心，如果外星人降落，人类可能注意不到，也无法与之交谈。Miikkulainen 进入计算机领域，部分是受科幻小说的影响，他希望有一个具体的演练：先把智能体进化到有语法的程度，而不只是能发信号，然后拿机器翻译去尝试翻译这些语言。改变世界的设定：有的没有捕食者，有的全是捕食者，有的是不同的社会结构，甚至是没有重力的世界，然后绘制出语言可能变成什么样子的版图。要在有人造访之前做完这件事。同一个框架也可以用来发展可解释 AI：进化出能够向我们描述它们所处世界的智能体，并奖励那些真正有助于共同目标的交流。他马上补充了一个陷阱：进化出的交流，很可能也会包括撒谎。细菌中就有作弊者。鬣狗围猎时，有些动物会躲在后面，不冒险，等到分肉时再凑上来。他测量过一个群体能容忍多少这样的个体，超过这个数量，围猎就不再成功。答案是几个，不会很多。

Fridman 希望，等到住所和食物不再稀缺，诚实和善良就会成为进化上的优势。然后他把可怕的版本说了出来：最先通过图灵测试的系统，可能是那些撒谎最出色的。Miikkulainen 希望我们把 AI 当作一种工具来打造，像汽车或语言一样，帮助我们，而且我们仍然能够限制它。遥远未来中不受约束的实体，并不是可以预见的情形。但信任不会消失，因为无法互相信任的社会做不了有趣的事情，而只要有信任，骗子就有机会。成功的学习者大多会诚实，因为这才是把事情办成的方式。也有一些会钻规则的空子。把一个 AGI 复制成数百万个完全相同的副本，在工程上方便，在战略上却是错误。多样性是进化运行中唯一不能缺少的东西。模拟里那些近乎自杀式冲锋的鬣狗，看上去像是浪费；但它们正是那些跑得快、又能及时停下来的动物的原材料。

他说，要容忍少数“不合群”的个体，因为规则本身也会变。曾经被认为得体的行为，后来看来可能是不公正的；昨天的违规，可能成为新的规范。变化往往从那些不肯照现成剧本走的智能体开始。剂量依然重要：骗子太多，群体就会失败。如果一组智能体能够彼此信任，它们就能成就更多；而只要有信任，就总会有欺骗的空间。他不认为这种张力会消失。

在他看来，人工生命的覆盖面很宽：一头是地震后在楼宇间清理废墟的多智能体机器人，另一头是在原始汤里研究自我复制的化学家。它是一个工具，用来追问生命究竟是什么，判断物种大量消失的临界点大致在哪里，也能让人及时注意到类似鬣狗合作那样的苗头，看它是不是一个转折。换个角度，整个社会也可以当作一种生命体来看。生物进化速度慢，观念、制度与文化的变化却快得多。人类一千年来在生理上几乎没什么改变，却已经在争论 DNA 和基本粒子，因为思想的复制速度远超基因。用 Dawkins 的说法，进化的对象是模因，人不过是它们的载体。AI 则是这一快速层里新添的工具。假如宇宙运行在我们无法在脑中建立的维度里，我们早就有应付的办法：不必弄懂汽车的每个零件，靠操作界面照样能开车。AI 也可以是叠在一个我们尚未完全看透的世界之上的另一层抽象。

Fridman 提到了 Conway's Game of Life（生命游戏），还有 Conway 近日的去世，以及当几条简单的二元规则涌出复杂性时，直觉会失效到什么程度。Miikkulainen 表示同意。进化没有目标。它只对当下作出反应，活下来的留存下来，而我们把留下的残余称为进步。DNA 是一条又长又简单的序列。进化计算中那些对字符串和树进行变异的代码非常小。复杂性的来源是非线性的相互作用，靠的不是繁复的规则。实际的问题在于，如何引导这股洪流让它有用，以及如何面对由此带来的死亡数量。新奇性搜索（与 Ken Stanley 和 Joel Lehman 的工作有关）取消了适应度目标，只奖励与已见事物的不同。它同样进化出了高效的步行。Miikkulainen 认为，要真正远离现有的解，系统必须先编码这个领域的基本原理，然后再去改变它们。档案库里大多是垃圾，垃圾中间有宝石，但仍然需要人去辨认。

从进化计算的角度，给年轻人的建议是探索，而且要探索得深。去学音乐、历史、哲学、数学、工程，然后寻找它们之间的连接点。去旅行，学一门语言。材料就在你手边，但获取它仍然要花力气。Fridman 担心，一味追求新奇会把体验压平，就像挨饿之后，第一顿饭格外鲜美，而丰足会让人麻木。Miikkulainen 的意思并不是一百次浅尝辄止。挑几个主题，待到你能诚实地说，已经从中得到了能得到的东西，再转向下一个。这种判断可能要花好几年，人们也常常在十年之后才换行。你不需要一万小时的专业积累，但要有足够的理解，让这段经历日后能派上用场。然后是第二阶段：一件让你无法放手的事。对他来说，那是计算机和 AI，几十年的工作，能够吸收探索阶段收集到的一切。顺序很重要：先探索，再投入。没有这番搜索，你就没有资格做选择。

从单个智能体的角度看，经历了这么多模拟中的死亡，意义在哪里？在进化中，每种东西都既是一个可能的方向，也是一块可能的垫脚石。有些成了地基，有些灭绝了，但它们仍然是尝试。恐龙在环境改变之前，曾是一个非常出色的解；它们的亲属至今还在，谁知道这一支谱系什么时候又会有用。个体只是巨大创新引擎里的一个小齿轮，这听起来似乎让人渺小，但对他来说，它提供了意义：你属于某个更大的东西。他现在比当年玩跳伞和滑翔伞时更常想到死亡。人生的轨迹是说得通的。年轻人必须相对无所畏惧，因为他们最好奇山那边有什么。之后，探索完成、方向选定，问题就变成了：在有限的时间里，你能做出什么真正重要的事，以及当这个智能体消失之后，是否还留下痕迹。

Fridman 以 Carl Sagan 收尾：灭绝是常态，生存是例外。在四十亿年里出现过的物种，大多已经消失。那些冲锋后死去的鬣狗、倒下的步行者，既是这条规律的注脚，也是活着的东西所站立的地基。Miikkulainen 不卖安慰，也不制造恐慌。个体是潜在的方向，有些会成功。要善用有限的时间：深入搜索，找到你放不下的那件事，然后用几十年去做一件能比你活得更久的东西。大一时的惊叹，仍然潜伏在他的研究之下。一台机器算出了一个他本不必算的结果；后来它学会了规律；再后来，进化找到的答案，是他本可能错过的，因为进化没有他对答案应有样子的预设。我们能够造出在某种意义上比自己更聪明的系统。他说，这一点至今仍让他心神激荡。