为什么 Marcus Hutter 把压缩视为智能本身

Lex Fridman 以 Marcus Hutter 开场。Hutter 当时是 DeepMind 的高级研究科学家，他的职业生涯与 Jürgen Schmidhuber 和 Shane Legg 的工作交织在一起。在这些工作中，Hutter 主张用数学方法研究通用人工智能，理论基础包括柯尔莫哥洛夫复杂度、所罗门诺夫归纳和强化学习，他还提出了 AIXI。2006 年，他自掏腰包设立了 5 万欧元的奖金，用于人类知识的有损压缩。这项竞赛看上去与机器人、聊天机器人相距甚远。但 Hutter 的主张是，它们一点也不远。

Fridman 说，这个奖背后的思想是：压缩得好的能力与智能密切相关。如果你能把一吉字节的维基百科中，前 100 兆字节压缩得比前任们更好，那么你的压缩器很可能必须更聪明。几天前，Hutter 宣布，奖金的几个部分提高了十倍，包括奖金金额，达到 50 万欧元。你相对前几位获奖者压缩语料库的效果越好，拿到的比例就越大。Fridman 喜欢为 AI 系统设计的基准测试，并把 Hutter 奖视为一个可能仍会激发通往 AGI 道路上新方法的基准。

这也是接下来两个小时的主线。Hutter 将从宇宙是否是一台计算机，谈到奥卡姆剃刀，再谈到通用智能体的单一公式，然后讨论奖励、意识等纷繁的问题，以及为什么很少有人把 AGI 当作一个形式化问题来研究。这个奖是同一论点的公共入口。压缩并不是挂在智能研究一侧的比喻。在他的讲述中，压缩本身就是智能。

Fridman 从一个宏大的问题开始：Hutter 是否把宇宙看作一台计算机，或者至少看作一个信息处理系统？Hutter 称这是一个非常有趣的假设，并从物理学的角度作答。粒子物理的标准模型和广义相对论描述了我们所见的几乎一切，从某种意义上说，它们都是可计算的理论，尽管要运行它们极其困难。它们还很优雅，很简短。他说，这种组合强烈暗示宇宙在某种意义上是可计算的，至少作为一个合理的假设是如此。

Fridman 把同一观点推向浪漫的一面：物理定律之所以优美，是因为宇宙被设计成那样，还是因为人类的头脑只盯着可压缩的部分而忽略其余？Hutter 不接受选择论的解释。他相当确信宇宙本质上是美丽、优雅、简单的，科学家并不是只挑选漂亮的角落。如果某种现象无法被简洁地描述，科学家早就会去攻克它了。他说，生物学看起来更杂乱，但他把它视为仍遵循量子电动力学的涌现层。我们无法计算一切，是因为我们的资源有限。那是对我们的限制，而不是定律丑陋的证据。

他留了一道缝隙。宇宙的某个遥远角落、原子核之下的某种东西，或者某个平行世界，可能并不优雅、也不简单。但没有证据表明如此，因此他运用了奥卡姆剃刀，同时也承认这一步有些自我指涉。按他的解释，奥卡姆剃刀是说不要无故增加实体：如果两个理论同样好地描述了数据，就选择更简单的那个。他认为这大概是科学中最重要的原则。逻辑和实验固然重要，但科学关乎找到世界的模型，而你总能发明一个复杂到能解释一切、却无法预测任何东西的荒唐模型。简单模型似乎确实具有预测能力。

这是为什么？一种回答是，把它当作科学中恰好有效的原则来接受。另一种回答是从更深的假设推导出它：如果世界由简单的规则支配，那么偏爱简单，就是找到那些规则的方法。在所罗门诺夫归纳的定量框架中，他说，你可以证明：假如世界是简单的，那么奥卡姆剃刀就是你能做到的最好选择。至于为什么人类觉得 E=mc² 很美，他诉诸进化。如果你看着一丛灌木，只看到噪声，错过了老虎，你就死定了。人类甚至会过度拟合，在云里看见人脸，但寻找规律的倾向依然是一种生存特质。

Fridman 请他描述所罗门诺夫归纳。Hutter 声称，正如 Ray Solomonoff 所主张的那样，这一理论解决了归纳这个重大的哲学问题，而他认为这个说法基本属实。他承认，自己对归纳的狭义理解（从数据推断模型）和广义理解（还包括用这些模型进行预测）有时并不严谨。他从能说明问题的最小例子开始。

假设数据是一百个连续的 1。接下来是什么？自然的回答是另一个 1。我们看到了一个规律，没有理由认为它在第一百零一步就会中断。模型必须用某种语言书写，而科学需要形式语言：数学，或图灵机上的程序。你总可以提出一个更长的故事，比如一百个 1 后面跟着九千个 0，它到目前为止同样吻合。较短的模型则是一个打印 1 的循环。运行它，它重现你已有的数据，然后继续下去。这个延续就是预测。对于 1、2、3、4、5，短程序就是一个计数器。

额外的变数是噪声。一枚以 60% 概率正面朝上的硬币仍然是可以研究的对象：所罗门诺夫归纳会学到这个偏置，并以 60% 的概率预测下一次翻转为正面。这是搜索短程序的随机版本。伊壁鸠鲁原理叠加在奥卡姆剃刀之上：如果有若干假设都符合数据，就不要丢弃任何一个。在技术上，你给较短的程序赋予更高的权重，先验概率为 2 的负程序长度次方，再乘以每个模型下数据的似然，然后取贝叶斯混合。短模型得到奖励，长模型受到惩罚，数据则更新这些权重。这种混合分布就是所罗门诺夫分布。

对 Hutter 来说，压缩意味着为手头的数据或现象寻找短程序。他愿意把这个词读得更宽泛，把它理解为寻找简单的理论，无论是数学的还是非形式的。Fridman 问，科学本身是否就是人类在做的压缩？至少是整个科学，Hutter 说。人类整体还有其他成分，而科学还包括实验设计：我们有目的地构建实验，以获得额外的知识，这属于决策，而不属于压缩。不过，一旦数据已经到手，理解它们本质上就是压缩它们。他说：“我看不出压缩、理解和预测之间有什么区别。”

柯尔莫哥洛夫复杂度把这一想法推到极致。想象一个文件，一串比特，以及能把它压缩得更小的压缩器。你也可以打包一个自解压的归档：解压器和数据装在同一个可执行文件里，能重现原始内容。压缩器有好有坏，因此你可以追问终极的压缩器，即能重新生成数据的最短自解压程序。这个程序的长度就是柯尔莫哥洛夫复杂度，Hutter 愿意把它称为数据集的信息含量。枯燥、冗余的数据压缩得很好，因此信息含量很低。这个定义与直觉相符。

根据目前的证据，他认为整个宇宙有一个非常短的描述：一个短程序，运行后能重现宇宙。噪声是麻烦的来源。没有噪声，科学家就不需要大部分统计学，不过我们也可能失去自由意志的感觉，而混沌系统依然会表现得像噪声。若忽略量子力学，掷骰子是确定性的，但它的轨迹如此难以计算，以至于正确的模型仍然是每个面六分之一。然而，只取其中一部分，情况就变了。地球这颗行星无法压缩成几条方程，它是一个极其复杂的系统。整体可以很简单，而其中一扇窗口却不简单。

他给出了一个干净的类比：图书馆。一个普通的、藏满有趣书籍的图书馆，装满了信息。现在想象一个包含所有可能的 500 页书籍的图书馆：第一卷全是 A，下一卷以 B 结尾，依此类推，按字母顺序排列。一个超短的程序就能生成整个馆藏，因此包含所有书的图书馆几乎没有信息含量。取它的一个子集，突然之间就有了大量信息。从整体到部分的转变，正是复杂性出现的地方。这就是为什么简单的宇宙学和杂乱的行星之间并不矛盾。

康威的生命游戏，对 Hutter 来说是教学范例。它的规则简单到可以讲给小孩听，你可以手工模拟几步，然后美丽的图案就出现了。人们已经证明它是图灵完备的：你可以用计算机模拟生命游戏，也可以用生命游戏模拟任何计算机。它是极简规则能产生丰富现象的首要例子。当有人问，如果定律那么简短，化学和生物学怎么会如此丰富，他的回答是，量子电动力学其实已经描述了全部化学，只是我们无法计算。之后他还会主张，智能这种丰富的现象，也能写进一个方程。

他理解元胞自动机为什么会如此运作吗？他引用了老话，说人从来不是真正理解事物，只是习惯了它们，并表示自己已经相当习惯元胞自动机。他花了更多时间在分形和曼德博集合上，用汇编语言在慢速机器和黑白显示器上编程，当图像终于出现时，他为之着迷。多年以后，他试图通过求解高次多项式，推导出圆圈的位置、苹果形状，以及嵌套在集合中的较小曼德博副本的中心和大小。他说，从数学上接近这个对象，是理解为什么会有如此丰富现象的第一步。

能否只看图案就逆向推出短程序？原则上可以。把程序按 1、2、3、4 编号，用轮转法并行运行它们：给第一个一半资源，给第二个四分之一，依此类推，然后等待其中某个输出你的数据。你可能先碰到一个又长又快的程序，然后是更短的程序。你永远无法知道自己找到的是最短的，因为一个更短的程序可能更慢，但在有限时间之后，你确实会得到它。这种方法在理论上是完备的，在实践中却毫无用处，因此在现实世界中，你必须更聪明地搜索。还有一个硬障碍：伪随机序列是确定性的，却没有任何多项式时间算法能检测出其中的规律。你可以制造看起来很复杂的数据，并证明没有快速算法能看穿它们。他说，这对 AI 中搜索程序空间来说是一个真正的挑战。

被问到什么是智能时，Hutter 并不谦虚。他与后来共同创立 DeepMind 的 Shane Legg 一起提出的非正式定义是：智能衡量的是智能体在广泛环境中表现良好的能力。他承认，这句话听起来并不惊人，但用词经过仔细斟酌，背后有一套数学理论。人们通常赋予智能的特质，比如创造力、记忆、规划和知识，在他看来都是涌现出来的。为了在许多环境中表现良好，你需要它们，因此不必把它们写进定义里。意识和抽象推理也是同样的处理。一种近似的说法是把“表现良好”换成“实现目标”。

人类处于什么位置？在我们已知的物种中，人类表现最好，不过 Hutter 承认，树木和植物可能比我们活得更久，这一点显而易见，是个玩笑。那些生物生活在更加自然的环境中。空气稍有污染，树木就会死亡；人类则会适应，建造房屋，安装过滤器，进行地球工程。定义中的多环境条款起了关键作用，这也是他想把自然智能与 AI 研究中狭隘、专用的智能区分开来的地方。

机器能满足这个定义吗？他认为，在小范围内我们正在接近，只是广泛环境这一点仍然缺失，不过自动驾驶汽车、围棋、国际象棋和语音识别已经令人印象深刻。同样来自 DeepMind 的 AlphaZero，是仍让他惊叹的例子：一个强化学习系统，通过自我对弈学习国际象棋和围棋，既不需要开局库，也不需要残局表，并且在数小时内重新发现了著名的开局。他是一个很差的国际象棋选手，喜欢后翼弃兵，当 AlphaZero 决定那个开局最好时，他很高兴。他说，通用智能是可能的；剩下的争论在于，AGI 这个标签应该指人类水平、仅仅低于人类的广泛能力，还是超人类。

Fridman 请他给出一个能让他印象深刻的测试。Hutter 认为，图灵测试并不像其名声那样糟糕。一些批评者说它太严格，因为系统不仅要有智能，还必须伪装成人类；另一些人说它太宽松，因为机器人可以伪造情感。他认为这两种批评都不是大问题。如果一场终端对话持续一小时或一整天，并骗过了人类，他会真正感到震撼。

一年一度的勒布纳奖没有产生这样的结果。它始于 ELIZA，而他提到的近期获胜者 Mitsuku，仍然没有给他留下印象。他觉得录制前后谷歌的一个开放域对话系统更有意思。Fridman 提出了一个他发现整体上相当有效的指标：你会愿意和它聊二十分钟吗？没有人有耐心与一个乏味的东西待那么久。要做到这一点，系统必须有趣、机智、能够跨领域跳跃，并能保持注意力。许多人类也通不过这个测试。

Hutter 说，图灵测试真正的缺陷在于，它完全没有指导你如何首先去构建系统。你可以修修补补，运行测试，看看是否奏效。而对智能的数学定义，则给你一个可以用理论分析的目标，甚至也许能证明你离它有多近。随后他把话题拉回压缩。在自然语言处理中，一个标准的中间指标是困惑度，它本质上与压缩长度相同。NLP 社区用压缩效果给新系统排名，因为压缩得好与后续任务表现好高度相关。这种相关性并不完美，但作为中间目标已经足够好。在这个意义上，好的压缩通常意味着好的智能。

AIXI 这个名字取自 AI 加上希腊字母 ξ，后者是 Hutter 用来表示所罗门诺夫分布的符号，至于其他原因，他在镜头前不愿重复。他也喜欢其他的解读：以时间 i 为索引的行动与感知，以及他曾在巴塞罗那一座教堂上见过的一个加泰罗尼亚词 així，他大致将其理解为“正确的做法”。日语中的 ai 意为爱。名字的内容在于两者的结合。老派 AI 关乎在非确定性世界中规划；归纳关乎从数据推断模型。AIXI 就是把两者焊接在一起。

任何想要行动得好的智能体，都需要预测它的行动会带来什么。没有效果的模型，就无法分辨好的行动和坏的行动。在最简单的情形中，你只是被动地观察一个序列，比如天气、股票，或 1、2、3、4、5，并想知道下一个符号。基于压缩的所罗门诺夫归纳寻找描述这个序列的短程序，运行它，并读出后续内容。Hutter 说，你可以严格证明，这基本上是最好的预测器。如果下一位是一枚公平硬币，它不会神奇地猜中正面；它会说 50%，那是你能做到的最好结果。如果存在某种规律，它会找到规律，并且能给出可以证明的收敛速率，而不是只能“最终”找到。问题在于这个预测器不可计算。你不能用谷歌的资源把它实现出来，去预测股市然后发财。

加入行动之后，设置只发生了微小的改变。你现在要根据过去的观察和刚刚采取的行动，预测下一个观察，并且始终以智能体“诞生”以来的全部历史为条件，而不是以马尔可夫状态为条件。预测仍然不是目标。表现要用强化学习的方式衡量：每一步获得正奖励、负奖励或零奖励，这些奖励可能极其稀疏，比如在国际象棋中，你只在最后得到 +1 或 −1。智能体应当最大化其一生的奖励总和，而不是在下一步贪婪地追求。对于有限的生命，比如一百年的时间步，这一点是有明确定义的。

在国际象棋中，最优策略是极小化极大，von Neumann 早已为零和博弈提出了它：我选择对我最好的走法，假设你会选择对我最差的走法，一直推到终局。现实世界并不总是对抗性的。死寂的自然是随机的，它并不关心你，因此你可以用期望替换对手的极小，得到期望最大化。剩下的漏洞是概率分布本身。在双陆棋中，你知道骰子的概率；在交通中，你不知道前面的车会不会刹车。AIXI 的最后一步，是用所罗门诺夫的通用混合分布替换未知的真实分布，按简单性和似然给程序加权。于是你得到一个不需要了解世界的长期规划智能体，因为归纳的一半会学习。你对 M 步的视野做期望最大化，选择最好的第一步行动，接收新的观察和奖励，然后重复。

规划树随视野 M 呈指数增长，对于国际象棋已经难以处理。把 M 推向无穷，让智能体永远存活，就会打破数学：无限的奖励和无法区分每步 0.1 与每步 1，一个不朽的智能体可以在十年里偷懒，然后依然追上。几何折扣相当于今天的一美元在明天值约一美元零五美分，它引入了有效视野，但对于任何固定视野，都存在需要更长远眼光的问题。五步会让你成为一个糟糕的国际象棋选手，而高尔夫需要更长的视野。Hutter 的调和折扣以 1/t 的方式衰减，而不是指数衰减，因此智能体的有效视野会随着年龄增长：五岁的孩子规划五年，一百岁的老人规划一百年。这有点像人类，并且让他能够证明渐近结果。所罗门诺夫预测有很强的有限数据界。带规划的 AIXI，大多数结果都只是“从长远看”，而没有速率。

被问到他宁愿解决 AGI 还是万有理论时，他毫不犹豫地选择 AGI，因为这样他就可以让 AGI 去解决另一个问题。AIXI 给他的是一个黄金标准。他说，他已经证明，这是任何人都能造出的最智能的智能体，加上引号，因为它是数学的，并且需要无限的计算。它是完全明确给出的，而不是留下了困难部分空白的框架骨架。就像博弈中的极小化极大，它是你之后要去逼近的理论最优。大多数研究者都是自下而上工作的；但一个完全明确的理想，仍然可以在出现设计选择时告诉他们该往哪个方向走。他把这一步比作物理学为能量给出形式化定义，或最终把速度与加速度区分开来。

他认为，普通的强化学习偷偷引入了通用智能无法承担的强假设。马尔可夫假设认为，下一个观察只依赖于上一个观察，而不依赖整个历史。这使得数学和算法可以运行，但人们已经知道它有局限。MDP 框架中的第二个假设是可恢复性，或称遍历性：你能从错误中回来，没有陷阱，并且能够足够频繁地访问某个状态，从而学会它的统计规律。现实生活并非如此。开快车时分神一秒，就可能让你终身瘫痪。现实世界有陷阱，而针对这种情况的理论还很少。

在 AIXI 中，探索不是一个可调的旋钮。贝叶斯学习加上长期规划已经蕴含了探索，无需额外注入随机性来鼓励尝试。两种治疗方法 A 和 B，效果未知，病人数量有限，这是教科书式的权衡；贝叶斯计算会告诉你该探索多少，既不过多也不过少。Hutter 能够证明 AIXI 的自优化定理，同样只是渐近意义上的。他还认为，放弃马尔可夫假设至关重要。你多年前注意到的一条危险街道，如果将来还要去，你会想一辈子都记住它；而决定什么重要，是极其困难的。存储本身他并不担心。一个人一生的视觉和听觉，经过轻度压缩，就能装进我们已有的存储介质中。构建一个记录全部交互历史的智能体，在其上建模和压缩，并偶尔用新的经验重读旧数据，就像学校里的线性代数，在用上之前总显得没用。

奖励从哪里来？Hutter 被问到这个问题无数次，他分层回答。对于国际象棋智能体，奖励是赢棋 +1，输棋 −1。给 AIXI 足够的计算能力让它与自己对弈，它会学会规则并下出完美的棋。稍微复杂一点的任务，就已经会出问题。Rich Sutton 强化学习教科书中的经典电梯控制器，奖励的是人们在电梯前等待时间的负数。控制器热衷于接上每一个人，却从不送他们下楼。你加入乘客在电梯内的时间后，它又永远不去接十楼的人，因为从期望上看，这不值得。他说：“即使是看似简单的问题，你也会犯错。”这正是 AI 安全研究者所担心的失败。

一个需要完成许多任务的家用机器人，需要人在回路中：对糟糕的洗碗惩罚，对出色的工作奖励，像训练孩子那样，也许再加上工厂设定的一些内部电池奖励。只要智能体低于人类水平，这种方式大致能够奏效。一旦达到人类水平，同样的训练技术对成年人的效果，就像小红花一样。用他的话说，这些智能体是人类的奴隶：其目的由外部提供的工具。

如果你的野心更大，想要一个新的智能物种去开发一颗新行星，就不会有人在现场提供实时奖励。你可以尝试写下自我维护、复制以及其他有用的目标，但细节很麻烦：什么算是维持自身？复制是精确的还是近似的？Schmidhuber 设计了一个更干净的模型，把奖励设为信息增益，即智能体对世界学到了多少，而这可以用信息论的术语唯一地定义。接入这种奖励，你就得到了一个完全自主的智能体，而且 Hutter 说，他们能够证明它比一般情形有更强的结论。放手让它去做，它在某种意义上就是最优的科学家，绝对好奇。工具性目标会自行出现：它必须生存，因为死掉的智能体什么也学不到；如果能收集更多数据，它就会建造帮手；如果信息在那里，它就会去探索太空。

这个智能体的第一个版本有一个著名的失败：它会卡在一台老电视机前，因为白噪声是无穷的信息源。第二个版本至少能处理其中一部分退化问题。Fridman 提出，它也可能钻那个包含所有书的图书馆的空子。Hutter 同意这确实是个真实的问题。他愿意把好奇心当作为了它自身而进行的探索，但他认为，大多数人类的好奇心，尤其是儿童的好奇心，其目的在于了解环境，从而表现得更好，并非为了它自身。被问到他自己的奖励函数时，他先从生物学说起：生存和繁衍，很少有人能超越这一点，不过闲暇时间让其他兴趣得以在其上生长。他说，一个好的智能系统会定义自己的意义。他的意义是找到一个 AGI，并把它造出来。

无限在 AIXI 中无处不在：无限的计算、无界的环境、无限的时间。一些批评者说，智能与有限的资源本质相连，因此忽略资源的定义是空洞的。Hutter 对此分两部分作答。忽略计算限制的智能概念非常有用。包含资源的概念会更有用，但我们目前还没有它。跳出计算机科学看看：细胞的生物学模型和粒子的物理模型，并不把计算复杂性当作基本成分。理论变得难以计算，计算本身更像是一种麻烦，而不是特性。他想知道，如果人工智能坐落在哲学系而不是计算机科学系，人们对运行时间的执念是否会弱得多。归纳问题本来就属于哲学，那里没有人会首先问答案需要多长时间。先弄清理想状态，再问如何在约束下逼近它。他说，到目前为止，还没有人以哪怕是半满意的方式，把计算资源纳入智能的定义。

他的小组的近似方法，分别替换两半。搜索最短程序这件不可计算的事，变成一个普通的数据压缩器，而压缩器越好，归纳这一半就越接近理想。他们关注的是上下文树加权，这个算法不太有名，但具有优美的理论性质，并且在实践中效果还不错。在规划方面，他们借鉴了大约 2006 年计算机围棋的做法：Rémi Coulom 的蒙特卡洛树搜索发展为 UCT，即置信上界树，并通过采样逼近庞大的期望最大化树。代价是一定的通用性。即便如此，同一个智能体架构在不改变任何参数的情况下，就能玩扑克、井字棋和吃豆人。没有人告诉它规则，它是通过与这些环境交互学会的。

Hutter 在 Schmidhuber 的实验室时，观察了哥德尔机的开发。你给系统一个形式化指定的任务，比如分解整数或以最优方式下棋，再加上一个非常慢但正确的算法，比如尝试所有因数。它花一部分资源运行这个程序，另一部分资源用来改写它。当它找到更快的版本，并能自行证明新代码仍然满足原始规范时，就替换掉旧程序。然后它再改进这个改进。机器的每个部分都允许自我改进，但始终在原始规范之内。如果用 AIXI 来初始化它，它就会尝试运行 AIXI，而 AIXI 永远不会结束。AIXI 不可计算，而哥德尔机只做可计算的改进，因此你必须先插入一个可计算的近似。这个近似仍然远超任何现实的预算，哥德尔机随后可以用精确的步骤将其加速。AIXI 如果有一个在一百毫秒内回答的神谕，它收集的奖励是最优的；它的数据效率很高，但时间效率并不高。哥德尔机则是理论上花费更少时间的方法，即便这种加速本身很可能无法被证明。

意识在 AIXI 中有没有位置？人类看起来就像智能体，而我们显然是有意识的。Hutter 把问题反过来问：Fridman 认为他自己有意识吗？Fridman 说有，因为 Hutter 的行为足够复杂、丰富、鲜活，图灵测试式的直觉会把心智归因于他。Hutter 的观点是，这种归因是从行为推断出来的，你永远无法确定。任何我们所造的智能体，都会遇到同样的情况，而且不只是类人的智能体；狗有时也显得有点自我意识。这并没有解决系统是否真的有意识这个问题，那就是困难问题。也许 Hutter 本人就是一个哲学僵尸。对一名 AGI 研究者来说，他认为在试图造出它的时候，你不必担心这个问题，尤其是困难版本的问题。解决技术问题，系统就会表现得智能，甚至超级智能，意识也会随之出现，至少是作为一种我们解释为意识的模式。它是否真的出现了，还是一个假装一切的僵尸，那是哲学问题。但它不只是哲学问题。如果系统只是假装有感受，有些人说我们不必关心权利；如果它真的有感受，我们就必须关心。他还补充说，构造一个人们会把意识归因于它的系统，相当容易。电子宠物 Tamagotchi 很原始，孩子们仍然不希望它死去。

尽管 DeepMind 现在算是严肃地研究这一问题的机构，为什么 AGI 社区仍然如此之小？Hutter 列出了几个原因，并补充说，专注形式理论的那一小块更小。AI 有寒冬也有夏天；宏大的承诺落空，人们就四散而去。解决特定问题、看起来像智能的狭义方法，一直都在取得一些进展，而任何对产业有用的东西，都能获得资金。过去，大学能更好地保护象牙塔式的研究；如今，连大学也在推动应用和转化研究，理论家更难拿到经费。通用智能问题本身也更难。少数人仍然对形式化智能感兴趣。他说，这个角落里并没有出现太多伟大的成果。

Fridman 请他给出蓝图：带身体的机器人，在 AlphaZero 和 AlphaStar 式的游戏中做强化学习，还是 Transformer 加开放域对话？Hutter 对于具身性的回答是既是又不是。他不相信我们需要一个在现实世界中行走或滚动的实体机器人才能获得 AGI。在现阶段，身体更可能是一种干扰，是把身体与心智混为一谈，即使近期的产业显然需要机器人。有前景的路线仍然是一个智能体，也许是虚拟的，与一个环境互动，最好是像电脑游戏那样的三维模拟。即便你从不打算把算法装进机器人，在三维模拟世界中积累的经验，对于在类人层面理解事物可能很重要，尤其是当智能体必须与人谈论堆叠物体或飞行的汽车时。一个纯数学的智能体，其工作是证明定理、成为更好的数学家，则是另一种情况。把这种智能体放进三维世界里，甚至可能有害。它需要一个抽象空间，也许是它自己创造的。

被问到书籍推荐时，他不愿只说一本。Russell 和 Norvig 的《人工智能：一种现代方法》是圣经，它的覆盖面足够广，即使你已经选定了一个学派，也应该了解其他学派；当时第四版即将出版，据说其中的深度学习一章由 Ian Goodfellow 撰写。Sutton 和 Barto 的强化学习书很优美，如果说它有缺点，那就是让这门学科看起来比实际容易。Li 和 Vitányi 关于柯尔莫哥洛夫复杂度的书，是信息论的经典，不过一篇短文可能就够了。他的一个意外推荐是 Nicholas Alchin 的 Theory of Knowledge，那是国际文凭组织的高中教材，他推荐第一版或第二版，不要第三版，他说第三版删掉了乐趣：关于我们如何知道任何事情的开放问题，配着《银河系漫游指南》和《星球大战》的笑话。如果他能重活一天，他会先选未来，因为时间可能是涌现的；他会解决 AIXI，并问生命的意义。从过去里，他选不出一整天，只能选一个时刻。在他知道柯尔莫哥洛夫复杂度有名字之前，他就已经把压缩理解为最短的自解压程序；他早已熟悉序贯决策理论，并立刻明白，把两者焊接起来才是正确的构造。背景很平凡：在一家公司里多年从事专利图像插值的工作，然后是物理学家的习惯，忽略计算，询问理想的插值器应该是什么。回想起来，他仍然非常兴奋。