如果还要六万张数字图，你就还没有找到智能

Vladimir Vapnik 对智能有一个可以被证伪的定义。如果有人能在每类只用约六十个样本的情况下，达到手写数字识别的最好准确率，而顶尖模型在这个问题上仍然要用全部 6 万个样本训练，那么他就摸到了智能。诀窍在于几个谓词，它们把可能函数构成的大海切到足够小，让少量样本就够用；网络本身做多大，并不关键。

他是支持向量机、支持向量聚类和 VC 理论的共同发明人，相关论文被引用超过 20 万次。他 1936 年生于苏联，在莫斯科的控制科学研究所工作了数十年，之后在美国任职于 AT&T、NEC 实验室和 Facebook AI Research。现在他是哥伦比亚大学的教授。这是他第二次与 Lex Fridman 对谈，距离播客早期的一期已经过去一年，而且就在他刚做完一场技术性很强的 MIT 讲座之后，讲座题为“Complete Statistical Theory of Learning”。

这期节目的英文标题点出了三件事：谓词、不变量，以及智能的本质。第三件是他思考了五十年的问题。Fridman 告诉听众，讲座和播客是相互独立的。讲座数学味很重，这次对谈则是进入同一主张的更易懂的门。

Fridman 从 Alan Turing 说起。作为 AI 之父，图灵或许灌输了一种工程伦理：去构造智能，而不是去理解它。Vapnik 说，这两条路径是完全不同的故事。工程是对人类活动的模仿。你造出一个行为像人一样的装置，具备人的功能，而“你怎么做到的并不重要”。理解智能是什么，则是另一回事。

他承认，模仿一直很有成效。自动驾驶汽车等相关业务，都受到了图灵愿景的启发，而且还会有更多成果。但理解要难得多。它“或多或少是一个哲学范畴。什么叫可理解？”他与柏拉图一样相信，存在一个理念世界。智能属于这个纯粹理念的世界。这些理念与现实结合，就会产生不变量。构造不变量就是智能，谓词在先。

理念的世界很小，事物的世界很大。一个谓词作用在不同的数据上，就能构造出许多不同的不变量。他希望，纯粹的理念并不多。这就是为什么对谈刚开始，他就很看重 Vladimir Propp 1928 年的《故事形态学》。Propp 找到了 31 个“单元”，能够解释俄国民间故事中的行为；后来人们在电视剧、电影连续剧和戏剧中也找到了同样的单元。抽象不多，投射很多。这项工作的方向，与大多数深度学习相反：先拥有理念，再用它去筛选数据，而不是从一堆样本中自下而上归纳。

Fridman 问了一个听起来有点傻的问题：什么是谓词？Vapnik 笑了。形式上，谓词是存在的。在他将使用的最简单层面上，谓词就是一个函数。你用这个函数与样本做内积，这就是谓词。输入是现实，对于数字来说是像素空间。输出是一个数，衡量样本具有某种性质的程度。

对称性是他能说得出来的例子。它不是“对称”或“不对称”的二元判断，它是一个程度：相当对称，几乎不对称。字母 S 具有竖直方向的反对称性。数字 3 或多或少是对称的。水平、竖直、对角的反对称性，都处于同一个理念之中，只是投射方式不同。“存在”太粗糙，程度才是真正的谓词。他还有第二个仍然不太正式的谓词：一幅图像的结构化程度如何，比如左边分量重，中间则没那么重。他承认，他不知道怎样把它形式化。

他说，音乐评论家已经是这样工作的。他们有一小套词汇，却能组合出丰富的表达。图像评论家也应该如此：一组有限的词，抓住一幅画的本质。这些词不是为“2”“3”或“4”量身定做的。它们描述的是一种构造，让你能为某个任务构造不变量。谓词是通用的，不变量则是落在具体数据上的结果。智能只观察事物的世界，是在尝试重新找回理念的世界，就像一位好的音乐评论家，已经对那个世界有了感觉。

Fridman 想把爱、恐惧和死亡也拉进理念空间的居民名单。Vapnik 不接这个话头。他想要一个非常简单的故事：数字识别。他不知道识别数字是否需要理解爱，以及对死亡的恐惧。但他确实知道，要用少量观察达到纪录水平，你需要谓词，而且需要的是能理解图像世界的通用谓词，不必专门为 MNIST 设计，哪怕是从字符这么小的东西开始。

对话的技术核心是收敛。你想要一个函数，比如能指示数字五。你手里有样本。你可以在训练集上测量某种性质，比如对称程度，取平均值，然后只保留那些作用在数字上会给出同样平均值的候选函数。你不再一次只给一个数字。你展示的是心中所有数字都具有的一般性质，然后扔掉每一个保持不了这一性质的函数。

强收敛指函数之间的接近：平方逐点差的积分很小。弱收敛则更宽松。拿测试函数与空间中的元素做内积；如果对每一个这样的测试函数，内积都收敛，你就得到了弱收敛。你匹配的是积分性质，而不是逐点的值。傅里叶系数是教科书里的典型图景：如果它们全都收敛，在某些条件下，函数也就收敛。谓词就是你选择去要求的那个积分性质。

一个谓词一次性切开希尔伯特空间。几个好的谓词，就能留下足够小的集合，让稀少的样本完成任务。这些谓词并不针对具体任务。它们就像 Propp 的单元：本是为俄国民间故事写的，后来却发现也适用于电影和戏剧。如果切分足够高效，好的谓词就不会多，因为每一刀都切得很大。理论上的极端情况是：如果你用上希尔伯特空间里所有可能的谓词，就根本不需要训练数据，因为可容许集里只会剩下一个函数。现实中你只能用几个好的谓词，所以仍然需要样本。好的谓词越多，需要的样本越少。他说，这就是智能学习。

大数定律说，对于任何一个固定函数，样本平均值都会收敛到期望。学习需要更强的版本：对整个候选集合的一致收敛（uniform convergence）。否则，在样本上看起来最好的函数，可能恰恰是那个平均值在骗人的函数。这一一致大数定律是他与 Alexey Chervonenkis 在 1960 年代完成的，是他很自豪的工作。但他现在认为，它还不是最深的一层。“我愚蠢了 50 年。我没有看到弱收敛。”他一直只研究强收敛。真正造出可容许集的，恰恰是弱收敛。

机器能否像爱因斯坦在物理学中发现好的谓词那样，自己发现好的谓词，还是这是人类的工作？Vapnik 不认为机器会做很多。在希尔伯特空间里，任何函数都可以是谓词，因此供应是无限的，而你事先并不知道哪些是好的。Propp 所展示的、人们之所以称之为突破的地方，就在于并不需要太多谓词，就能覆盖世界上发生的大部分事情。谓词之海里，只有少数非常好的。

在他看来，深度学习并没有改变这幅图景。他只熟悉 Yann LeCun 的卷积网络，对其他的了解不多。卷积就是一个谓词：保持平移不变性，取导数，并坚持这个谓词必须保留。LeCun 在二十五年前就做到了，“而对深度网络，再也没有人说得这么清楚过”。Vapnik 不理解，为什么人们谈论深度网络，而不是谈论那个保留这一谓词的分段线性函数集合。

从数学上说，所有神经网络都是分段线性函数，也许分段数量极其庞大，但相对于再生核希尔伯特空间（RKHS），它仍然只是一个小家族。RKHS 要丰富得多，而且他反复强调，它承认闭式解。架构技巧是切出可容许子集的一种方式。卷积切出的是平移不变的那一部分。这些不变量是手工指定的，并不是从对理念世界的理解中自然浮现的。Fridman 提出，注意力机制以及语言模型中的聚焦机制，同样属于工程。Vapnik 的回应很平静：工程没问题，但你无法在理念层面解释它为什么有效。

他对工程师也很公平。开发自动驾驶汽车的人不需要这套理论；谁的直觉更好，谁就做得更好，这没有问题。如果你想要的是科学，就必须回到理念上去。“一旦你加入新的不变量，函数集合就会越来越小。”希望是为数字识别找到一份标准清单，就像 Propp 的那份一样。他带着些许好笑地指出，数学家们对神经网络大惊小怪，而文学和艺术界的人一直都在使用不变量。我们应该向他们学习，看他们是如何描述音乐的。

Fridman 带着大家走了一遍 Propp 的序列，让观众能听到它：家庭成员离家；下达禁令；主人公违反禁令；反派刺探；情节变得清晰；第 31 个单元是婚礼，从此幸福快乐。Vapnik 关心的是这个数量。整个叙事行为只需要 31 个抽象单元，同样的单元还能用在侦探连续剧和戏剧里。如果人类的讲故事方式可以压缩到这种程度，他就有理由相信柏拉图的世界很小。

Fridman 提到了 Claude Lévi-Strauss 和其他对叙事的解读。Vapnik 不做那一行。哲学家们可以争论，另一套单元也可以。重要的是存在某个很小的集合。如果把这些单元交给一个外星物种，没有人类大脑来解释，它们还成立吗？他把这个问题又转回到了数字上。如果你能识别出字符，你就理解了一些东西：对称性，也许还有结构。他不认为识别手写体需要成千上万甚至上百万个谓词。理论说，用上所有谓词，就不需要数据；用上几个好的谓词，则需要一些。剩下的就是挑战：让打破纪录的人说明，他们用了哪些函数。

好的谓词，是能尽可能缩小可容许集的谓词，也就是能降低这个集合的 VC 维（大致衡量它的容量），直到很少的训练数据就够用。鸭子测试是他用来说明两者区别的小例子。像鸭子，游起来像鸭子，叫起来也像鸭子：这些谓词适用于整个类别，能切掉很大一块区域。“下棋像鸭子”在形式上是允许的，因为任何函数都可以是谓词，但它几乎什么都没有削减。形式很廉价，效果才是评分标准。

Fridman 不断追问那个年轻研究生式的问题：这些东西要怎么找到？Vapnik 的答案借自物理学。找到现有理论解释不了的情况，然后消除其中的矛盾。在一次演讲中，他以糖尿病数据为例。他们达到了某个准确率，然后寻找一些区域，在那里，已经写出的谓词没能保持住不变量。重新训练，只保留能保持这一不变量的函数，性能就提升了。他在技术上知道怎么做，机器也可以运行这个循环。但他不确定，它能不能构造出最聪明的谓词。

他把这称为一种蛮力方法，不一定是最好的方法。这里的矛盾是指：如果你用这个函数，它就无法保持不变量。加入这个谓词，重建可容许集，再求解一次。这和让新理论从旧理论失效之处冒出来是同一个逻辑，无需从零开始凭空发明。Fridman 追问：符号 AI 和 1980 年代的专家系统，演绎推理能否自动发现好的谓词？“我不这么认为。我觉得只有逻辑是不够的。”你必须了解现实，必须了解生活。

Fridman 提出，常识不过就是规则。Vapnik 不接受这个说法。常识是死亡、对死亡的恐惧、爱、灵性、快乐与悲伤，它们全都纠缠在一起。他不想讨论这个。他想讨论数字识别，因为那里有一个挑战，而且是可以做到的。每当 Fridman 提起爱与死亡，Vapnik 都会把话题拉回 MNIST。这个问题的大版本，也就是理解生活，不是逻辑的工作。小版本则是可以交给学生去做的工作。

二维图像理解有多难？如果有人解决了手写体挑战，到自然图像还有多远的路？“马上就到了。”Vapnik 说。用少一百倍的样本匹敌最好的网络，并不是免费的，你必须投入某种思想。Fridman 反驳说，手写体看起来很平面，而大多数照片是三维世界被压缩到了一个平面上，这似乎需要常识。也许吧，Vapnik 说，我们从简单处开始。他无法思考自己尚未理解的事情。爱因斯坦那句话正是这种情况：尽可能简单，但不要更简单。MNIST 的思想是简单的，但要真正获得它并不简单。

他并不是从一个玩具出发，希望慢慢长大。他从柏拉图出发，并说，直到弱收敛和谓词进入视野之后，他才真正理解柏拉图。“哦，原来这就是柏拉图的想法。”他画出的那条线是：从柏拉图，到黑格尔（“凡是合理的都是现实的”），再到 Eugene Wigner，然后突然就到了 Propp 的 31 个单元。理解是你所持有并应用的抽象理念。在机器学习中，这些理念所投射到的现实就是数据。Fridman 觉得数据之海很有吸引力，并想知道如何挑选正确的样本。Vapnik 的关注点更简单。你有一个巨大的函数集合，而点又不多。如果你挑一个只是拟合这些点的函数，效果会很差。先缩小集合，这就是弱收敛的用处。他并不把数据当作有趣的优化空间。

他希望，六十个样本已经处于普通大数定律的作用范围之内，因此对谓词的平均值，他不需要一致大数定律。但他仍需要某种评估与平衡。语言他不会去碰。他对乔姆斯基了解不深。人类语言非常庞大，“不是我能做的，我相信也不是我们这个世纪能做的”。我们应该从数字识别这样的简单任务中学到很多。在他看来，即便是当前的 MNIST 纪录，也说明这个领域走错了方向，因为无论误差多小，6 万个样本都是不可接受的。从非常小的样本中，你会发现与当前所用不同的原理：弱收敛，而不只是强收敛。他认为，这些原理是人类可以理解的，比如对称程度而不是是非判断，而且不只适用于手写体。

当被问到他在统计学习中见过的最美的想法时，Vapnik 说的是一致收敛：对整个函数集合的大数定律。没有它，样本上的最小化者可能是一个不收敛的函数。接着他又回到了他后来的转变。在希尔伯特空间里，只有两种收敛形式，强收敛和弱收敛。在平方可积函数构成的丰富空间中同时使用两者，你就可以把它们应用到学习中，并得到闭式解。对他来说，计算上的简洁是正确路径的标志。剩下的就不再是统计学，而是谓词的概念。

Fridman 喜欢 Vapnik 想把启发式方法从系统里赶出去。Vapnik 的修正则更安静：当你用对了工具，闭式解就会自然出现。他正在审视自己的界，想知道径向基核是否需要某种修正，才能更好地拟合这些界。人类水平的智能是一个闭式解吗？他没有完全接这个茬。他确实认可 Fridman 对自动驾驶汽车的工程视角。做这项工作的优秀人才并不在乎背后是什么理论。你不可能为每一种情况都写一条规则。更抽象的规则，更少的具体条目，和“理念应用于具体案例”是同一个故事。如果你想要科学，仍然得去寻找那些理念。

能不能让神经网络推理？依序进行，借助循环结构，不断揉搓表征，直到得出结论？Vapnik 的习惯是先写下他想要的东西，把它形式化，然后再寻找方法。到目前为止，他还没有见过一个需要循环结构的情况。人类的推理对他来说过于复杂。他说，最困难的部分是提出好问题，而他不知道人们是如何做到这一点的。

Vapnik 曾说，机器学习不只是技术，它也是哲学。对他来说，哲学意味着对生活的理解，达到柏拉图那样高度的抽象，然后再去实现。发现他们需要弱收敛，并不简单。五十年来，他一直在思考同一个问题，努力不让自己太过热情，专注于他做不到的事情，并不断追问为什么。在他所信任的数学中，只存在两种收敛方式，而他们之前一直只用其中一种。人们其实已经用日常语言讲弱收敛式的论证了，那个鸭子的故事就是，但在形式化的时候又把它们忽略了。为什么从机器学习的开端起，这种情况持续了五十年？他指出，教科书至今仍然围绕界和经验风险最小化展开，并不去寻找可容许集。

Fridman 请他用俄语讲一段童年记忆。答案是音乐。先是维瓦尔第，然后是巴赫，那种被击中的感觉。他换回英语说，听巴赫能感觉到结构。结构就是他尚未形式化的一个谓词。写巴赫的评论者用一套词汇，写肖邦的则是另一套截然不同的词汇。收集这些词，把它们与描述绘画和诗歌的词汇做比较，你也许能提取出图像的谓词，甚至数字的谓词。描述音乐的评论家，是在命名声音背后高层的柏拉图式理念。从理念走向表征是容易的方向。反过来则是逆问题，困难，但并非不可解。音乐评论家和诗歌教授每天都在解决它，只是并不把它写成数学。

他已经做过一个版本的实验。他的一位朋友是俄语诗歌教授，出版过诗集，被要求用俄语诗歌的图像语言，描述一小组 MNIST 图像中的每一张。她做到了。随后，他们把这些描述用作 Vapnik 所说的特权信息：同样的数字，用两种语言，也就是像素和诗句，在训练时一并输入。识别效果大大提升。她后来去世了。这些数字和诗歌描述仍留在 NEC。一旦你认真对待这个挑战，他说，它就会与上述的一切相连。

他会思考死亡吗？会。他怕死吗？不太怕。遗憾的是，有些工作他可能来不及做了：与音乐传统中的人坐下来，收集他们如何描述音乐，对艺术也做同样的事，提取共同之处，并试图理解那些“对一切都成立”的谓词。Fridman 说，还有时间。Vapnik 说，这需要很多年，而缓慢的部分在于理解什么是共同的，并一遍又一遍地思考。

被问到生命的意义，他说不知道。他提到了 Strugatsky 兄弟，两位苏联科幻作家，以及他们的观点：人类正分裂为两类，普通人和非常聪明的人，两条分支很快就会走向不同的方向。他没有下结论就说了这些。他还谈到一位俄国文学理论家。那人分析文学、人际关系、生活的时候，Vapnik 觉得自己像个小孩子。那人知道生活中那些大谓词。然后他提出一个观察：大公司里的许多经理人都学过英语语言和英语文学。为什么？因为他们理解生活，他们理解模型。他们天生就是叙事的批评者。他说，这就是大科学，就像 Propp 做的那样。

Fridman 称他是当代伟大的数学家和统计学家之一。Vapnik 不接受这种说法。他对自己很谦虚。他身边有很多聪明人。“我知道自己的局限。”整段对话都是在小心地画出这条边界：他能清楚地思考手写数字、收敛和不变量。他不理解语言、人类情感，也不理解大多数人文学科。对他来说，看清自己不知道什么，和看清自己知道什么，同样重要。Fridman 在结尾引用 Vapnik 的话，把同一种伦理浓缩成一句：解决感兴趣的问题时，不要把一个更一般的问题当作中间步骤去解决。