机器的手很稳：Garry Kasparov 谈深蓝、AlphaZero 与普京

Lex Fridman 问了一个 Kasparov 说他从没听过的问题：回望主导国际象棋二十年的职业生涯，更大的动力是对胜利的热爱，还是对失败的憎恶？Kasparov 回答，输棋一直都很痛苦，几乎是身体上的疼痛，因为他知道，如果输了，那是因为自己犯了错。他始终相信，一局棋的结果必须由自己棋艺的质量来决定。他承认，这听起来很傲慢。但这也帮他不断前进，因为总有进步的余地。

他说，害怕犯错，其实就保证了会犯错。顶尖选手之间的差别，在于能否在不可预测的后果面前做出决定。你站在十字路口：向右、向左、直行，或者掉头。你对每条路都有一些直觉，却从来不够支撑一个完全算清楚的选择。在这个层次上，国际象棋是一种内在的力量：我会做出这个决定，我会站稳，我不会浪费时间回头张望。回到 Fridman 的问题，他说，驱动他的既不是对胜利的热爱，也不是对失败的憎恶。两者都是重要的心理因素。真正的引擎，是想要有所作为的激情：在一个开局里、在一个中局计划里、在一盘此前从未存在过的棋里，创造出新的东西。

他说，正是这种同样的欲望，让他离开了赛场。他知道自己在下一段人生里不会再是第一名。但他仍然可以在俄罗斯的民主运动中发挥作用，通过写作，通过与人交谈，谈人类如何做决定。在影响力上，它不会像在棋盘上那样决定性，但仍然可能强到足以帮上忙。Fridman 追问他内心的恶魔。Kasparov 没有把它们神秘化。即便对手是 Anatoly Karpov，即便他对对手充满尊重，他仍然相信，改变结果要靠他自己。他并非不可战胜。他会犯错，年纪越大错得越多。他仍然想成为那个起决定作用的人。56 岁时，他在 Chess960（Fischer Random）中刚被 Fabiano Caruana 击败，尽管他已握有一些本可以在十五年前转化为胜利的优势局面。他对一位采访者说，他可以与对手搏斗，却不能与自己的生物钟搏斗。他仍然让 Caruana 差点陷入绝境。他的妻子开了一个配得上棋艺女神的玩笑：也许她并不想让他赢，因为如果一位退休选手击败了世界顶尖选手之一，人们会说这项运动已经停止进步了。

谈到令他自豪的一步妙招时，Kasparov 先提到了来自里加的魔术师 Mikhail Tal，然后把视野放得更宽。每一位世界冠军都是创造者。有些人是华丽的弃子型选手；Tigran Petrosian 则恰恰相反，慢慢地、步步紧逼地扼杀对手。业余爱好者喜欢那种棋子悬空、弱方最后一击的对局。还有另一种美：布局上的机动，寻找弱点，逐步收紧。Kasparov 认为，自己对这项运动的影响比他刚开始时想象的要大，而他离开赛场，是在他知道自己已经无法再带来同样类型的新知识的时候。

他并不先提 1999 年对阵 Veselin Topalov 的那盘名局，那局里他的王一路从自己的阵地走到棋盘另一端。业余爱好者喜欢挑那一局，因为它罕见又直观。他说的是 1985 年对阵 Karpov 的那场比赛。第 24 局是那场比赛的决胜局；他赢下这一局，并在 22 岁时成为世界冠军。他希望人们记住的，是在一盘短局中找到的一步独特的操作：当时摆出来显得很丑，如今却成了典型的思路。第 16 局里，他执黑，让 Karpov 的部队在自己的阵营里陷入瘫痪。比分是平的；按照规则，卫冕冠军在平局时保留头衔，而且还剩九局。这也是一次虚张声势。他和 Karpov 都没有看出开局思路的反驳。Kasparov 在此之后下得无懈可击。然后，他们发现那个思路站不住脚。他并不知道自己在虚张声势。他说，这正是那个时代与今天的区别。今天，机器会在一瞬间把反驳展示给你。

1980 年代和 1990 年代的分析并不完美，因为分析者是人。时间依然重要。你可以和教练们熬一夜，什么也没找到，却又不知怎么，这些时间有了帮助。他想到一个说法，又加上限定：这些工作似乎转化成了一种精神能量——并非宗教意义上的，只是他能想到的唯一词语——在研究中的投入与时钟滴答下的灵光之间，存在一种看不见的联系。即便准备工作与胜利之间没有直接的线，这种联系也依然存在。

Magnus Carlsen 在历代伟大棋手中排在什么位置？Kasparov 认为这种排名不公平。每一代新人对这项运动的了解都比上一代多得多。那些说老 Kasparov、Fischer 或 Magnus 是最伟大的人，忽略了一个事实：按今天的标准，过去的伟大棋手知道得实在太少。任何一个花几年时间和棋类电脑相处的孩子，仅凭获取信息的便利，就比曾经的世界冠军知道得更多。更好的衡量方式，是冠军与其余选手之间的差距，再加上时间。按差距来算，Fischer 也许在短时间内居于首位。Kasparov 占据首位的时间更长，而且与 Fischer 不同，他击败了下一代。Vladimir Kramnik 比他年轻十二岁。在 41 岁离开赛场时，他仍然占据主导地位。

他说，Carlsen 的稳定性令人惊叹。他之所以显得无法战胜，是因为他是 Fischer 与 Karpov 的一种致命结合，这很少见。Fischer 的风格是动态的，会战斗到最后一丝资源。Karpov 则用最少的手段，让每一枚棋子都发挥最大效果。Carlsen 则像从石头里挤出水滴一样，榨取每一分优势，而且可以像 Fischer 一样连续下很多个小时，同时保持 Karpov 那种细致入微的致命性。身体状况很重要。研究表明，棋手在一盘棋中会消耗数千卡路里。至于 1980 年代末的巅峰 Kasparov 能否战胜 2019 年的 Carlsen，他认为这个问题毫无意义。1989 年的 Kasparov 下出了很好的棋，但与 2019 年的 Carlsen 相比，他知道的仍然很少——Kasparov 指出，Carlsen 也从他那里学过东西。如果给 1989 年的 Kasparov 加上之后三十年的知识，他就不再是 Kasparov 了，而是另一个人。

在足球上，他同样谨慎。球迷们选择 Messi，是因为他们更年轻，没有看过 Maradona。Kasparov 两人都看过。如果一定要选，他会选 Maradona。1970 年的巴西即使没有 Pelé 也能夺冠，并且依然伟大。1986 年没有 Maradona 的阿根廷则会一无所有。在这次谈话时，Messi 还没有赢得过世界杯。评分也有它自己的通胀：Kasparov 在 1990 年突破 2800 分时，同一等级只有 Karpov 一个人；如今已超过五十人。他怀疑，自己的 2851 分，与 Carlsen 的巅峰 2882 分一样有分量。然后他把这些假设挥到一边。

Fridman 把 1997 年 5 月 IBM 的深蓝战胜 Kasparov 称为文明中的开创性时刻之一：几个世纪以来，国际象棋被视为智力造诣的巅峰，然后一台机器击败了人类世界冠军，激励了包括 Fridman 本人在内的一代 AI 研究者。在当时，从 Kasparov 的脸上看，那像是一场悲剧。既然这一时刻如此重大，为什么会这么痛苦？Kasparov 重复了前面的观点：输棋在身体上是痛苦的。然后他纠正了一个文化上一直处理得很马虎的细节。1997 年那场比赛，他并非第一次输给机器。那是他第一次输掉一整场比赛。他之前输过局，输过快棋，也输过一场短期比赛。一场完整的正式比赛，性质是不一样的。

他之所以愤怒，是因为他怀疑这场失利不只是他自己下得不好的结果——尽管今天回看那些对局，他确实犯了大量错误。他相信还有与国际象棋无关的其他因素在起作用。二十二年后，他愿意分析这场比赛。他同意 Fridman 说的几乎每一点，只有一个例外：把国际象棋视为智力活动的巅峰，是我们的错误。它只是一种游戏。在这种游戏里，机器要做的只是犯更少的错，而非解开它。按照 Claude Shannon 的说法，合法局面的数量是 10 的 46 次方，多到任何电脑都无法在接下来的几十亿年里算完。但它不必这么做。它只需要比我们更稳定。

围棋、将棋以及其他封闭游戏中出现的，是同样的展示。只要你搭建起一个封闭系统——规则清楚，状态空间有界，目标明确——机器就会获胜，靠的是减少错误，而非更聪明。把今天引擎的等级分（约 3400 到 3500）与 Carlsen 2800 多分的水平相比，以国际象棋的标准来看，差距大得离谱，就像 Carlsen 与开放式国际大赛中的普通选手之间的差距。问题不在于引擎更懂国际象棋，而在于它有一只稳定的手。Kasparov 说，这就像法拉利对家用车。我们曾以为，在智力领域我们可以和电脑竞争。他认为，这种想法从一开始就是错的。

1997 年甚至不是机器第一次战胜大师。他在 1980 年代末就与不错的引擎交过手，包括深蓝的原型 Deep Thought，1989 年在纽约的两局快棋中，他都轻松取胜。他也输过一些局，还在 1994 年的一场快棋比赛中落败。他在 1996 年与深蓝的比赛中输了一局，但赢下了整场比赛，这一点人们往往忘了。心理上的错误在于，他们以为之所以输掉快棋和快速对局，只是因为时间不够，而更长的比赛就能抹去这些失误。这是胡说。人类得到了更多时间；机器也得到了更多时间，而且机器总是更稳定。今天，没人再谈论人类与机器平等对弈的事情。引擎即使让给顶尖棋手一些让子，依然是更大的热门。

他在 1998 年认清了一件事，那是他舔伤一年之后的事。问题已经变成人与机器一起合作。2003 年，他又与 Deep Fritz 和 Deep Junior 进行了两场比赛；两场都以平局告终，而且那些机器至少与深蓝一样强。今天，手机上的一款国际象棋应用可能比 1997 年的深蓝更强。让 Stockfish、Houdini 或 Komodo 去看那场比赛里被大肆吹捧为精彩的对局，三十秒之内，它们就能指出 Kasparov 和深蓝各自犯了多少错误。在现代引擎面前，这场世纪对决漏洞百出。

Fridman 问，还有什么是够不着的，随着机器的成长，语言和对话是否也会像国际象棋一样被攻陷，采用同样的学习方法。Kasparov 说，关键不在于规模变大，而在于封闭系统与开放式系统的区别。在开放的世界里，机器并不会迷失，但它们的效率不同，因为机器无法察觉自己已经到了收益递减的地步。它可以提出问题。但它永远不会告诉你哪些问题是相关的。人类的领地可能会缩小到最后几位小数。他给了一个比喻：一把威力很大的枪，而你能做的只是把子弹的方向改变 0.1 度。在一英里之外，那就是十米。在可以预见的未来，人类独有的品质不会被复制。危险在于，在机器已经知道如何做得更好的那 95% 的领域里，去干扰机器。在放射科，他有时宁愿要一位经验丰富的护士，而非一位教授，因为她不会试图推翻模型的读片结果。

他把人们所称的 AI 分成两类。其中大部分，包括深蓝和很多现代深度学习，都是 Claude Shannon 所称的 A 类，即蛮力的变体：优化，改进对人类生成数据的处理。AlphaZero 则是迈向机器生成知识的第一步。他说，讽刺之处在于，IBM 在西洋双陆棋上先到达了那里。Gerald Tesauro 在 1990 年代初的 TD-Gammon 就是一个 AlphaZero 类型的程序，通过与自己对弈来发现策略。深蓝的名声让那个项目被搁置了。Kasparov 带着兴奋看过 AlphaZero 的国际象棋：它打破了子力平衡的常规，会弃子，比其他引擎领先一两步，靠的是从大约六千万局自我对弈中提炼出的模式，算得深反倒次要。这感觉几乎像是直觉。

然后是弱点。他去过实验室，与 Demis Hassabis 的团队交谈过。假设 AlphaZero 面对另一台强大的电脑，身边还有一个发现了盲点的人。要纠正它需要多少局？几十万局，即使它一直在输，因为学习是统计性的。人类只需一个提示，就能做出调整。人类仍然更灵活。只有当我们诚实地说清楚自己负责哪一部分，合作才会成立。

Fridman 说，道德与机器，是它们目前肯定还不会处理的问题。Kasparov 把对有偏见模型的恐慌，看作是喂给公众的一个幻影。我们怎样才能避免机器有偏见？他说，做不到，因为这就像照镜子然后抱怨。如果社会有偏见，机器就会跟着有偏见。你可以砸碎镜子，扭曲它，或者改变你自己。你不能指望机器去治愈社会的弊病，它们只会放大这些弊病。比起机器有同样的偏见，人们更能接受其他人去做不公之事。这是我们在自动化系统身上设定的一个有趣的标准。

美国每年约有四万人死于车祸，几乎全部是人为失误造成的，而这些死亡只是统计数字。一起自动驾驶车辆的事故就会登上头版，即便过错在人类。没有任何机器会 100% 完美。这是喂给公众的另一个故事：如果它不完美，它就不安全。无论是下国际象棋、做市场计算，还是驾驶，我们能对计算机提出的唯一要求，就是犯更少的错。这种双重标准是有代价的。如果把每一起自动驾驶车辆的事故都视为不可容忍，你就会得到更少的测试里程，并且，他暗示，会有更多我们如今已经习以为常的死亡。Fridman 问，Kasparov 是否对待深蓝的方式与对待人类对手不同。Kasparov 说，当时那是一场比赛，他很愤怒，因为他认为比赛组织得不公平。他的不满指向了 IBM 背后的人类。他当时知道自己客观上更强，这加剧了愤怒。他知道自己能战胜这台机器。但他准备得不充分。他低估了宣传效应。他犯了太多错误。

同样出生于苏联的 Fridman 问，Kasparov 从苏联的兴起与衰落中得出了什么教训。Kasparov 说，教训很明确。不民主的体制，即控制公民生活每一方面、不给个人主动性留空间、实行中央计划的极权政权，无法成为创新的驱动力。它们可以扭曲进步的概念，甚至自称是进步的。它们给人类造成的损害，仍有待衡量。归根结底，它们会失败。冷战的结束，是自由意志的胜利，但这并不等于说自由世界就是完美的。

他最喜爱的书之一是《指环王》。他从书中读出一个政治观点：没有绝对的善，但有绝对的恶。善有多种形式，而你总能在太阳上找到一处斑点。人类历史是对完美的永无止境的追求，而我们一看到另一极，就会认出它。没有人会争论希特勒是绝对的恶。他认为耐人寻味的是，斯大林并没有受到同样标准的审视。他说，共产主义在二十世纪造成的损害，比任何其他意识形态都大。共产主义没有纽伦堡审判，所以斯大林的继任者们仍然觉得自在。

他刚在多伦多发表了一场关于《苏德互不侵犯条约》的演讲，他认为这件事应该进入学校课程。按照这种说法，第二次世界大战是由两位独裁者在 1939 年 8 月签署一份罪恶的勾结协议而开始的。斯大林后来不得不与盟国站在一起，因为希特勒进攻了他，但这一事实并不抹去他曾帮助希特勒发动战争，也不抹去他是早期受益者，吞并了东欧的部分地区，战后又几乎控制了整个地区。对许多东欧国家来说，战争的结束是共产主义占领的开始。

Kasparov 一直是 Vladimir Putin 的公开反对者。Fridman 引用了 2007 年退休的克格勃将军 Oleg Kalugin 的话：了解细节并且开口说话的人都已经死了；Kasparov 一直公开发声，他可能是名单上的下一个。当工作可能让你丢掉性命时，恐惧是如何进入脑海的？Kasparov 说，这就是他住在纽约的原因。这并非他的首选。他知道自己迟早得离开俄罗斯，而在各种选择中，纽约是最安全的。它真的安全吗？他知道普京的许多敌人遭遇了什么。他能做什么？他可以尽力改变他能够影响的事情。他无法停止他长期以来一直在做的事。这是正确的事。他在持不同政见者的智慧中长大：做你必须做的事，然后接受后果。

他很谨慎。他拒绝了一些邀请，那些国家已经不再是他负担得起去旅行的目的地。他的母亲仍然住在莫斯科；他每年见她几次。他离开时她非常伤心。他的父亲在 1971 年去世，那时她三十三岁，她把一生都献给了她唯一的儿子。一年左右之后，她意识到离开是他能继续过正常生活的唯一机会，能相对安全，并且去做她教给他的事：有所作为。他会回去吗？他说，会比很多人想的更快。普京的政权正面临难以克服的困难。他读过足够多的历史，知道独裁者是如何结束的。独裁者在星期天感到舒服，以为自己很受欢迎。到了星期一早上，就崩塌了。坏消息是，Kasparov 不知道普京何时、以何种方式下台。好消息是，普京自己也不知道。

俄罗斯是否干预了 2016 年的美国大选，又是否会在 2020 年干预？Kasparov 开玩笑说，在一场有智慧的对话之后，这个问题侮辱了他的智力。当然干预了。他们竭尽所能让 Donald Trump 当选。他已经说过很多次。他这一生见过足够多的克格勃上校，所以可以告诉你，普京看 Trump 的方式，就是克格勃军官看他们的线人的方式。他不需要听到这些话，也不需要读国会的调查报告。到了 2020 年，他们当然会设法帮助 Trump 撑下去。他说，Trump 的这种关系可能对美国和自由世界造成的损害，超出了想象。如果 Trump 再次当选，他会朝威权方向走得更远；而连任这一道坎目前仍在约束他。Kasparov 更深的担忧不是 Trump 这个人。Trump 是一种症状。他在美国政治的地平线上，看不到有哪位政治人物会因为他对自由世界造成的损害而去挑战他。在他看来，民主党的竞选活动聚焦在重要但次要的议题上。当美国政治生活的框架处于危险之中时，你不能只谈医疗。俄罗斯干预英国脱欧和欧洲各地选举的证据已经存在。认为在 Trump 在位的情况下，莫斯科会在 2020 年有所收敛，这种想法并不严肃。

最后一个问题：如果他能重新经历某一个时刻，他会选哪一个？他不会选。有一些时刻他会想，如果当时做得不同会怎样。他犯过很多错误。他也相信蝴蝶效应。如果他在 1989 年或 1993 年没有做那件蠢事，他还会拥有现在的所有其他成就吗？他不知道。他引用了《阿甘正传》：生活就像一盒巧克力，你只能一块一块地尝。他对自己是谁、身在何处感到满意。他骄傲的不只是棋，还有转型——在他离开赛场之后建立起的声誉，对国际象棋有一些影响，但并非直接来自国际象棋本身。他 2005 年结婚，那是他的第三次婚姻；他与前两段婚姻中的两个孩子关系亲近，在纽约又有了两个孩子。有时他希望能限制那些仍然占用时间和精力的责任。生活很精彩。只要他能感到自己还有精力、力量和热情去有所作为，他就是快乐的。