AlphaStar 击败 TLO 那晚，团队去了酒吧

Lex Fridman 用一个简单的起源问题开场：对 Oriol Vinyals 来说，是先爱上编程，还是先爱上游戏？两者都不完全是。十岁、十一岁的时候，他对电脑感兴趣，喜欢摆弄它、弄坏它，再把它装回去。他并没有写多少代码。真正吸引他的是游戏，尤其是 1998 年发售的初代《星际争霸》。当时欧洲还谈不上什么电子竞技产业。他所谓的“准职业”，就是在朋友圈里练得很强，之后几年又能稳定地进入欧洲前 32。

他也喜欢随机选种族打，有时甚至在比赛里这么做。原因很实际。《星际争霸》有三个种族，而打败一个对手，不只是把自己这一边打好。如果你在某个种族里待过，你就知道它什么地方让人烦，知道自己站在对面时该戳哪里。他最喜欢、也打得最好的是虫族。Fridman 请他向没玩过即时战略游戏的人解释这款游戏。Vinyals 先拿国际象棋打比方，然后再把它拆开。你一开始几乎没有棋子。你要采集矿物和瓦斯，决定经济和军队各投入多少，然后在一张你无法完全看见的地图上进攻。与国际象棋不同，这个游戏是部分可观测的，而且是连续的。侦察既能增加你的信息，也可能把信息暴露出去。速度和点击精度都很重要，他说，职业选手现场看起来令人惊叹。

那些游戏周围的社交世界，对他的塑造和游戏机制一样多。西班牙的网络条件变得可用之后，Battle.net 不只是一个天梯，它还是一个聊天世界，一种能让你认识街上永远遇不到的人的方式。他后来玩《魔兽世界》，觉得压力没那么大，因为任务总能完成。那段时期的 Facebook 好友里，至今还有他在虚拟城市里扮演牧师时认识的一名战士。那几年，有人告诉他，三样东西里只能选两样：女朋友、电子游戏，或者学习。他觉得这话大体成立。认真地玩《星际争霸》，非常耗时间。他上大学的时候，就完全停了下来。

AlphaStar 的故事比 2019 年的那些比赛开始得更早。2014 年，谷歌收购 DeepMind 之后，Brain 和 DeepMind 两个团队在加州举办了一次联合峰会。当时在谷歌 Brain 的 Vinyals 展示了 Berkeley Overmind，那是他在伯克利做的一个《星际争霸》I 机器人。他对它的评价是：就是一堆规则。如果你的单位超过三个，就进攻；如果对面单位更多，就撤退。峰会之后，Demis Hassabis 走过来，大意是：现在也许还不是时候，可能有点太早，但 Vinyals 应该来 DeepMind，用深度强化学习做同样的事。当时听起来像科幻。

2016 年，他从 Brain 调到伦敦，加入了 DeepMind。AlphaGo 刚刚击败了李世石。暴雪联系他们，问是否想接下下一个挑战。各种条件恰好凑到了一起。在写环境之前，Vinyals 飞到暴雪位于尔湾的总部，去解释这个项目会怎么运作。从第一天起，它的基因就定下来了：行为必须是学出来的。Overmind 那种 if-else 式的做法，正是他们拒绝的路径。Fridman 追问两者的距离。说实话，围棋和雅达利离《星际争霸》都很远。Vinyals 当时相信 2018 或 2019 年的结果会在可及范围之内吗？

他的回答，正是后面整段对话的主线。完整的东西——一个单一的神经网络，不加领域规则，完成一整局一对一的比赛——“我根本没想过这有可能。”但他看得见一些垫脚石。《星际争霸》可以切成子问题：开局、运营、交战、微操，每一个都可以单独攻克。暴雪向社区开放了大量人类对局录像，不是所有人打过的每一局，但足够多，多到你可以查询某一天新增的数据。对一个之前的工作主要是语言、序列和监督学习的人来说，这个数据集是一种珍贵而不寻常的资源。第三块石头是团队。Hassabis 在 2014 年就已经看到了这个方向。Vinyals 说，他是顺着这条线索走的。

Fridman 列举了一串《星际争霸》的常见难题：信息不完全、长期规划、实时、巨大的动作空间，以及没有已知的纳什均衡。Vinyals 没有挑部分可观测性，他挑的是探索。定义好观测和动作之后，就很明显：你没法像搜索国际象棋或围棋那样搜索《星际争霸》。朴素形式的深度强化学习会发出随机动作，然后指望胜利足够频繁地出现，好从中学习。在早期阶段，你点的几乎任何东西都是坏的。矿工本来就在免费采矿，任何操作都会把他们从矿线上拽走，让他们四处乱逛。

扩张，是游戏里最基础的运营技能，但它更难。你得选中一个工人，把他走到某个位置，放下建筑，等它完工，再把多余的工人送去采矿。位置很重要。随机点击几乎不可能凑出这样一串操作，就算凑出来了，把这串操作和之后的胜利连起来，又是另一个奇迹。这款游戏大约每秒推进 22 次。在这么多时间步里，任何地方都可能出错。Vinyals 说，部分可观测和不存在唯一完美策略，都很有意思，而他们现在碰到的此类问题也更多了。第一道障碍，也就是挡住每一次早期突破的那道墙，是探索。

他们弄清楚了纯强化学习实际会发现什么。把所有工人都拿去进攻。事后看很明显。自我对弈从两个几乎一无所知的网络开始。一次随机动作就会让一个工人朝敌方基地跑去。对手也不知道怎么防守。在长局游戏里，信用分配难到这种程度：能带来胜利的第一个策略，往往是工人速攻。从人类对局录像里模仿，是他们绕过这堵墙的办法。先把策略调到接近人类的水平，然后再用自我对弈把它往上推。没有这一步引导，智能体永远到不了游戏里真正有意思的部分。

AlphaStar 里的一切，都要经过一个策略，而这个策略就是一个神经网络。Vinyals 很喜欢这一事实的简单明了：他可以把权重交给你，只要你输入相同的观测，并以相同的方式解码动作，你就得到了这个智能体。除此之外，什么都不需要。观察游戏的方式经过了一番试验。他们最终采用的版本混合了一张缩小的空间地图、当前镜头或屏幕的视图，以及一份可见单位的列表，每个单位被当作一个对象来处理。每个单位带有属性：生命值、位置、类型，以及属于自己还是敌人。这份列表并非严格必需，他们也有不用它也能玩得不错的版本，但它是一种很自然的编码，而且帮助很大。

Fridman 指出，和一个盯着像素看的人类相比，单位列表精确得让人不舒服。Vinyals 同意这种精确确实是一种差别，并提到 Facebook 的一篇计算机视觉论文：它把图像打散成一串像素，保留 XY 坐标，然后在这个集合上跑 Transformer。同样的架构刚刚在机器翻译上取得了强劲的结果。他们并没有想照搬那篇论文，但 AlphaStar 做的事情与之类似：一个单位就是一个带有位置的“像素”。一旦接受这一点，《星际争霸》的观测就是一个序列问题，它的形状和一句话一样。

时间让这个类比更紧密。因为游戏是部分可观测的，智能体必须记住它看见过什么，比如一个工人走开了，可能是去了地图角落的一个新基地。真正的任务是：给定到目前为止的所有观测，以及到目前为止采取过的所有动作，预测下一个动作。这就是机器翻译，也是语言建模。所用的架构，正是 Vinyals 在文字上用过的那些：LSTM 和 Transformer，只不过现在处理的是单位和点击的历史，原来处理的是词元的历史。AlphaStar 的第一步是模仿，就像翻译模型模仿人类译者那样。这里的对象比词复杂，但他说，代码几乎是一样的。

从录像中引导，并不能练出人类。团队训练时用的是约 3500 MMR 及以上的对局，这个门槛定得足够低，以保证数据集够大。MMR 是《星际争霸》的匹配评分；世界上最好的选手大约在 7000 附近，3000 大约相当于黄金段位。关键的做法是，他们告诉网络它正在模仿哪个水平。这局录像是 4000，那局是 6000。训练之后，你可以让同一个策略像 3000 分的选手那样打，也可以像 6000 分的选手那样打，而且它真的会变。在低档设定下，运营变差，每分钟操作数下降。技术水平，或者说它的一种统计意义上的简化版，是一个可以拨动的参数。

他们测试了高 MMR 的模仿效果。它能打赢暴雪随游戏附带的每一个内置 AI，但离真正的 6000 分选手还差得远。Vinyals 把它的水平放在黄金左右，或许是铂金。这个差距是概念上的，而不只是数据不足。到目前为止，网络只被问过：面对这个画面和这段历史，下一步动作会是什么。它还没有被要求去赢。经历胜负，才能打磨一个否则会偏离策略、逐渐漂移的策略。在“下一步点哪里”和“怎样才能赢”之间，隔着奖励，以及长局游戏中的信用分配。

人类之间的比较，在小范围内是很个人的。Vinyals 并没有认真玩过《星际争霸 II》，没有段位。DeepMind 里水平最高的人大约是 5000 MMR，属于高大师，还不是宗师——宗师是一个地区的前 200 名。Vinyals 在第一代游戏里还不错，在欧洲长期排名前 32，但他把与 AlphaStar 的对练推迟了一周，团队一直在旁边激他。等他终于坐下来，他被打得很惨。《星际争霸》时代的微操还管用，续作的系统则不再适用。模仿能够复制一种风格，却不会自动复制能力。

最难模拟的界面差异，是隐形单位。在《星际争霸》里，有些单位是不可见的，除非你有探测器；没有探测器，它们就可以摧毁建筑、杀死工人，而你无法选中它们。人类仍然能看到一层闪烁，屏幕上一点微弱的时空扭曲。职业选手一旦养成了这个习惯，就能立刻察觉，但这需要注意力。对 AlphaStar 来说，模拟一个人是否正在看那个像素，是件尴尬的事。实际的替代方案是一个从零翻到一的标志：那里有一个隐形单位。没有探测器，智能体仍然打不到它。但它掌握的信息，比任何人的一瞥都要精确。

动作的问题争议更大。《星际争霸》作为 AI 环境已经有很多年，Vinyals 在 2010 年就参加过第一届机器人比赛，而每分钟操作数始终没有一条清楚的规则。脚本机器人每分钟能发出 2 万到 4 万次操作。职业人类通常在 300 到 800 次左右，其中一部分是刷屏，用来热手，好让关键的点击能准确落下。模仿白给了 AlphaStar 一个接近人类的速率，包括那些毫无意义的重复点击。博客文章里的 APM 曲线看起来与人类的分布相似。自我对弈并不保证它能一直停留在那里。精度可以提高，速率也可以往上爬。

他们给 APM 设上限的第一次尝试，是观察职业选手在短窗口内的操作数，并把超过某个阈值的动作去掉。Vinyals 承认，这个阈值可能定得太高了。职业选手和玩家大多觉得打法像人，但有些智能体把略高一点的速度和过高的精度结合在了一起，于是社区里出现了一场值得展开的争论：团队到底应不应该对智能体做任何限制，还是放开来看它能发明出什么？对闪烁进行建模很难，对手指的准确度、疲劳程度进行建模则更难。每增加一条约束，智能体就更像人，也就更不像一个纯粹的学习者。他们才刚走在这条路线的第一步，远没到最后。

公开演示只用了神族对神族。神族是科技种族：单位昂贵而强大，所以你得尽量保住它们，靠技能和战术取胜。Vinyals 交谈过的选手，包括 TLO 和 MaNa，告诉他，很多人认为神族是三个种族里最容易的。但容易并不代表它能统治。天梯顶端始终是混合的，因为暴雪希望如此。虫族站在另一端。你扩张、尽可能多地占基地，把死去的军队看作可以再生的成本。虫族的打法是施压、交换，以及一大笔资源储备，可以把刚死掉的东西重新补上。每个种族都还有打破刻板印象的单位。多样性正是重点。

Vinyals 说，开局可以分成几个家族。标准开局在早期兵力、防御和快速扩张之间取得平衡，然后选择一条科技路线：空中、隐形单位、大型单位，有的能克制一些兵种组合，又会输给另一些。这个选择就是石头剪刀布。如果你侦察得好，又能猜中对手的分布，你就打出克制它的那一手。一场典型的对局，就是这个循环不停地运转。你要在对手从石头换成剪刀之前，先把布摆上桌。迷雾中的信念状态，是一个好的人类选手会持续维护的东西。侦察，就是为了买到一个更准确的信念，代价是暴露一部分自己的信息。在 AlphaStar 里，这种信念仍然是隐含的。预测地图另一边有什么，并没有额外的损失项。Vinyals 认为，把它显式化会有帮助。

然后是奶酪战术：一种孤注一掷的偷袭。把建筑藏在敌方基地旁边，把科技藏起来，在对手还没有探测到之前，用隐形单位出手。如果人类侦察到一个空基地，就知道有鬼——也许是在放虫潮，也许是用工人堵坡道。防守奶酪战术是一项独立的技能，在 AlphaStar 联盟里，许多智能体都发展出了奶酪式的打法。在展示给 TLO 和 MaNa 的十个智能体中，有两个就是这样打的。它温和一点的表亲，是定时全押：在比如四分半钟，配好完美的兵种组合，并刚刚完成一项升级。如果这次推进成功，贪心的对手就死了。如果失败了，选手常常直接打出 GG，尽管他们还保有基地，因为他们赌了，而且输了。这些生态位，正是需要一个联盟的原因。纯粹的自我对弈，不会自发地长出每一种令人讨厌的对手。

如果一个智能体只跟自己打，它就会收敛到一小部分策略上，然后卡住。AlphaStar 联盟正是解决办法。它是一个带有性格的群体，不只是纯粹的自我对弈。有些智能体成为奶酪战术的专家；有些成了贪心的“经济流”，早期很弱，后期令人胆寒；有些偏向早期侵略，有些偏向后期强势。一个新智能体会对整个联盟的快照进行训练，去寻找针对这一分布的最佳克制。然后它被放回群体里，其他所有人也都必须继续进化。Vinyals 把它比作 Battle.net。你遇到一种从没见过的打法，被压着打，然后马上就想去试、再排一局。联盟就是这种压力的人工版本。

你必须把这些性格保留在群体里。如果它们消失了，你就不再能覆盖野外存在的那些东西：奶酪、早期速攻、贪心运营、跳进矿线的骚扰。纯自我对弈能发现其中一部分地形，但不是全部。Vinyals 认为，给智能体建一个 Battle.net，是这个问题的另一个关键部分，它与模仿学习处在同一层级。TLO 和 MaNa 那两局里的两个奶酪智能体，并不是团队写好的脚本，它们是联盟逼出来的一个生态位，团队并没有把它们写成脚本。

Fridman 注意到 5 比 0 的比分，问总体上赢下一局有多难。Vinyals 不接受这个标题式的说法。表面上，你看 AlphaStar 打比赛，注意到一场以镜头和界面为主的游戏，结果反过来了，然后你觉得这游戏已经结束了。这不是团队能做出的主张。《星际争霸》机器人已经是一个做了很多年的项目，但这样的时刻之前从未发生过。这些智能体达到了宗师水平，对游戏的理解足够深，因此非常强。它们并非不可战胜，也并不完美。在一个充满阴险战术的领域里，一次大胆的冒险仍然可能偷走胜利。学会神族的人，去学人族也快得多，而 AlphaStar 做不到。权重迁移不过去，算法却可以。

他补充说，选手们并不知道会是什么结果。他们对这个“外星大脑”的先验判断是错的，这让比赛很刺激，也意味着一旦人类研究回放，结果可能会改变。仔细看，漏洞是看得见的。有时 AlphaStar 没有侦察。隐形单位在错误的时机出现，本来会很糟糕。还有很多工作要做。真正让团队震惊的是更简单的东西：一个单一的神经网络跑在一块 GPU 上，实时对抗一些本人就非常出色的人类。Fridman 开玩笑说，波兰有人已经在训练，要确保这种事再也不会发生。Vinyals 很喜欢这个说法。可以被利用的漏洞，正是让游戏和研究都保持活力的东西。

Fridman 问他感觉如何。Vinyals 说不可思议，同时已经有点伤感，就像还没过去的一个夜晚，你已经开始怀念它。他是个悲观主义者。TLO 那场比赛前，他给团队发邮件，请大家预测比分。他自己选的是 0 比 5。他们是按一个 5000 MMR 的选手来校准的；TLO 比这强得多，即使是用神族，而神族不是他的主力种族。Vinyals 原本把这一系列比赛当作一次试运行。结果是他们以 5 比 0 赢了。那天晚上，他们去酒吧庆祝，David Silver 说，何不邀请一个 MMR 高出一千、真正打神族的人？Vinyals 说，1000 MMR 的差距，大约意味着在神族对神族中，MaNa 有 99% 的概率击败 TLO。他们喝了几杯。他说好。他当时还以为，击败 MaNa 是不可能的。

对他来说，与 MaNa 的比赛更重要。TLO 之后，职业门槛已经跨过了。MaNa 站在顶端，这一点看得清楚，而智能体也变得更强。第一局之后，Vinyals 对自己说，只要赢下一局，就足以说明他们从真正的神族专家那里拿下了一局。他记得自己拥抱了 Hassabis。他称这一刻对他作为研究者和个人来说都会产生共鸣，这大概是他迄今为止职业生涯的高光时刻，与引用量无关，关键在于“通过游戏做机器学习”这整个赌注，在一个房间里汇聚成了真实的样子。看 MaNa 打，就像看卡斯帕罗夫那一战：那些非主力种族的借口都没有了，一个人类，就这样被超越了。Vinyals 仍然想要的，是网络还做不到的那一件事。他想要一个能为对手建模、布下陷阱、制造错误信念的智能体。他说，扑克和心智理论，天生就适合《星际争霸》。

AlphaStar 的这些技巧接下来会用到哪里？Vinyals 感受到一个大挑战与它催生出的研究之间那种常见的张力。夺旗和 Dota 2 的智能体已经表明，其他难游戏也在推进。他认为，最容易摘的果子，是把技术反哺给它们诞生的社区：序列建模、Transformer、指针网络，以及 LSTM 和 Transformer 的组合。Fridman 接着转向老派话题，问到 Alan Turing。图灵测试是不是值得接受的重大挑战？Vinyals 会不会重新表述它？

他喜欢这个测试，因为他喜欢序列和语言。Brain 早期的神经机器翻译工作，甚至是冲着一个聊天机器人去的，那种系统永远通不过测试。一个在对话中与人无法区分的 AI，至今仍然让他着迷。难点在于可行性。他引用了 Hamming 关于物理学重大挑战的一篇文章。传送和时间旅行固然宏伟，但它们没有攻坚路径，这就是为什么没人会围绕它们写博士论文。Vinyals 也这样看待完整的图灵测试。语言模型，尤其是当时最新的 GPT-2，令人印象深刻。但要让人相信，在酒吧里聊了一个小时，对面坐着的是一个人，仍然相距甚远。他不会为解决这个测试去写博士论文，也不会推荐别人去做。它太早了，或者说太难了，具体来说就是，他看不出实施方案。

Fridman 忍不住做了类比。Vinyals 几年前也对《星际争霸》说过同样的话，然后他就在打败职业选手的团队里。进展难以预料；六个月前，他也不会预测宗师级智能体会出现。Vinyals 在这个区分上寸步不让。对《星际争霸》，他知道步骤：模仿，然后给智能体建一个 Battle.net。只需要再多一点东西，但不需要多很多。对于图灵测试，他不知道执行计划是什么样的。他并不认为突破不可能，他担心的是“统计方法在这上面行不通”。相关的子挑战感觉很及时，比如一个完全基于神经网络、更好的谷歌助手。完整的测试则不是。他判断一个问题，看的是有没有路线图，听起来重不重要并不算数。

如果要用一个词来概括深度学习目前的极限，Vinyals 选的是泛化。这个领域本质上是在用函数拟合数据。分布一旦变化，哪怕只是稍微偏离，或者加一点噪声，模型就会崩溃。对抗样本是最干净的例子：人看不见的扰动，产生的输出是人永远不会给出的。他提醒 Fridman，支持向量机曾经风光过一阵，是因为它们对未见过的数据有保证。如今的网络则是一堆矩阵乘法叠在一起。从数值上看，角落情况确实存在，而且你能找到它们。在泛化这个词的强意义上，他认为进展并不大。

答案只是更大的训练分布，一直长到包含测试集为止，还是某种非统计的方法论？真正奏效的路径——在《星际争霸》里、在翻译里、在语言里——是扩大数据、扩大模型。他说，这大概是深度学习仍然能交付的唯一公式。那些人们曾经发誓不可能泛化的任务，一旦规模到位，就开始能泛化了。他不认为规模能解决底层的问题。他更兴奋的是把神经网络与程序和离散决策结合起来。你可以训练一个网络来排序数字，有了足够多的例子，它看起来就像一个排序算法。给它一个过大的数，它就会崩溃。改为编写一个排序程序，你就能证明它对每一种输入都成立。这就是统计信心与保证之间的差别。

这是不是意味着把 1980 年代的专家系统拿出来擦一擦？如果问题足够重要——比如检测癌症、预报天气——那么，是的，就用规则，用领域知识，再让一点机器学习把系统变得更好。他们甚至考虑过在《星际争霸》里把状态机和网络混合起来。如果目标是测试强化学习的极限，你就不应该去看模仿数据，也不应该用手写的领域规则。两种态度都可以，只要你诚实地说明自己在玩哪一款游戏。他自己工作的主线是序列到序列：任何东西进去，任何东西出来，包括从图像到字幕。他有一次改了翻译模型里的一行代码，第二天早上来看，它写出的字幕似乎能用。把输入向量化，选一个当下流行的架构，只要有足够多的监督数据，这个公式就一直有效，直到遇到那些泛化问题为止。《星际争霸》里，他们也没有让它观察每一帧。网络先行动，再选择等待多久。大多数对局大约会压缩成一千到 1500 个动作，这个长度是 LSTM 和 Transformer 能够容纳的，尤其是在模仿之下。直接在每秒 22 帧的原始流上做强化学习，则是一个完全不同、难得多的信用分配问题。

Fridman 问，新想法究竟是怎么到来的，并提到 Ian Goodfellow 的故事：GAN（生成对抗网络）是在几杯啤酒之后冒出来的。Vinyals 笑了。他们的故事很相似。决定再次与职业选手对战《星际争霸》，就是在一家酒吧里做出的，那是第一场比赛之后一周的事，后来他在 DeepMind 的一次务虚会上讲这件事，也是同类型的故事。他背后的方法已经随着职业生涯变化了。在 Brain 的早期，他身边是 Geoff Hinton、Jeff Dean 和 Ilya Sutskever，工作就是讨论、论文，然后再讨论。他仍然认为，永远不要停止阅读。现在他做得更多的是战略上的判断：这个领域准备好了吗，是不是太早，或者太晚？

对他来说最有效的公式很简单。找一个难题。看看现有的研究如何适配它。它不适配的地方，就是你必须去发明的地方。机器翻译催生了序列到序列。组合算法催生了指针网络。《星际争霸》催生了大规模模仿学习和 AlphaStar 联盟。反方向也行得通：选一个研究主题，比如基于模型的强化学习，然后找一个最小环境来检验它。读研究生时，他对战略这一层毫无概念。他建议，从成功会是什么样子出发，然后反推，别去抓任何看起来很酷的东西。你需要一个同时拥有傻乐观和硬怀疑的团队。你需要愿意尝试你认为很糟糕的想法的同事。他被证明错过很多次。“你的同事比你自己更重要。”

他说，通用人工智能（AGI）常常被定义得很糟糕，所以他给自己一个可操作的版本。AlphaStar 背后的学习算法本身已经有泛化性：你可以把它指向另一款即时战略游戏，或者许多其他领域。但权重不行。在神族对神族上训练的网络，对人族对人族毫无用处；你得扔掉它，重新训练。一个看起来像通用人工智能的结果，是这样一种方法：它观察新问题，并且在不重新启动那个过程的情况下解决它们——也就是元学习（meta-learning），即学习能力达到某种接近人类的速度。给一个人看一个新物体，他就能认出来。给他一款新的雅达利游戏，他玩几局就能像样。Léon Bottou 在 ICML 上的一场演讲（Vinyals 很喜欢）认为，训练集和测试集的划分本身就应该被打破。一个懂 ImageNet 的网络，不应该在 MNIST 上失败。它现在确实会失败，这让人觉得不对劲。他也是维基百科的粉丝，并对神经网络把结构化知识丢在一旁略有不满。从百科全书里自动抽取的知识图谱，可以很自然地与程序和离散推理放在一起。他们甚至试过把《星际争霸》的建筑树喂给智能体，结果不太相关。他仍然喜欢这个方向。

在生存风险上，他把时间线分开来看。近期，他并不担心，也希望自己没有判断错。他欣赏 AI 安全正在成为会议上真正的一个领域。长远来看，他希望好处大于危险，并希望有足够的提前时间，如果权衡变坏，可以及时调整方向。就目前而言，他更担心的是其他的全球性威胁，而且他已经开始读更多安全方面的文献，不过他从未为这类文献做过贡献。也许那里有一些可以做的事。他也不希望研究界盯着通用人工智能看，却丢掉了眼前那些已经在帮助人们的东西，比如那些请不起助理、甚至可能不知道天气怎样的人。接下来对 AlphaStar 来说，最明显的验证，是其他种族，好确保他们没有不小心做出一个只适用于神族的架构。之后他想要的是扑克那一层：更深地读懂对手，以及欺骗对手的能力。游戏推动技术，技术又发现新的游戏。他说，这种张力，正是他的工作。