判断机器人是否成熟，要看环境为它改变了多少，别只看演示

Lex Fridman 开场就问 Rodney Brooks，他合作过的机器人里哪一个最漂亮。答案是多莫（Domo）。它由研究生 Aaron Edsinger 和机械工程师 Jeff Weber 做出来，现在放在麻省理工学院人工智能实验室的 Daniela Rus 办公室里。它是一个上半身人形机器人：两条手臂，三指手掌，串弹性驱动器，线缆传动，电机藏在身体里。Edsinger 没有提交预算，也没有做计划，他先是开始花钱，花了很多，还把零件阳极氧化成不同颜色，直到这台机器看起来更接近一件艺术品。

这张脸只有两只眼球，但眼球会动，里面装着摄像头，还有一套视觉注意力系统，会转向走进来的人。Brooks 常对学生重复一条规则：做机器人的时候，外观是对它将如何互动的一种承诺，所以不要过度承诺。他料定 Fridman 会懂的一句玩笑是：如果你的机器人长得像 Albert Einstein，它就该和 Albert Einstein 一样聪明。Domo 能看，能注意，所以脸只能做这些事。长得和真人一模一样的日本仿真人机器人，恰好与这条原则背道而驰。

人和狗用眼睛，并不只是为了引起注意。狗会先看你一眼，再看一个东西，然后再看回你，这样就确定了一个共同的目标。意图在工厂车间里也是这样传递的。Rethink Robotics 的协作机械臂 Baxter 和 Sawyer 带着一块屏幕，上面画的图形眼睛并不是摄像头。眼睛朝着机械臂将要移动的方向看，附近的人就不会被吓到。谈话后面，Brooks 又回到这些眼睛上：有些客户很讨厌，就换成一个开关，让它显示图表；另一些客户则怀念那个更有人味的版本。让他失望的是，许多最优秀的机器人专家仍然把机器当成机器，拒绝这种人与机器之间的联结。

Brooks 生于 1954 年底，出生在南澳大利亚州的阿德莱德。1961 年版的两本“How and Why Wonder Books”系列图书，一本讲电，一本讲巨型大脑和机器人，在他八九岁的时候教会了他简单的电路和二进制。书里的图片并不是真正的机器人：有用来处理核材料的机械臂，也有长得像人的水下焊接机器人。他整个童年都想造出这些东西，但很早就发现自己的机械能力有限，于是改为造大脑。他的第一个学习系统是化学的：一个冰块托盘，每个格子是一个细胞，用钉子当电极。通电后，电压让一座铜桥长了出来，网络随着时间推移学会了做加法。预算决定了一切：只有钉子和一个托盘。

后来才有了晶体管，再之后是逻辑门和触发器。十二岁那年，他用旧电话交换机上的开关做了一台井字棋机器，而且它从来不输：九个三位开关，每个可以是空的、X 或 O，用一个灯泡提示下一步怎么走，没有任何有源元件。小时候，他就喜欢那种能赢过大人的机器，而且赢的是大人自己也赢不了的游戏。Fridman 从中听出了一股叛逆的劲头。Brooks 至今仍把那个十二岁时做的电路列为自己最自豪的作品之一。旁边的人说，那里面有魔法。他也承认确实有魔法。但他同时坚持，每一步都是硬生生争取来的，看到魔法，并不代表曲线会一直这样走下去。

Fridman 引用了图灵 1950 年那篇论文的开头：机器能思考吗？然后问那个冰块托盘有朝一日会不会思考。Brooks 的回答几乎是脱口而出。当然能，因为你是机器，我也是机器，我们都在思考。在他看来，任何别的哲学立场都有点荒唐。如果“思考”不是我们所做的事情，那它到底指什么，他也说不清楚。至于我们有没有能力造出这样的机器，以及我们是不是足够聪明，那是另一个问题。也许我们并不够聪明。

Brooks 写的一本约 480 页的书写到一半了，暂定书名为《Not Even Wrong》。第一条主线，是我们所说的“计算”的历史：从 Napier 与 Kepler 分别在 1614 年和 1620 年的拉丁文手稿讲起，经过 Babbage 和 Lovelace，一直到图灵 1936 年的论文。那篇论文本来的目的并不是发明计算。它的目标，是以否定的方式回答希尔伯特后期提出的一个问题，因为证伪比证明容易，而另外两个问题哥德尔已经解决了。图灵在剑桥的导师，已经把这个问题改写成：是否存在一个机械化的过程。那时被称为“计算员”的人，拿着纸和规则写下数字，为工程用表一步步算出更多有效位。图灵需要的是一台能做这件事的机器：纸带无限长，有一条带子，指令是一个人用铅笔和纸就能执行的。他证明了这个系统做不到希尔伯特想要的事，并且在论文里承认，他并没有真正的论证来证明它穷尽了一切可计算的东西，他只有直觉。

从 1936 年一直到 1970 年代，人们仍在争论这到底算不算计算。Marvin Minsky 在《有限与无限的机器》里轻描淡写地说，用木头还是塑料做，无关紧要。Donald Knuth 在 1968 年前后说，计算就是图灵描述的那种东西，也就是一个人不费太大力气就能完成的步骤。至于知道费马大定理是否成立，那就太费事了。到了 1975 年，标准教科书写道，直觉认为这大致正确，而且它恰好很容易在硅片上实现。随后，摩尔定律（Moore's Law）开始飞速发展。计算和质量、电荷不一样，它不是宇宙赋予的。它是我们选定的一个名字，以记忆有限的人类为原型，结果它有了一个十分出色的实现方式。

第二条主线是一个二乘二的矩阵：科学与工程，智能与生命。它们交叉出了人工智能、人工生命、神经科学和生命起源研究。这四个领域都是在 1945 年到 1965 年之间成型的，参与的人有很多重叠，其中不少人围绕在麻省理工学院电子学研究实验室的 Warren McCulloch 身边。McCulloch 和 Pitts 1943 年的论文受到 Bertrand Russell 的启发，在没有真正证据的情况下，把神经元建模成逻辑门。von Neumann 1945 年的 EDVAC 设计引用了三篇文献，其中一篇就是那篇论文。Minsky 1953 年的博士论文做的就是神经网络。Brooks 给书中两章起的标题分别是“等等，计算机是人吗？”和“等等，人是计算机吗？”当时这四个领域中有三个都以计算作为主要比喻。每当马斯克的火箭升空，Brooks 就会问：它是不是在靠计算一路算进轨道？这个词被逼着去做它本不该做的工作。

Brooks 认为，图灵式的计算符合猎人采集者的思维方式：地点、容器，以及那些除非有人去改变否则会一直保持原样的东西。这依赖海马体中的位置细胞加上大脑皮层。超出这个比喻的范围，我们就发明了微积分之类的工具。我们仍然要求物理比喻，所以量子力学中粒子还是波的争论已经持续了一百年。Brooks 打赌，再过一两百年，量子力学和暗物质都不会再用今天的说法来讨论，就像燃素说被淘汰一样：燃烧其实是物质与外部的氧气结合，并不是内部有什么东西跑了出来。一面鼓不用计算，就知道自己的静止点在哪里。Ada Lovelace 写的第一个程序，是用来计算伯努利数的，而伯努利数恰好正是算出那些点所需要的东西。但这个程序有一个 bug：除法的两个参数被颠倒了。它从来没有运行过，因为分析机始终没有被造出来。

我们所知道的每一种智能，无论是狗、章鱼，还是人，都是感知世界并在其中行动，而且对物体的感知远比一张快照丰富得多。Brooks 和 Fridman 之间那个盒子看起来是蓝色的，但蓝色来自颜色恒常性，并不是光子本身的性质。这就是为什么停车标志上贴几片胶带，就能骗过深度学习系统：红色同样不在光子里。狗闻一根路灯杆，就能推断出过去十个小时里有多少只狗来过，以及它们是什么时候来的。我们拿到一张图像，就把它叫作感知。哲学家 Brian Cantwell Smith 提出的“注册”（registration），也就是你与物体之间的一种对应关系，很难捉摸，而 Brooks 认为，我们的系统里就没有这种东西。深度学习开始给图像贴标签的时候，有人说符号接地问题已经解决了。他说，贴标签的问题确实解决了，只是准确率是某个百分比。这是两回事。

Brooks 做计算机视觉的时候，和 Hans Moravec 共用一间办公室，而 Moravec 当时在做第一台移动机器人。Brooks 并不认为莫拉维克悖论（Moravec's paradox）有什么悖论可言。进化用了大约 6 亿年时间，来完成多细胞生命的感知和运动；狩猎采集出现得晚得多；语言也许只有几十万年；农业只有大约一万年。那些晚近出现的薄薄一层能力，坐落在一座花了极长时间才堆起来的地基之上。人们对难度的糟糕直觉，有一个社会性的来源：1950 年代末，麻省理工学院人工智能实验室里满是靠下棋和积分题考进麻省理工学院的少年。那就被视为“难”的事。一个婴儿就会看。看见不等于智能。在 Deep Blue 出现之前，国际象棋一直被当作智能的王冠；此后，同样的新闻报道套路又在 AlphaZero 身上重演了一遍。

有人问，如果能立刻解决机器人领域的某一类问题，他会选哪一类，他没有直接选，先讲了一个关于孙子的故事。他的孙子十六个月大，第一次来到一栋新房子，走到一扇他从未够得着的低窗前，一只手扶着窗框，另一只手转动一个他从没见过的把手，把窗户打开了。两只手，两种动作，一个从未遇到过的机构。十八个月大的时候，给他一盒锁，孩子也没有把每个表面都乱摸一遍，而是先看出机构在哪里，再只探索那些地方。当然，这里也有强化学习的成分，但前面有一层预过滤，把搜索空间削减了。在伦敦的 DeepMind，有一扇其他谷歌员工进不去的门，研究人员描述说，他们让机器人把所有可能都试一遍，直到强化学习找出答案。这些机器人是 Rethink 卖给他们的 Sawyer，之所以选它，是因为它很柔顺，撞到墙就会停下。Brooks 想去看看，对方回答说那是保密的。那些机器人本来是他的。

Fridman 在深度学习这股浪潮中追问美感。Brooks 承认 ImageNet 时代计算机视觉带来的震撼，说“哇”，但不肯跳到“机器人的视觉问题已经解决”。他指出，自我对弈和 AlphaZero 的思路，其实早就出现在 Donald Michie 1961 年介绍强化学习的论文里；Arthur Samuel 1960 年代初写的跳棋程序击败了一位世界冠军，用的是 Claude Shannon 勾勒过的一种学习机制，跑在 IBM 生产线上用于老化测试的计算机上，而那时的算力比世界上任何人都多。Fridman 想要的，是一个旧想法真正兑现的承诺，就像可重复使用的火箭那样。Brooks 的反驳是：下棋其实很容易，而我们对自己的看法被夸大了。1946 年的一份报告让一个打算盘的人和一台电子计算器比赛，结果人赢了。现在没有人会为一台机器每秒做十亿次浮点运算而感到惊讶。

“学习”是一个“行李箱词”（suitcase word），装的东西太多，用得太宽泛，就是一种致命的毛病。学会一座城市、学会下棋、学会拉丁语、学会骑自行车，是完全不同的能力。现在的新闻稿动不动就宣布某家公司全球领先，理由是某个系统在某项指标下、某组条件中，某件事做得更好了。这些系统的大多数，只要条件稍有变化，就会失效，而且失效的方式和人不一样。AlphaGo 之后，他问 DeepMind，如果棋盘换成 21×21 会怎么样。对方说，那会彻底失败；人至少还能下。他注意到，对方之后发表过能够适应这种扩展的算法。但他仍然不愿意把那叫作智能。完全信息博弈的状态，可以用很短的一段描述来表示。那并不等于在世界里的“注册”与感知。

AlphaFold 是他承认的一个意外。在一个出了名的难题上，这么多蛋白质结构都预测对了，让他吃了一惊。它的实用性受到限制，因为你不知道哪些预测是对的；后来又出现了一个工具，想解决这个问题，也许真能帮上结构生物学。Fridman 把 GPT-3、AlphaZero 和 AlphaFold 都列为某种智能核心的候选。Brooks 把“令人惊讶”和“有用”区分开来，仍然不肯说智能已经被解决了。每隔几年，就有人告诉他，他没有理解新东西有多强大。他见过世界一再这样，1990 年代更大的计算机也是这样。看见魔法，就以为下一步会自动到来，这正是他希望人们避免的错误。

谈话转到了汽车。Brooks 很喜欢他来时开的那辆 2021 款奔驰 E450：有车道保持、盲区提醒，还有一个由摄像头拼接出的俯视泊车画面。这是他拥有过的、最长时间没有拆开折腾的一辆车。有用的技术本身不是争论所在。问题在于，人们看了一场演示，就推断我们已经快到了。1987 年，慕尼黑有一辆车在有车流的公共高速路上完全自动驾驶，时速超过每小时 55 英里（约合 88 公里），行驶了十多英里（约 16 公里）。号称能横穿美国、双手离开方向盘的说法，可以追溯到 1995 年，而且也并非百分之百成功。我们在这件事上已经努力了 35 年。

他愿意承认自己的意外。在 Mobileye 的系统上，他原本对经典计算机视觉在真车上能做到什么程度，判断得太悲观。特斯拉把 Mobileye 换掉，从零开始追赶，其中包括一套数据引擎：把驾驶拆成多项任务，并从车队里挖掘长尾案例。这让他重新考虑工程能覆盖多少东西。Fridman 提到 Andrej Karpathy 参与过这件事，并就这一点继续追问。Brooks 仍然怀疑，只靠视觉、而摄像头动态范围又远达不到人眼水平的方案能行。糟糕的情况包括白色路面上的阳光，以及人类能够应付的眩光。他不肯说这东西已经能用了。

美国每年约有 3.5 万人死于机动车事故。工程师告诉他，如果能把死亡人数降低 10%，就已经是一场胜利。他的预测正好相反：如果自动驾驶车辆每年致死超过十人左右，公众就会大声抗议，即使人类司机造成的死亡已经有 3.5 万人。人们的期待是另一套标准，而且并不理性。新技术还会改变游戏规则。汽车进入日常生活的时候，城市被重建，法律被重写。乱穿马路（jaywalking）原本并不违法，直到汽车公司推动，它才成为违法行为，目的是把行人赶出马路。大规模普及不会是“拿掉司机，车子还是原来的车，做的还是原来那些事”。长尾的情况实在太多了。

美国有多少套全自动列车系统？十五六套，其中大多数在机场。第一个城市公共交通的全自动系统，原定 2017 年在檀香山投入运营；虽然延期了，但终会做成。Brooks 坐过一条全自动线路，一直开到东京湾的人工岛上。你看到的是对环境的工程改造：每个站台都有两道门，车门和站台门；轨道不让人爬上去，即使线路穿行在楼宇之间也是如此。这正是系统被接受的原因。他曾错误地以为，101 号高速最左侧的车道会比现在早五年变成自动驾驶专用道。结果没有。他怀疑，特斯拉把系统叫作“完全自动驾驶”（Full Self-Driving），堵死了协同基础设施的那条路。夜间在高速公路上跑长途货运，也许有道理，但上下高速仍然需要基础设施。他的直觉是，环境一旦被工程化，事情就会加速，因为其他每一项技术都是这样发展过来的。

在 280 号公路上，路面大多是水泥而非沥青。Brooks 注意到，白色车道线现在带上了黑色边框，他的车如果没有这些边框，车道偏离系统就无法工作。他不知道涂料是不是为了帮助这些系统才改的，但这是基础设施悄悄跟着技术变化的一个例子。在亚利桑那州的钱德勒，Waymo 没有司机在驾驶，这是他愿意承认的另一个意外：看着方向盘自己转，座位上却没有人。截至去年底，他们的目标是每周几百单，而不是几千单，仍然按一定比例配备安全员，还有救援车辆专门去处理被路锥困住的车。他想阻止的那种推断是：“它已经来了，已经搞定了。”

2018 年 1 月 1 日，他发布了一组带日期的预测，并承诺每年元旦都核对一次，一直核对到 2050 年，那时他已经九十多岁了。别人都做预测，预测失败，然后大家都忘了；他想要的是一块记分牌。主题包括人工智能、自动驾驶汽车和太空。他现在不再添加新的预测，只给这一组打分。101 号高速上有自动驾驶专用道，这个判断太乐观了。到 2035 年，马萨诸塞州剑桥市 Cambridgeport 区的每条街道都有无人出租车，现在看来同样太乐观：路窄，单行道多，还有人逆行。在其中一些预测上，他自己的看法也变得更悲观了。

Market 街以北，街道是宽阔的方格路网，主要麻烦是送货卡车，设定固定上下客点的出租车系统还要再等几年。Market 街以南则要久得多，除非道路被重新改造。他就住在那里，每天都能看到测试车：Waymo 最常见，Cruise 次之，Zoox 较少，而且总有司机在车上。有时候，司机没有权限在未经总部批准的情况下接管，只能坐着等。事故处理要花多长时间，比新闻稿更能说明问题。有个周五晚上八点左右，一辆 Cruise 从山坡上开下来，右转之后，因为一位女士正站在离车两英尺远的地方，用钥匙扣解锁她的车，它直接停住了，堵住了人行横道。Brooks 看得出，那位女士不会突然跳开。安全司机没有接管。之后，一个推着婴儿车的男人发现人行横道被堵住，于是绕到车后，离开人行横道，穿过路口，再绕回来。换成人类司机，不会在那里停这么久。那些没有报名参加这场实验的人，他们的安全因此受到了影响。

他一般不太喜欢轶事，也直说了这一点。结构性的问题在于，谁受影响，和谁做决定，是两回事。它最先会在哪里发生？是校园、封闭社区和机场：那里的人都知道车会在那里行驶，车速也低到随时急停都是安全的。那些车未必看起来像汽车。坐在一台会等待的机器里，对大多数乘客来说很难受，但对一个八十多岁、住在养老社区、子女已经收走了车钥匙的老人来说，它可能彻底改变生活。这种价值的规模，比“全世界的道路”小好几个数量级。他认为，与人打交道的机器人必须学会有所坚持。一位同事会故意把一只脚伸到路缘石外面，来捉弄自动驾驶汽车。一旦青少年知道这招有效，他们每天都会这么干。在改名之前，Waymo 就发现，在四向停车的路口，它必须往前稍微挪一挪，否则别的司机会永远抢在它前面。一个你可以随便欺负的机器人，是糟糕的体验。

Fridman 追问这种严厉。相信不可能的事情是必要的：1903 年的飞行到 1969 年的登月，中间只隔了 66 年，差不多就是 Brooks 自己的一生那么长。Brooks 承认乐观很重要。他的严厉，针对的是那些并不在做事、却宣称演示就意味着事情会自然实现的人，也针对他与马斯克之间另一场不同的争论。在他看来，SpaceX 复用的是已经被证明可行的部件，比如垂直着陆、从 1960 年代起就有的栅格翼，以及一个已经存在的保险行业；超级高铁（Hyperloop）则没有这些。马斯克没有把成熟的技术和夸夸其谈区分开来，结果别人就跟着去争做那些还没被证明的事情。Fridman 把撒谎和真心相信区分开来。Brooks 的不满在于，有人用一个个跳跃式的说法告诉他，他不懂，而他本人正是 iRobot 的联合创始人。

他在 iRobot 最自豪的是什么？2011 年 3 月，他还在董事会的时候，机器人被送到日本，去帮忙关停福岛第一核电站。他在 2014 年去过现场，有些机器人仍留在那里。它们之所以能做到，是因为 iRobot 的大约 6500 台机器人已经在伊拉克和阿富汗投入使用，靠机载智能加上远程操控来处理路边炸弹，那是九年严苛的实地经验。与此同时，日本的机器人收割了热度：人们盛赞本田的步行机器人，说未来已经到了。但那些日本机器人从未真正投入使用，什么也干不了。Brooks 说，那些拿走全部掌声的机器人，其实什么也做不了。

接着说最简单的那个：Roomba，已进入几千万户家庭。他开玩笑说，自己本来是个纯粹的数学家，后来却变成了吸尘器推销员，创业者应该做好这种心理准备。多年后的一场诉讼，让他翻出了 1990 年代的邮件，也让他想起了当年的乐趣。目标货架价格是 200 美元。伊莱克斯（Electrolux）的 Trilobite 卖 2000 欧元，而他们并不把它当作消费品。这个价格意味着物料清单的成本必须压到极低。在台北参加完麻省理工学院的会议后，他会多留几天，去新竹，拜访台积电周边那些没有自己芯片工厂、却能搞创新的小公司。他们把摩托罗拉 6802（也就是 Apple I 所用的芯片）砍掉一半的电路，仍然能让它运行。在香港，他去找掌上游戏机和贺卡用的芯片，因为算力预算大约只有五十美分。中断处理能力往往太弱。他找到一款华邦的芯片，只有 512 字节的 RAM，价格在预算之内，功能也符合他们的需要。那段时间的邮件，内容基本就是“我找到这个了”。

他们没有想到公司会变得这么大。2002 年之前，他们失败了十四种商业模式，然后同一年里出现了两个成功案例。董事会批准了 2002 年圣诞季的生产，他们超出计划三倍，生产了 7 万台，9 月 18 日上市，圣诞节前就卖光了。他们很有胆量，但并没有想到它会席卷全世界。他又在公司待了九年，寻找下一款家用机器人。将近二十年后，公司的主打产品依然是 Roomba。

为什么一家成功的机器人公司这么难？Brooks 列出了自己踩过的三个坑。创始人对能力的预期会出偏差，而且这里说的是创始人自己的预期，不是客户的。定价也会出错；客户心里认定的合理价格，不一定是理性的。让人们接受一项新技术，本来就很难。他三个坑都踩过，失败的公司比成功的多。有人问，会不会出现市值万亿美元的机器人公司，他没有下判断：他自己仍在创办机器人公司，而 1990 年代也没有人想到苹果会成为一家万亿美元的公司。他确实看到，家庭场景中有市场需求，因为人口结构在倒转，老年人太多，护理人员太少；但机器人的能力还不足以支撑这笔账。没有真正的资本，从车库做到规模化非常难。他提到 Covariant 拿到过 8000 万美元的 B 轮融资，也提到 Rethink 损失了 1.5 亿美元。

Rethink 是至今仍让他痛心的失败，而他引以为傲的，是非常具体的一件事：他们把机器人从笼子里放了出来。人和机械臂可以并肩站着，而且是安全的，人还能在不写代码的情况下重新分配它们的任务。这两项特点，现在大大小小的公司都拿来做卖点。在一次他仍记得的会议上，他被说服放弃了原计划。原本的目标是一款 3000 美元、带力反馈、对人安全的机器人，卖给那些从来不会买机械臂的人，而不是已经有机械臂的工厂。塑料齿轮箱，便宜到可以算作运营支出而不是资本支出，磨损了就换。串弹性驱动器可以测量力。控制工程师讨厌扭矩波动。一位机械工程师说，金属直齿齿轮箱六周就能做好，结果花了两年。价格也涨了。CEO 想要两条手臂。Baxter 最终以 2.5 万美元的价格出货。

以 2.5 万美元的价格，唯一的买家是已经有机械臂的工厂，而且两台的价格比工厂已有的机械臂还便宜，这些买家要的是 0.1 毫米的重复精度和熟悉的速度。Brooks 一直说，他们其实不需要位置重复精度，应该像人一样用力控制。要把零件插进一个直角槽里，位置控制要把世界固定住，然后走到那个位置；力控制则是滑动，直到感觉到表面，再完成对接。人类是用第二种方式获得精度的。客户问，为什么别的机器人都有那项指标。于是他们又花了两年，做出一台 3.5 万美元的单臂机器，它的齿轮箱本身也有扭矩波动，正是他们原本想避开的问题。最后让公司死掉的，并不是技术。买家都查得很仔细，几乎每个财团背后都有中国资金的影子。美国外国投资委员会历史上只启动过两次，但光是提到它，银行家们就断定这笔交易通不过。投资人纷纷撤出。现金快用完的时候，只剩下两个买家。其中一家借着沉重的法律压力、许诺加码，等公司彻底没钱了才撤出，最后却以前一周报价的三十分之一买下了资产。“那一周很难熬。”他说自己再也不会创办公司。唯一的慰藉是，一周之内，有三家公司把整个团队都招了过去；有些人甚至没换办公桌，因为买家租下了那个办公空间。

人会爱上一个会回应他们的 AI 吗？Brooks 说，1950 年代人们爱上汽车，那是另一种爱。一起长大、相伴一生的伙伴关系，离我们还很遥远；《银翼杀手》对时间尺度的判断完全错了。难点又回到 Moravec 所说的那件事上：一种既能感知、又能被感知的形态。只靠声音的话，比如《她》或者 Alexa 那样的形态，对某些人来说也许并不遥远。科幻的手法，是让今天的世界只改变一件事。现实会和技术一起成长。他认为，把这件事讲得最对的一部电影，虽然有些煽情，是《两百岁的人》：当机器人努力变得更像人的时候，人类也会把机器人的技术装进自己的身体里。我们已经在改造婴儿，也在把设备装进自己体内。他耳朵里装着硬件，这样才能听清 Fridman 说话。未来的人，不会再是今天的人了。

Joseph Weizenbaum 在 1960 年代惊讶地发现，人们竟然会对 ELIZA 吐露那么多心事。如果你想让一个系统和人聊上一个小时，缺的是连续性；亚马逊的 Alexa Prize 把成功定义为一场二十分钟的对话。它没法提到昨天的事。它没有持续存在的自我，没有会在记忆中留存下来的共同时刻，也没有意图，哪怕是“想要快乐”这样的意图都没有。Brooks 并不是说这做不到。他是说，这是最低要求，而且还没有人展示过它是什么感觉。Fridman 认为，这道门槛比解决智能问题更容易，也离我们更近。Brooks 还不愿承认，自己能和 Alexa 喝上一杯。

Brooks 说，读读图灵的论文就知道，图灵提出的并不是一个好的测试。那是一种修辞手段：如果你分不出区别，你就必须说这台计算机在思考。后来它变成了一种古怪的骗人游戏。1980 年代末，麻省理工学院人工智能实验室的“AI 奥运会”里，就有一项是最初的模仿游戏：在电传打字机另一端，是男是女。有个男人找到了一个一听就露馅的问题：你小时候有没有玩过绿色的塑料玩具兵？你拿它们做过什么？假装成男人的女性会说，她把它们排成一排，打仗。一个男人说，他把它们踩扁了。Brooks 说，计算机版的图灵测试，已经变成了找陷阱题。不以测试为目的的对话，才是真正困难的问题。以距离作为衡量标准，它比计算机视觉更直观，因为语言太像人了，差距一目了然。

在研究这本书的过程中，Brooks 失望的是他自己。1950 年代和 1960 年代活跃的那些人，他大多是在他们上了年纪之后才认识的。麻省理工学院每周四有教职工午餐。他坐在他们旁边，却从没有去问。许多动机就此永远地失传了。他本来会问 J.C.R. Licklider，怎样才算成功、失败和进步。Licklider 构想了人机共生，把它推动到 DARPA，并在 1963 年资助了麻省理工学院的 Project MAC。他也会去问 Minsky，为什么 Minsky 和 Seymour Papert 在 1969 年的《感知机》（Perceptrons）里，对神经网络下手那么狠，用的全是否定性的定理，而 Minsky 自己的博士论文恰恰做的是神经网络。Minsky 知道这本书会让这个领域冻结十年吗？Brooks 怀疑他并不知道。Minsky 曾在一次访谈中说，保持高产的关键，是讨厌你做过的所有事情。也许这就解释了那本书。

谷歌收购了八九家机器人公司，总的来说对这个领域是坏事：人们不再需要让公司成功，只是被关在里面好几年，然后这条线就被关掉了。有些公司开出极高的薪水，之后你再也听不到那些人的消息，没有公开演讲，就像被收藏起来、却不许拍电影的明星。在谷歌这类地方，创始人的宏大梦想未必站得住脚，也未必能产生信徒所认为的那种影响。Brooks 仍然承认，一个宏大的梦想有凝聚作用：围绕同一个梦想的聪明人，会把相邻的想法溢出来，很多进展正是这样发生的。他在 2020 年元旦的回顾里说，那一年不会被记为机器学习的分水岭。没有出现什么让人惊讶的事。论文数量激增，但工作都是渐进式的。真正的震动，发生在深度学习在 ImageNet 上取得突破的时候。

最快乐的回忆，是比别人更早看到未来。1977 年在斯坦福，有能显示实时视频的终端，有数字声音，还有一台能打印任意黑白图像的施乐图形打印机。麻省理工学院的 Lisp 机器，也就是最早的个人电脑之一，每台十万美元；早到的人能借到一台，用上一天。从 1977 年起，他每天都发电子邮件，即使主机地址字段只有八位。有一天晚上，人工智能实验室的大型机死机了。Brooks 和工程师 Robert Paul 把一台洗衣机大小的磁盘驱动器的面板拆了下来。个子很高的 Donald Knuth 当时正在通宵写 TeX，他站在旁边，问什么时候能修好。他们把一块 7400 系列的替换芯片装反插进了插座。冒烟了。他们很紧张，因为 Knuth 在一旁看着。最后他们还是让它重新跑了起来。那是 1978 年或 1979 年初，比实验室在 1979 年 10 月搬出那栋楼要早。

给年轻人的建议是：没有唯一的路。现在有很大的压力，要求你产出能发表的论文。他那个年代，人们可以反抗这种压力，并且照样取得成功；现在可能更难了。不要太在意别人都在做什么。如果你想真正产生影响，就要做好失败很多次的准备，也就是要做很多风险很大的决定，并且坚持足够久，直到其中某一个奏效。或者，你最后可能只得到一份糟糕的职业生涯。这也是可能的。不存在一条全部由安全决定构成、却又真正有贡献的路。

谈到死亡：新冠疫情刚来的时候，还没有人知道它会有多严重，他就想到了这件事，并因此更加努力地写这本书。后来新公司的工作超出了全职，书的进度就搁置了。他想把书写完。他害怕的是慢慢消磨，失去它，失去自我。这段旅程会结束，他很早就知道。知道，和真切地感觉到，是两回事；而现在，感觉离终点近了。预测博客也是一种对抗：要坚持回顾 32 年，一直到九十多岁，每年发一篇年度总结，每一篇都是朝着他自己的期限迈进一步。如果由他来投票决定遗产，他会选择把这本书写完，让一个人读了之后想法稍有不同，进而引出下一个大突破。一百年后，有人会在播客里说，这本书改变了一切。

人生的意义是什么？我们都做得不好。眼前的事情容易，长远的事情就难了；从宏观上看，我们的成绩很糟糕。无神论告诉他，这一切只是随机的。他想弄清楚的，也是这本书要讨论的，是秩序如何从无序中产生：为什么在一个随机的宇宙里，会出现这个叫作地球的复杂性小角落，这样的角落有多常见，它们能持续多久。他无法相信我们是孤独的，那样也太残酷了。另一种更冷的答案，是一座文明的墓地，我们也在其中，一切都会被遗忘，包括那些机器人。从历史上看，几乎百分之百的人都会被遗忘。他不认识任何还活着、又记得自己曾祖父母的人。但尽管有荒谬之处，尽管有一段段毫无意义的时光，生活依然相当有趣。对他来说，最有趣的事情之一，就是机器人。