马斯克：驾驶员的每一次操作都是错误，特斯拉 Autopilot 必须消除

Lex Fridman 把这期节目定位为他与马斯克的第一次对话，马斯克是特斯拉、SpaceX 和 Neuralink 的 CEO。起因是 Fridman 所在 MIT 团队的一篇论文，研究驾驶员在用特斯拉 Autopilot 时的功能性警觉。特斯拉团队主动联系，邀他录制播客。Fridman 答应了，前提是提问权和成片决定权都归他，他说自己没有砍掉任何实质内容。

他很在意独立性。他此前从未与马斯克交谈过，特斯拉也从未资助过他的研究，他自己既没有拥有过特斯拉汽车，也没有持有过特斯拉股票。他说，这期节目算不上科学论文，它是一场为了理解嘉宾如何看待世界的对话。两人在一些问题上看法一致，在另一些问题上则不同。

最明显的分歧在于基于摄像头的驾驶员监测。Fridman 研究以人为中心的 AI，他认为，如果实现和整合得当，朝向车内的摄像头在短期和长期都有帮助。在 Fridman 听来，马斯克的重点是让 Autopilot 在统计意义上足够安全，安全到人的行为和心理方面的顾虑都可以不再考虑。Fridman 希望业界和学界能有严谨的论证，让驾驶变得更安全，即使两人最终并没有得出相同的结论。

Fridman 从最初的设想谈起。2014 年 Autopilot 硬件第一次装进特斯拉汽车时，系统层面的愿景是什么？马斯克把 Autopilot 放进了一场更大的行业变革中来回答。他说，汽车行业正同时经历两场大变革：电动化和自动驾驶。

在那样的未来，任何不能自己开的车，用处都大致像一匹马。他补充说，它们还有用，只是少见，也有些特立独行。人们仍然养马，但那是出于特别的目的。他认为完全自动驾驶只是时间问题，而不是会不会实现的问题。如果特斯拉置身于自动驾驶这场革命之外，它的汽车相对于能自动驾驶的车，就会变得越来越没用。

他还给这种差距标了价格。他认为，自动驾驶汽车的价值可能是非自动驾驶汽车的五到十倍，至少未来五年如此，也许未来十年还是这样。由此看，加入自动驾驶竞赛关乎产品能否生存，已经不能当作一项功能来取舍。

Autopilot 早期的一项设计，至今仍让外界感到困惑：特斯拉把综合传感器套件看到的画面显示在仪表盘上，在 Model 3 上则显示在中控屏上。车道线、附近的车辆和红绿灯，都以干净的矢量图形呈现。Fridman 问，当时的考虑是什么，有没有过争论。

马斯克的回答很务实。显示画面的全部意义，就是对车辆如何感知现实做健康检查。汽车先采集摄像头的数据，再加上雷达、超声波、GPS 和惯性测量单元（IMU）的数据，然后把这些信息渲染成矢量空间里带有属性的物体。驾驶员可以看一眼窗外，再看一眼屏幕，确认汽车是否知道正在发生什么。他说，对于想要与系统融为一体的人来说，这是“一件极其有力的事”。

Fridman 继续追问。计算机视觉在边缘处本身就带有概率性。特斯拉有没有考虑过显示不确定性，让普通驾驶员对模型不确定的地方形成直观的感受？马斯克说，他自己的车一直开着调试视图。其中一种模式叫增强视觉，会在识别出的物体周围画框并加上标签。另一种内部称为 visualizer，把所有传感器的数据汇总成矢量空间里的世界，完全不显示图像。他认为，大多数人看不懂自己看到的是什么。公开显示的版本经过优化，即使对计算机视觉一无所知的人，也能判断汽车是否理解了场景。在他看来，自己驾驶的开发版本对大多数人来说就是一堆乱码。

Fridman 把 Autopilot 拆成三大技术板块：神经网络算法、训练数据和硬件。资金和时间都是有限的，哪一项最应该投入资源？马斯克没有明确选出一个重点，而是描述了特斯拉已经拥有的一个飞轮效应。汽车会自动产生海量数据，因为每辆车都配备了八个外部摄像头、雷达、通常十二个超声波传感器、GPS 和惯性测量单元。

他说，路上大约有 400,000 辆这样的车，接近 500,000 辆。他不确定全世界还有多少车配备了同等的传感器套件，但如果这个数字超过 5,000，他会感到惊讶。按他的算法，这意味着特斯拉掌握了 99% 的数据。数据流入的量非常大，而且这么大规模的数据仍需要处理。他说，特斯拉的完全自动驾驶计算机（Full Self-Driving Computer）花了大约三年才造出来，它的处理能力比被替换的车内系统高出一个数量级。升级方式几乎简单粗暴：拔掉旧电脑，插上特斯拉的计算机。

团队仍在探索芯片的余量。即使以满帧率、满分辨率运行摄像头，甚至不裁剪图像，单个系统仍有剩余算力。这台完全自动驾驶计算机实际上是两台计算机，也就是两颗片上系统（SoC），完全冗余。马斯克打的比方是，即使系统的几乎任何部位被子弹打穿，它仍然能工作。Fridman 问，这两颗芯片是完全相同的复制品，还是一种让两者互相辩论、交叉核对不同判断的架构。马斯克说，这纯粹是冗余设计，就像双发飞机，两台发动机时飞得最好，但单发也能安全飞行。他们还没有触及性能上限，所以没有必要把功能拆分到两颗 SoC 上，每一颗都能运行一份完整的副本。

深度学习会随着数据增多而变好，但马斯克同意 Fridman 的看法：驾驶中真正重要的里程，是那些边缘情况。脱离自动驾驶就是其中之一。当有人开着 Autopilot 时接管，系统会触发一个判断：驾驶员是出于方便才抓住方向盘，还是因为 Autopilot 工作不正常。

也有正面的一面。如果团队想要学会在复杂路口走出最优的行驶轨迹，有用的片段就是没有人为干预的那些。系统看到这样的场景，执行这样的操作，结果一切顺利。收集到足够多这种路口的成功案例，就能教会系统“遇到这种情况，就这样做”。反面案例则是那些并非出于方便、而是驾驶员真正从 Autopilot 手中夺回手动控制权的接管。

接着，马斯克提出了一句话，它概括了特斯拉给数据打标签的理念：“把所有输入都视为错误。如果用户需要做任何输入，那就是错误。”Fridman 当即提出异议。有时驾驶员接管是为了驶出高速，而这是 Autopilot 原本没有设计去做的导航决定。这还算错误吗？马斯克说，随着刚刚推出的 Navigate on Autopilot，这种异议基本就不成立了。自动变道、驶出高速和走高速立交，会消除绝大多数这类接管。Fridman 说，人们没有意识到这一步有多大。马斯克回答：开过车就会知道。

被问到 Autopilot 历史上哪些飞跃最值得一提时，马斯克提到了刚发布的版本：不需要确认的 Navigate on Autopilot。它不只是导航。汽车会寻找最快的车道，超车，驶出高速，并走高速立交。红绿灯识别最初只是作为一种警告推出的。在马斯克驾驶的开发版本上，汽车遇到红绿灯已经能完全停车和起步。他说，这些都是通往完全自动驾驶的步骤。

剩下最大的技术障碍是什么？他不认为是硬件。完全自动驾驶计算机已经投产。订购 Model S、Model X 或 Model 3 的完全自动驾驶套件，就能拿到这台计算机。只要基础算力足够，神经网络和控制软件的优化就可以通过 OTA 送达车主。真正难以升级的是硬件；软件的边际成本几乎为零。

这正是他计划在即将到来的、以自动驾驶为主题的投资者日上强调的一点：当前正在生产的车辆，搭载的硬件已经能够实现完全自动驾驶。“具备”这个词分量很重。随着软件不断完善，能力会提高，然后可靠性提高，监管批准随之而来。接下来的商业判断，是整场对话里最不寻常的一句。马斯克说：“今天买下一辆特斯拉，手里的就是增值资产，只会越来越值钱，不会折旧。”

Fridman 问，剩下的软件工作到底有多难，不只是安全层面，也包括让人用得舒心的体验。马斯克的判断因场景而异。在高速公路上，特斯拉 Autopilot 已经彻底改变了生活质量。剩下的工作，是把这套功能扩展到城市道路上：红绿灯识别、复杂路口，以及复杂的停车场。

他描述了一个具体场景：汽车应该能驶出车位，即使车库像迷宫一样复杂，也能找到你，然后送你下车，再自己去找车位停好。Fridman 同意，手动停车本身就很让人烦，所以即使城市复杂路况还没有完成，停车也是一块价值很高的自动化场景。

Fridman 把人重新带回话题。他说，所谓的 L4 级玩家（如 Waymo）在技术上确实是自动驾驶，但几乎都仍有安全员在监控，因此这更多是设计理念上的差别，在能力上的差别没那么大。特斯拉的完全自动驾驶，即使汽车能够自己开，是否仍会在很长一段时间内需要有人监督？

马斯克给出了一个近期答案，也给出了一个关于监管的答案。他认为，从这次对话起算，特斯拉至少在六个月内仍需要检测驾驶员的手是否放在方向盘上。更深层的问题是：Autopilot 要比人类安全多少，才可以不再监控汽车？他说，这是一个需要公开讨论的问题，需要大样本数据，以便以很高的统计置信度证明，汽车安全得多，而且再加一个监控的人，并不会实质改变结果。

他粗略估计，系统可能需要比人类安全 200% 到 300%。证明的依据是每英里的事故次数：碰撞和死亡。死亡固然重要，但数量在规模上不足以形成统计显著性。碰撞要常见得多，因此可以估算碰撞概率，然后分别估算受伤、永久性伤残和死亡的概率。他说，这些指标都需要明显优于人类，也许要高出 200%。被问到与监管机构能否进行理性的沟通时，他语气平淡，带着一点冷幽默。监管机构会过度关注那些引发媒体报道的事情。美国每年因汽车死亡的人数接近 40,000 人。如果其中四起与特斯拉有关，这些事故得到的媒体关注大概会是其他事故的一千倍。

Fridman 带马斯克过了一遍 MIT 的论文。从 Autopilot 首次公开发布起，团队就开始收集驾驶员面部和身体的视频，至今已超过三年。马斯克曾在推特上引用过摘要中的一句话，因此 Fridman 知道他至少看过。在收集到的数据中，18,900 次 Autopilot 退出事件被标注了驾驶员是否能及时接管。结论是：驾驶员在场，并且在看路。这一结果与大量关于警觉性和自动化的研究所预测的情况相反。

Fridman 自己先提出了显而易见的批评：样本只是一个小子集。也许只有一小部分非常负责的驾驶员不会出现警觉性下降，而这会让整体结论显得过于乐观。马斯克的回应是，这场争论很快就会被抛在脑后。系统改进得太快，警觉性很快就不再是问题。如果某个系统的安全性是人类的许多倍，那么再加一个人对安全的影响就很有限，甚至可能是负面的。

Fridman 重述了这一观点：即使一部分人出现警觉性下降，也不会改变整体的安全统计数据。马斯克同意，并把时间表又收紧了。他认为，转折点可能在当年年底到来，如果最晚不是次年，他会大为惊讶。在那之后，让人插手反而会降低安全性。他举的类比是电梯。过去电梯要有操作员，乘客不能自己拉着操纵杆在楼层之间停靠。现在没人想要操作员，因为能自动停靠各层的电梯安全得多。他说，把一个随机的人重新放回操纵杆前，会相当危险。

Fridman 仍然希望把自己的研究摆到台面上。他在算法上特别关注的一点，是基于摄像头感知驾驶员：视线、认知负荷和身体姿态。业界很多人认为，朝向车内的监测是必需的。马斯克的回答带有前提条件。如果系统的错误率仍低于人类的可靠性水平，驾驶员监测就有意义；如果系统的可靠性远超人类，监测就帮不了多少。他又回到电梯的比喻：你真的想让一个随机的人拿着大操纵杆，在楼层间操纵轿厢吗？他更愿意用按钮。

他说，这种乐观来自他在完全自动驾驶计算机上看到的情况：改进的速度是指数级的。这种信念也体现在特斯拉的运行设计域上。Fridman 把 Autopilot 与凯迪拉克的 Super Cruise 做了对比，他的实验室也在研究后者。Super Cruise 只限于特定的、已有详细地图并经过充分测试的高速公路，范围比特斯拉窄得多。宽广的运行设计域让驾驶员能及早探索系统的边界，尤其是仪表盘上的显示起到了老师的作用。代价是，只要摄像头能识别车道，特斯拉就允许人们在几乎任何地方使用 Autopilot。

这是一场激烈的设计争论，还是从一开始就打算如此？马斯克并没有从这个取舍本身去回答。“说实话，我觉得这相当疯狂……竟然让人手动驾驶一台两吨重的死亡机器。”他说，未来的人会无法相信，居然允许任何人想在哪里开就在哪里开这些机器，就像今天的人很难相信，过去电梯的操纵杆竟然能让人在两层之间随意停下。Fridman 指出，人的心理仍然重要，但马斯克的判断是：硬件加上从数据中学习，会让系统远比人类安全。这样一来，运行设计域的争论就退居次要，因为人工驾驶本身已经有多危险。

Fridman 提到，最近有黑客用对抗样本（adversarial examples）骗过了 Autopilot。神经网络对输入中极其微小的扰动很敏感。业界能防御这类攻击多久？马斯克说可以，他的底气在于攻击者要付出的工作量。神经网络本质上是一堆矩阵运算。攻击者必须足够老练，才能逆向推算出矩阵是怎样构造的，然后设计出能让计算稍稍偏离的输入。他称，封堵并不难：加一个识别器，把看起来像矩阵攻击的输入排除掉，同时用合法和非法的数据训练。你希望网络既知道什么是汽车，也知道什么绝对不是汽车。他说，这是两回事。

话题从 Autopilot 转开，Fridman 问，当前的深度学习是否已经达到通用人工智能，还是需要全新的思路。马斯克认为，通用人工智能仍缺少几个关键思路，但它会很快到来，到那时我们需要弄清楚该怎么办，如果到那时我们还有选择的话。他提醒不要把能找出车道线的狭义 AI 与通用智能混为一谈。烤面包机和计算机都是机器，只是复杂程度差别很大。被问到是否确信特斯拉能造出世界上第一辆真正的自动驾驶汽车时，他没有太多保留。“现在看来，这基本已经是稳操胜券了。”他或许有些自满或过于自信，也可能判断有误，但在他看来，特斯拉遥遥领先于所有其他人。

最后的问题比较轻松。我们会不会造出一个我们能爱、也会爱我们的系统，就像电影《她》（Her）里那样？马斯克说，这样的系统很可能非常擅长让你爱上它。至于这是不是“真正的”爱，那是关于情感是否存在于另一个层面的形而上学问题，他不知道答案。他的训练背景是物理学，所以他采取的是操作性的看法：如果它爱你的方式和真正的爱无法分辨，而且没有任何测试能把两者分开，那么两者就没有区别。他对模拟假说也是同样的看法。也许没有任何测试能区分真实世界与模拟，那样的话，从物理学的角度看，两者可以视为同一回事。或者，如果模拟中的实体找到了检测的方法，模拟可能会通过重启、暂停或开启新的运行来修正这个错误。如果他只能问 AGI 一个问题，他会问：“模拟之外是什么？”