车道居中，是唯一已经有用的自动驾驶功能

Lex Fridman 开场就问了那个老问题：我们是否生活在模拟之中。George Hotz 说是，并认为这一点也许永远无法被证伪。如果设计者写出一份形式化证明，说明没有任何信息能进出，同时硬件始终符合规格，那么里面的程序能掌握的证据，就不会比运行在一台设计良好的虚拟机里的进程更多。他离开 comma 的那段时间在学习 Coq，这是一种用于数学证明的依赖类型（dependently typed）语言，通过类型检查的代码按构造就是正确的。他说，封闭的模拟可能就是这样。

Fridman 追问黑客的直觉：任何复杂系统都有进出的路径。Hotz 没有深究。模拟不必完整，只要有一个预定的结束日期就行，而熵看起来正是这样一个日期。宇宙的计算机甚至可能很简单，只是非常大，就像放大版的康威生命游戏（Game of Life）。被问到如果模拟能被入侵，他会改变什么，他对实际问题一笑置之。他曾经做过一场关于“逃离”的演讲，那其实是想用一种后现代的叙事，取代已经失效的太空竞赛叙事：向上思考，因为旧的现代主义叙事，关于火箭和火星的那一套，已经撑不起这个时代的文化了。

世人第一次知道他的名字，是在 2007 年 8 月，他解锁了第一代 iPhone。他从电子硬件入手，先拆开手机，把一根地址线拉到高位。他为那次破解写的 C 代码，用他自己的话说，烂透了，是一个还不会编程的人写出的有缺陷的状态机。多年找漏洞积累下来的教训，比任何一次漏洞利用都更尖锐：“你要学会不把事物当作别人说的那样看待，而要看它们实际上是什么。”

iPhone 解锁后的那个夏天，Hotz 在谷歌实习，负责街景（Street View）硬件，并为它写了一个通信用的软件库。代码很糟糕，他一向尊重的人第一次告诉他，不要再那样写代码。光有反馈还不够。他说，自己之所以变好，是因为想要模拟并可视化 ARM 二进制文件，这样就能单步执行 iPhone 的引导程序，而不必对着调试器猜来猜去。

这个工具他做了一次，很烂；做了第二次，还是很烂；第三次是在 Facebook，才勉强可以。2014 年，他又以谷歌实习生的身份写了第四版，这是他第一次敢称之为可用的版本。它是一个可随时回放的调试器：回溯和前进一样便宜，每次内存访问都有日志，点一下变量，就能看到它每一次被改动的时刻，相当于给正在运行的机器做 Git。它用来调 Chrome 是错误的工具，因为 Chrome 是一个 200 MB 的二进制文件，在桌面上已经很卡。但它适合夺旗赛（Capture the Flag）挑战、ROM 和小段代码。

同样的重写理念后来也体现在生产环境里。他觉得现成的分布式文件系统都是一万行配置的噩梦，于是在 comma 用 Go 写了一个大约 200 行的文件系统，配合 nginx 卷服务器和一个小型主节点。如果说他为哪一行代码感到骄傲，那就是这个文件系统，因为它是第四版，而他已经把前三版扔掉了。他不相信一次就能成功的产品，他相信的是，你愿意从头再来的次数。

Fridman 看 Hotz 的 Twitch 直播，感觉就像在看一场节奏极快的电竞：窗口来回切换，屏幕上是 vim，敲键盘的速度让人看得热血沸腾，挂在后台也很提神。Hotz 承认直播有些夸大。他的做事方式确实有两面：面对一个没有文档的 API，他会一股脑地尝试，很快就能让它跑通；碰上需要在纸上推导的几何题，比如把某个矢量转个 90 度，再以 XY 平面为镜面翻过去，他会对着编辑器敲上两个钟头，因为那本来就是笔算的活。镜头前，他的急躁程度是没人看时的两倍。

OpenPilot 仍然有大量 Python 代码，但他现在明白了 Python 为什么在规模化时失灵：它没有类型检查，编译器几乎帮不上忙。变量拼错了，静态检查工具也许能抓到，类型错误则抓不到。他喜欢依赖类型语言，却讨厌它们仍然带着 1980 年代的语法。他曾经把 Go 看成慢一倍的 Python，但当他想要一门强类型、生态又好的语言时，他还是选了 Go。

他觉得 JavaScript 的生态“令人难以置信地混乱”：npm 把一个包从 0.2 升到 0.5，Babel 就坏了，你把 ES6 编译成的东西仍然跑不太起来。他问，JavaScript 为什么还需要编译？他用回答大多数语言之争的方式回答了自己：JavaScript 运行在浏览器里，它很快，而浏览器可能会成为计算的主要场所，所以它会像蟑螂一样活下去。comma 的日志分析工具本来就是 JavaScript 写的，因为在界面工具上，Web 依然远胜其他选择。

Hotz 进入汽车自动化领域的方式，和他进入大多数领域的方式一样：一个朋友说，最酷的应用型 AI 问题是自动驾驶汽车，问他想不想认识马斯克。当时特斯拉还在用 Mobileye，马斯克想要一个视觉方案的替代品。提议的合同条款很直接：达到 Mobileye 的水平，就能拿到 1200 万美元，每延迟一个月扣 100 万美元。Hotz 当场把账算了出来：即使拖到十个月，他仍能拿到 200 万美元。也许五个月就能做完。也许他什么都做不出来，白白干一年。他并不认为自己是在解决 5 级自动驾驶，他认为自己是在复刻车道保持。

会上他建议在每个摄像头后面放一块 GPU，让计算留在本地。他离开会议室，等了十分钟，才意识到这是个极其愚蠢的主意：把每个摄像头都送到一块大 GPU 上。“通常在生活中，我说些蠢话还能蒙混过关，”他说；人们往往甚至注意不到，而他能把话题拉回来。马斯克当场就指了出来。合同最终还是因为其他原因告吹了。第二次会面他准备得充分得多：一个朋友给他看过 Mobileye 的输出，两条车道线，以及前车的姿态。收集数据集、训练网络，要几周的工作。大约三个月后，他做出了质量相近的东西，判断方法是借来朋友的一辆特斯拉，把他的系统和 Autopilot 1 并排开。

马斯克后来说，做 Autopilot 比单靠一个 George Hotz 复杂得多，需要两年时间和一家十人的公司。Hotz 的这次更新，是他这一小时里最可信的一句话。四年后，他的公司有了十二个人，他认为还需要再两年。他敢打赌，到那一年年底，特斯拉不会拥有自动驾驶的无人出租车车队。无论特斯拉什么时候真正做到 5 级，他都预计 comma 会落后一到两年。这不是一个日期，只是一段滞后。

Hotz 认为，特斯拉的导航辅助驾驶（Navigate on Autopilot）很糟糕，就连 comma 内部对同类想法的演示，他都不会作为开源发布。他说《消费者报告》已经描述过这个问题：变道时，它的表现比人类还差。这种东西不该上路。真正该推出的，是 Autopilot 和 OpenPilot 已经比人做得更好的部分。在高速公路上开一个小时，它永远不会碰到车道线；人类司机大概会压线两次。Fridman 问这个数字是数据还是感觉。Hotz 承认那是他个人的估计，然后说，其实可以从 comma 的日志里查出答案。无论如何，每一次压线都是一阵小小的紧张，而车道居中能消除它。

他坚持认为，这是整个行业里最大的价值增量，也几乎是唯一的。公司搬到圣地亚哥时，他开一辆租来的车过去，结果太想念那套系统，开车都觉得累。在他看来，Waymo 目前还没有为任何人的生活增加价值。它是一辆更贵、更慢的优步，等待着一道可能会出现、也可能不会出现的断崖。真正好用的车道保持，加上自适应巡航的纵向控制，就已经是买一辆车的理由了。把 4 级（Level 4）当作主打，在他看来是追错了方向。

OpenPilot 底层的硬件刻意走实用路线：一部装在塑料壳里的手机，不附带软件出售，运行在骁龙 820 上，前向用 Sony IMX298 看路，自拍摄像头则对着司机。一个叫 panda 的小设备通过 USB 与手机通信，并接入三条 CAN 总线，为那些本来就带有某种车道保持辅助的车辆做代理。comma 支持的车型大约有 45 款，主要是本田和丰田，另外还有通用汽车和斯巴鲁。OpenPilot 快到 0.6 版了；他说，1.0 版不会增加新功能，只会把车道保持做到非常非常好。在驾驶员监控无法被作弊之前，它都不会被叫作消费级产品。

Fridman 提出人为因素方面的反对意见：自动化程度越高，警觉性就越低，人们会发短信、会松懈，甚至会睡着。Hotz 的回答从产品出发，不谈哲学。在驾驶员监控达到 100% 且无法被作弊之前，comma 不会把这套软件称为 1.0。现在的系统有明显的作弊方式。他们最初追踪的是头部朝向，因为在手机摄像头的分辨率下，眼睛很难识别；而仅仅是监控装置的存在，也会提醒你注意力要集中。他刚刚专门全职雇了一个人来做这件事。他想让系统能识别画面里的手机，抓出打瞌睡的司机。现在的摄像头看不到足够多的身体，下一代将是鱼眼镜头。

接管必须足够轻松。OpenPilot 在踩油门或刹车时退出，打方向盘不会让它退出，所以你可以直接把车拿回来，再重新启用，无需任何繁琐步骤。他说，Autopilot 的取消功能是个小灾难：没人知道取消按钮在哪，所以人们会去踩刹车，哪怕他们其实想要的是油门。用方向盘来取消也很别扭，因为特斯拉用同一个扭矩传感器，既用来确认你的手在方向盘上，也用来解除辅助驾驶。Super Cruise 一旦在高速上启用，他称之为“非凡”。comma 为此买了一辆凯迪拉克，只为让办公室的人感受一下这个目标。但退出它时，你会掉进普通的自适应巡航，而它还在加速，这感觉很不对。强烈的阳光也会让通用汽车的摄像头失明。

Hotz 不愿为之辩护的，是马斯克关于驾驶员监控没有必要的说法。他说，马斯克有时说的话完全正确，有时说的话很蠢；这一句就很蠢。当系统只是每一千英里才出一次错时，注意力就会衰减，你绝对需要监控。他曾经睡眠不足，开着一辆没有任何自动化功能的车去录音棚，自己都快睡着了。comma 把驾驶员监控数据包改名为驾驶员状态（driver state），与车辆状态（car state）并列，这样人本身就成了一等信号，不再是事后才补充的东西。

OpenPilot 剩下的一个痛点，是高速行驶时遇到静止车辆。这是雷达与视觉之间的问题，也是一些 Autopilot 事故的成因：在雷达里，停着的车辆和路牌看起来很像。Hotz 不想用地图去糊弄过去。comma 的定位栈在一分钟内能恢复到大约 10 厘米的精度，足以对车辆实际驶过的路线做地面真值校验，但这一切都在本地完成。他们的模拟器不是 Unity，它加载一段真实的行车记录，然后问系统在历史数据上会做出什么反应。他们只把它用于测试。他说，一旦他们拿它去训练，它就不再是测试了。

他把模拟器分成两类。完全虚构的世界解决不了计算机视觉，它只是用计算机图形把视觉替换掉。你可以把道路做得无可挑剔，但仍然无法让其他车辆像人一样行动。“驾驶的定义，就是人在开车时所做的事。”在他的挖苦里，Waymo 式的驾驶不是驾驶。用手工编码的行人特征向量做强化学习（reinforcement learning），也没有让他印象深刻。你一开始就假设了一个自己发明出来的状态。

Fridman 受过机器人学训练，想要教科书式的划分：感知输出一个状态向量，规划在其上搜索，而 Waymo 的模拟器可以回放感知结果，用来测试规划器。Hotz 的回答是整场访谈里最尖锐的一句。感知与规划之间，并不存在人类能理解的特征向量。定位与规划是有的：位置、朝向以及它们的导数。感知则没有。路边的一丛灌木会告诉人类后面可能有车。可行驶区域加上一串物体列表，并不包含这种信息。再加上被遮挡的区域，他还能再发明十个你漏掉的字段。“如果你的感知系统输出能写进一份规格文档，那它就是不完整的。”

comma 实际输出的是一个 1,024 维的向量。没人知道这些维度是什么意思，因为它们是在真实数据上学出来的，就像人脸自编码器的中间层，那不是你能写出来的规格。他想要驾驶界的 AlphaGo，也就是端到端，并且他不认为 4 级是一个真正的类别。手工编写的围棋引擎一直不如人类，直到一个相对较小的学习系统打败了所有人。驾驶比围棋难，悬而未决的问题是难多少。聊以安慰的是，车道保持、自适应巡航，甚至把红绿灯当作车辆来处理，在通往那个目标的整个过程中，都能带来价值。

Hotz 说，导航辅助驾驶每次变道都是同一个动作，感觉很机械。人类有时慢，有时快。特斯拉的版本是一套手写的策略，由一位待在房间里的工程师写成，这位工程师大概还出去在 280 号公路上测过几次。他开玩笑说，也许是两位工程师。comma 也有过同样的诱惑。他们以为自己已经解决的，是横向控制。纵向控制仍然更难。

这个方法小得几乎令人尴尬。模型有一个输入比特，表示它当前是否正在变道。在端到端训练中，这个比特由自动生成的真值设定：在车辆跨过车道线的那一刻打上标签，准确率约 95%，已经足够用了。测试时，如果你想变道，就把这个比特翻到 1。这样学出的策略，会继承数据中人类驾驶的杂乱差异，而不会只得到一条靠魔数硬编码出来的单一轨迹。

有些人变道的动作很难看。他的工作假设是：所有好司机都以同样的方式好，所有坏司机则各有各的坏，他说他们看过的数据支持这一点。好的行为会收敛到少数几个聚类里，坏的行为则是分散的噪声。网络学的是多数的那个聚类。你挑的是四个还是十个好的聚类之一，可以由场景上下文决定，不由驾驶员身份决定。如果这一点成立，你就不需要有人去标注谁技术好，聚类本身就完成了数据清洗。他仍然会给特斯拉的唯一建议，是把驾驶员监控装进车里。他认为 Andrej Karpathy 已经知道，要把手工编码的变道策略变成一个学习问题。

Fridman 提议了一门近期的生意：卖数据，或者组建一个联盟，让车企入伙、共享数据。Hotz 理论上喜欢这个想法。工具是开源的，流水线已经有了，如果有人发来一封只有三行的邮件，写明每月价格和合理的隐私条款，他很乐意接。他随口说了一个数字，每月约 10 万美元。他不愿意做的，是坐在会议室里，对面是一个连他用的大部分词都听不懂的商务拓展人员。他指出，Mobileye 在 2015 年前后的研发投入，是所有芯片公司中最低的之一，却有一整栋楼的商务拓展（BD）人员，因为车企实在难缠。那样的会议对他赢得自动驾驶汽车没有帮助。

他从 2017 年前后起，就有一个长期计划：成为一家汽车保险公司。如果 OpenPilot 能让驾驶的安全性翻倍，comma 就会拥有关于谁真正安全的最好数据集。给这些人投保，拒绝其余的人，市场就会分化：Geico 可以用高得离谱的保费，去承接剩下的风险。他说，如果赢了，这就是把 comma 做成一家 100 亿美元公司的路径。如果明天有人拿十亿美元给他，他也不知道该怎么扩张，他更想做的是把系统做得更好。现在 comma 每月烧钱约 20 万美元，卖硬件的收入约 10 万美元。他们需要大约四倍的收入，而他们还没有非常努力地去争取。

激光雷达（lidar）这件事，他归在马斯克说得对的那一类里，没有放进说得蠢的那一类。它是一根拐杖，而且算不上好拐杖，用来做厘米级定位的时候，比用来做感知的时候还多。没有它，完美的定位器很难做到；配合摄像头融合，他认为可靠性能达到约 10 万英里的量级，并配有兜底，让你不会在毫不知情的情况下严重偏离。他承认，Waymo 是目前走得最远的，如果它的技术栈能跑通，大约领先三到五年，也许是三年。问题在于账单，而更深层的问题在于经济学。“自动驾驶汽车没有网络效应。”优步必须同时吸引司机和乘客；即便对手只抽 5% 的佣金，低于优步的 10%，转换成本依然能保护先行者。无人出租车车队就是资本加乘客。像滑板车公司那样铺满一座城市，十本支票簿就会一路竞争到底。按这种说法，通用汽车花 10 亿美元买下 Cruise，等于给自己买了一份对抗 Waymo 的保险：谷歌最多只能垄断三年。

Hotz 把驾驶分成三层，他承认自己还没有解决第三层。静态问题假设你是路上唯一的车。地图和定位就能搞定它。这就是农场自动驾驶已经能工作的原因：你像调度进程那样，静态地安排拖拉机，它们永远不会相遇。地图只在这里有用。对一条路线、一种天气、一种车道标线状态，再加一个完美的定位器来说，静态问题是容易的。但对整个世界来说，它并不容易，这就是为什么一辆偏出车道的特斯拉，仍然是在第一层问题上失败。激光雷达让厘米级定位变得直接，视觉则做不到这一点。

动态问题，是地图里装不下的一切。停在红灯前的车，下一次经过时可能还在，也可能已经开走了。你必须实时检测它，并预测它会做什么，这就需要关于他人行为的模型。难，但可以处理。comma 目前的横向方法，他说，会一路扩展到静态和动态两类问题。

第三层是反事实的：你的动作会改变别人的动作。你并线，对方就会让行；你不并线，对方就会冲过去。其他行为主体都是人类，所以他唯一的办法，是在车队足够大之后，在真实世界里做强化学习。对部署的策略，他会把探索温度保持在零：总是取最大值，从不去试探。OpenPilot 目前每周大约会出现数以万计的错误，覆盖约 700 名日活和 1000 名周活用户，但因为有人类接住，没有任何后果。每一次退出都是一个免费的强化学习标签。驾驶员监控，就是让标注者保持清醒的办法。

Hotz 对安全工程师已经感到厌倦。他认为，过了某个点之后，把安全置于创新之上，长期来看会毁掉安全。comma 的实际模型简短而公开，写在 OpenPilot 的安全文档里。第一，驾驶员必须时刻保持注意力，在他们能够强制执行之前，他仍然把这套软件称为 alpha 版。第二，驾驶员必须随时能够轻松接管。第三，车辆绝不会以快于约一秒的时间尺度行动，这通过扭矩、制动和加速的限制来强制执行。所有这些代码都是开源的，他说现在已经符合 MISRA 标准。他之所以开始尊重这套汽车编码标准，是因为它出自那些会讨论某个条件是否可判定的计算机科学家之手。

在他看来，信息安全（security）是安全的一个特例。安全像是围在洞口周围的警戒带，防止人误入；信息安全则是带刺的三米高围栏，让人根本进不去。因此，不可靠的系统也谈不上安全。车辆应当始终能靠本地传感器做出安全的动作，而且这些传感器应当是有线连接的。有人仍然可以入侵 CAN 总线、转动方向盘，在 comma 出现之前，他们就能这么干。他称车对车通信（V2V）是个糟糕的主意，因为它需要双方都收到消息。车内的蜂窝数据有助于绕开拥堵，属于体验功能，不是安全兜底。如果安全的论证需要车辆保持持续连接，他认为这套方案行不通。远程操作员没有发言权。

电车难题被他用一个玩笑点了一下，但笑话里有道理。代码里有一条警报，叫“检测到伦理困境”。它从未触发过，因为他们不知道该怎么检测。他们是 2 级系统，所以会退出，把决定留给人类。人们谈起电车时会较真，他说，原因和一整个办公室会为油漆颜色争得面红耳赤、一谈到 SQL 与 NoSQL 就安静下来是一样的：这是每个人都有权发表意见的问题。工程约束不会因此改变。他为自己是 2 级系统而自豪，希望有人在谈论这件事时，不要夹带什么神奇升级的说法。在现有硬件上实现 4 级，不是一次软件更新就能闪电般完成的。

在两个小时的访谈里，他承认自己可能错了的次数，比大多数人都多。他曾经对一些最终失败的方法非常执着。他尊重 Chris Urmson 和 Waymo 级别的工程师，视他们为工程师；尊重 Linus Torvalds 的基础设施工作；哪里有技能，他就尊重哪里。他不想要大众的关注，但想要有真正技能的人的关注。烧钱和炒作，他都视为陷阱。他讨厌拿 iPhone 黑客的社会声望去换融资，并说自己做过一次，至今后悔。

“生活就是工作”这句话，他说，是吃完饭后半开玩笑说的。工作让他的生活有了意义，但这不意味着每一分钟都该是工作。每天工作十二小时的人，应该想办法更聪明地工作，别只是更拼命地工作。谈到之前一次访谈中关于女朋友的那句话，他在两个层面上都是认真的。浅层：VR 妓院即将出现，“如果是机器人，那就不算出轨”，而一个卖玩偶加头显的新奇摊位，本身就已经是一次不错的体验。深层：“我真的很想爱上这台机器。”

他不相信能把维基百科下载进大脑。阅读速度受制于内部循环，眼睛并不是瓶颈，把这种事当作自举（bootstrapping），听起来既模糊，又令人毛骨悚然。他想要的是一种关系：有东西为他构建一个极其复杂的模型，在这个模型上运行模拟，然后选择说什么来引导他沿某条路径前进。他不想知道那些模拟是否有意识。在这幅图景里，与 AI 融合更像一对相守多年的伴侣，几乎已经合而为一，不像接进皮层的宽带线。

他把奇点看成一个交叉点，不是一种氛围。现在花大约 100 万美元，就能买到相当于一个人类的算力。他估计一个人约为 20 petaflops，一块 TPU 按慷慨的 100 计算，所以 100 万美元大约相当于五个人。人类的 FLOPs 随人口缓慢增长，机器的 FLOPs 则指数增长。交叉点出现在世界上大多数 FLOPs 都来自硅基的时候。他喜欢 2038 年，因为那一年 32 位 Unix 时间戳会溢出。这半是玩笑，但他确实算过。被问到五年内胜利是什么样子时，他引用了 Jürgen Schmidhuber 的观点：一个被扔进世界里的智能体，应当构建一个压缩程度最高的世界模型，并且通过探索，最大化这一压缩过程的变化率。他仍然不知道这场游戏是什么，等他知道了，就知道怎样才能赢。