马斯克与 Lex Fridman 谈 Autopilot、驾驶员监督和 AI

原标题Elon Musk and Lex Fridman on Autopilot, Driver Supervision and AI

在 2019 年的访谈中,马斯克介绍特斯拉使用驾驶数据的方法并对自动化作出大胆预测;Fridman 追问驾驶员注意力和安全问题。

EMElon Musk嘉宾 · Tesla
频道
Billionaires Note
发布
2019年4月17日
视频
27:10
阅读
5 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

埃隆·马斯克向 Lex Fridman 解释特斯拉如何呈现车辆感知、使用车队数据并开发专用计算硬件。这场 2019 年的讨论围绕如何衡量安全,以及驾驶员是否需要监督自动化系统展开,随后转向对抗样本与通用人工智能。马斯克当时的时间表和安全说法属于预测,不能作为无需监督的依据:特斯拉现行 FSD(监督版)说明要求驾驶员保持注意力并随时接管。

  1. 1显示屏向驾驶员简化呈现感知结果马斯克说,系统渲染识别出的物体供驾驶员快速检查,而详细调试视图面向工程师。
  2. 2驾驶员接管可以提示需要审查的情形两人区分了因系统局限而接管与出于方便而接管。
  3. 3Fridman 追问还需监督多久马斯克提出乐观的 2019 年预测,并讨论监管部门可能要求的统计证据。
  4. 4驾驶员注意力成为核心安全问题Fridman 介绍一项样本较小的研究;马斯克预测自动化发展最终会降低人类监督的价值。
  5. 5马斯克质疑长期保留驾驶员监测的必要性他说系统可靠性低于人类时监测有用,同时预测系统会快速超过这一水平。
  6. 6两人区分狭义驾驶 AI 和通用智能他们最后讨论通用 AI 尚缺少的想法、机器的爱以及世界可能是一场模拟。

要点建议

  1. 马斯克说,车辆显示屏旨在简化呈现系统的感知结果,供驾驶员检查;工程师则使用更详细的调试视图。
  2. 他介绍了车队数据、驾驶员接管和专用计算机在特斯拉开发过程中的作用。
  3. Fridman 提出驾驶员注意力维持的问题;马斯克预测自动化最终会安全到无需人类监督。
  4. 马斯克在 2019 年的近期预测不能视为当前能力:特斯拉表示 FSD(监督版)需要驾驶员主动监督。
  5. 对话最后讨论狭义 AI 与通用 AI 的区别,以及机器是否能令人信服地表达爱。
全文

按章节阅读整理后的全文

只看原始文稿
01

感知、传感器与计算

马斯克解释 Autopilot 显示、车队数据和特斯拉驾驶计算机。

Lex Fridman 问埃隆·马斯克特斯拉 Autopilot 最初的愿景。马斯克认为电动化和自动化是汽车行业的两大变化,并预测完全自动驾驶汽车最终会让传统汽车的实用性大幅降低。

马斯克说,仪表显示旨在让驾驶员检查车辆的感知结果。传感器输入被表示为车道线、附近车辆等对象,再以简化形式显示,让驾驶员与道路实际情况对照。

Fridman 问,如果显示不确定性,是否有助于人们理解计算机视觉。马斯克介绍内部调试视图:一种显示识别出的物体,另一种呈现融合后的向量表示,但他认为这些细节会让大多数驾驶员困惑。

话题转向如何在算法、数据和硬件之间分配资源。马斯克说,特斯拉汽车通过摄像头、雷达、超声波等传感器收集数据,并介绍了公司 2019 年可利用的车队规模。

马斯克介绍特斯拉自研驾驶计算机,称其处理能力高于此前系统。他描述了两个冗余的片上系统,并表示公司尚未触及其性能上限。

02

接管与自动化进展

两人讨论边缘案例、驾驶员接管、导航和马斯克对硬件的主张。

Fridman 问如何找到有价值的边缘案例。马斯克说,驾驶员接管可以触发审查:团队需要区分出于方便的接管和因系统工作不正常而接管。

他还介绍如何利用普通驾驶样本,改进车辆通过路口的方式。Fridman 指出,驾驶员可能因为导航功能尚未设计为处理某个操作而接管。

马斯克认为 Navigate on Autopilot 是重要进展,并介绍了变道、超车和高速公路互通。他还谈到开发版本中的交通信号灯识别和停车功能。

被问及剩余障碍时,马斯克说,随着软件改进并取得监管批准,特斯拉当时新生产的硬件最终能够实现完全自动驾驶。他还预测当时购买的汽车会升值;这是他在 2019 年的预测。

他描述了未来目标,包括通过城市街道和复杂路口、在停车场找到车主或车位。Fridman 问,这类系统还需要人类监督多久。

03

安全与人类监督

Fridman 询问证据、驾驶员注意力和监测;马斯克给出他在 2019 年的预测。

马斯克预测双手扶方向盘的要求可能至少持续六个月,并说监管部门需要有说服力的安全证据。他讨论了与人类驾驶比较碰撞、受伤和死亡风险,以及获得统计上有用数据的困难。

他还认为特斯拉事故受到的媒体关注不成比例。随后 Fridman 介绍其团队对驾驶员注意力的研究,研究依据视频和观察到的 Autopilot 退出情况,并询问样本结果能否推广。

马斯克预测,快速进步不久会让驾驶员注意力变得不那么重要,人类介入最终甚至可能适得其反。这是他在 2019 年的预测,而非 Fridman 所述研究已经证实的结论。

Fridman 问是否应该用摄像头监测驾驶员。马斯克说,当系统可靠性低于人类时监测有意义,但如果自动化变得安全得多,监测的作用就会下降;他把这一转变比作自动电梯。

04

运行范围、对抗样本与 AI

两人讨论辅助驾驶的运行范围、对抗输入、通用 AI 和模拟世界。

Fridman 将特斯拉较宽的运行范围与地理范围更受限的辅助驾驶系统进行比较。他询问其中的权衡:更宽的范围让驾驶员遇到更多场景,也意味着他们可以在许多不同条件下使用系统。

马斯克预测,未来人们会觉得手动驾驶很不寻常。随后 Fridman 提出对抗样本,即有意设计来混淆神经网络的输入,并询问系统是否能够防御。

马斯克提出训练系统同时识别有效物体和对抗模式。他认为这类攻击容易阻挡,是他在访谈中的判断,并非已被证明的通用解决方案。

讨论从驾驶转向通用人工智能。马斯克说,狭义驾驶系统与通用智能不同;他认为实现通用智能仍缺少重要想法,同时预测进展会很快。

被问到 AI 是否能够爱上一个人时,马斯克说,它可能会令人信服地制造这种印象。他从物理学角度思考:如果任何观察都无法区分这种行为与爱,那么两者的区别就难以确立。

两人将这一问题与模拟世界能否与现实区分联系起来。被问到会向通用人工智能提出什么问题时,马斯克回答:“模拟之外是什么?”

就当前使用而言,特斯拉的 [FSD(监督版)说明](https://www.tesla.com/support/fsd)指出,驾驶员必须保持注意力并随时准备接管;已启用的功能不会使车辆成为自动驾驶汽车。

同频道的其他文章