30 秒看懂
2024 年 3 月,马斯克估计先进 AI 导致人类灭绝的概率为 10% 至 20%,同时认为积极、丰裕的未来更有可能出现。他提出以追求真实和好奇心为 AI 安全目标,并预测 AI 将迅速发展。他说 Neuralink 首位人体试验参与者已能控制电脑光标,但全脑接口仍很遥远。马斯克还认为快速复用的星舰可能让火星自给自足定居点成为可能,并给出时间和成本预测。
- 1马斯克认为 AI 有重大风险,但积极结果更可能他估计出现导致人类灭绝结果的概率为 10% 至 20%,同时强调未来很难预测。
- 2追求真实是马斯克提出的 AI 安全原则他把开发 AI 比作抚养极其聪明的孩子,并认为不应强迫系统说谎。
- 3他的 AI 时间表是概率预测,而非保证2024 年 3 月,他估计 AI 在 2025 年底前超越任何个人的概率约为一半,并认为 2029 至 2030 年前后可能超越人类整体智能。
- 4Neuralink 首位参与者能够控制光标马斯克说,植入物让一位严重瘫痪者能够通过思考操作电脑,但全脑接口仍很遥远。
- 5快速复用是星舰成本预测的核心他说,如果两级都能回收并在几乎不需整备的情况下再次飞行,推进剂可能成为飞行成本的重要部分。
要点建议
- 马斯克对 AI 灾难风险的 10% 至 20% 估计是个人判断,他同时认为积极结果更有可能。
- 他提出的 AI 安全路径强调追求真实和好奇心。
- Neuralink 早期人体植入物实现了光标控制;全脑接口仍是遥远的目标。
- 马斯克认为星舰两级快速复用是降低发射成本的关键。
按章节阅读整理后的全文
超级智能、风险与丰裕
马斯克说超级智能的未来难以预测,并给出个人对灾难风险的估计。他认为丰裕更可能出现。
Peter Diamandis 通过视频连线正在旅途中的马斯克。他问,数字超级智能究竟是人类最大的希望还是最大的恐惧。
马斯克说,超级智能出现后的情况很难预测。2024 年 3 月,他估计导致人类灭绝的结果有约 10% 至 20% 的概率,同时认为积极的结果和物质丰裕更有可能出现。他将这些数字作为自己不确定的判断。
他提到 Iain M. Banks 的“文化”系列小说,认为它描绘了一个有吸引力的 AI 未来。由于他预计 AI 会很快到来,马斯克说人们应努力将其发展引向好的结果。
为什么 AI 应追求真实
马斯克认为 AI 开发应重视真实和好奇心,并将算力快速增长与他对 AI 能力的预测联系起来。
马斯克把开发 AI 比作抚养一个极其聪明的孩子:培养方式很重要。他提出的安全路径是让系统追求真实并保持好奇,即使真相令人不适也是如此。
他用《2001 太空漫游》中的虚构计算机 HAL 说明他所认为的风险:强迫 AI 说谎或遵守互不兼容的指令。他说 xAI 正试图让 Grok 助手即使在答案不受欢迎时也保持准确。
Diamandis 问起马斯克关于 AI 将先后超越个人和全人类的预测。马斯克肯定未来学家 Ray Kurzweil 较早的预测,并说算力和人才增长使 AI 发展异常迅速。
马斯克估计,专用于 AI 的算力每六个月增长约十倍,并预计部分传统数据中心将转向 AI。他称赞英伟达及其 CEO 黄仁勋预见到了 AI 硬件需求;这些增长率是他当时的估计。
尽管他认为好的结果更有可能,马斯克仍问,如果计算机几乎在每项任务上都胜过人类,人们如何找到人生意义。他认为即使在物质普遍丰裕的未来,这仍是挑战。
他认为先进 AI 和机器人可以让商品与服务变得极其廉价且广泛可得。他推测,稀缺可能越来越多地局限于人们选择让其独一无二的东西,例如某件艺术品。
马斯克把特斯拉汽车描述为装在轮子上的机器人,并说其驾驶系统从视觉输入到控制都使用 AI。特斯拉的 Full Self-Driving(Supervised)是需要驾驶员保持注意力的辅助驾驶系统,并非无人值守的自动驾驶服务。
预测与电力瓶颈
马斯克将概率估计与保证区分开来。他预计硬件、变压器和最终的电力供应会制约 AI 扩张。
赞助内容之后,Diamandis 问马斯克能看多远的未来。马斯克说快速变化让预测更困难,但他预计 AI 将能执行广泛的认知任务。
2024 年,马斯克给出约五成概率的预测:到次年年底,AI 可能胜过任何单个人。他说这些估计是概率判断,而非保证。
他认为,如果增长速度持续,数字智能可能在 2029 或 2030 年左右超越人类的集体智能。他的推理将数字算力的增长与对人类高级认知能力的估计作比较。
马斯克预计 AI 扩张的限制因素会变化。在他的描述中,前一年的主要瓶颈是芯片,而电压变压器正变得难以获得,因为数据中心需要把电网电压逐级降至计算机使用的水平。
他预计,随着数据中心和电动汽车转型共同推高需求,后续年份电力供应会成为更大的制约。他开玩笑说,AI 的 Transformer 需要电力变压器。
从光标控制到设想中的脑机接口
马斯克介绍 Neuralink 首位参与者如何控制光标,并将这一早期成果与假想的全脑接口区分开来。
Diamandis 转向 Neuralink,问高带宽脑机接口能否帮助人类与未来 AI 连接。马斯克再次提到“文化”系列小说,其中虚构的神经网将人连接到计算机,并保存记忆和大脑状态。
马斯克强调,Neuralink 距离这种虚构的全脑接口还很远。他说首位人体试验参与者能够通过思考移动电脑光标,让严重瘫痪者有机会使用软件和游戏。
马斯克说,首个植入物约有一千个电极;他推测,全面得多的接口可能需要几十万甚至一百万个。他说导线比人类头发细得多,并强调更远大的目标仍很遥远。
马斯克说,人脑用有限的能量完成了令人印象深刻的工作。Diamandis 将他希望看到的植入物进步,比作特斯拉从 Roadster 到后续车型、SpaceX 从 Falcon 1 到星舰的发展。
另一段广告之后,马斯克设想未来的接口能够记录并将大脑状态恢复到生物身体或机器人身体中。他说这还需要很多年,并推测先进 AI 最终可能帮助解决这一问题。
星舰、火星与复用
马斯克认为星舰可能使自给自足的火星定居点成为可能,并给出他在 2024 年对登月、复用和运营成本的预测。
Diamandis 祝贺马斯克完成星舰第三次试飞,并问起 SpaceX 更大的目标。马斯克说,公司希望开发能够让生命成为多行星生命的航天器,最终使火星上自给自足的城市成为可能。
马斯克说,星舰是他认为首个有可能实现这一结果的火箭,同时承认仍有大量工作要做。美国宇航局记录,星舰第三次综合飞行测试于 2024 年 3 月 14 日进行。
被问及月球时,马斯克在 2024 年说,如果星舰登月需要超过约三年,他会感到意外。他希望当年再飞行数次,并预计助推器和飞船的复用将迅速取得进展。
他把完全、快速复用称为核心目标,因为它可能降低进入太空的成本。他的预测取决于能否回收两级,并在两次飞行之间只需很少工作即可再次发射。
马斯克指出星舰使用液氧和甲烷,并估计如果两级都能完全复用且周转工作很少,每次飞行的推进剂成本可能约为 100 万美元或更低。这一估计基于上述假设中的运营模式。
Diamandis 感谢马斯克,并回忆自己曾劝他资助最初的 XPRIZE,而非创办 SpaceX。他最后鼓励听众追求自己的雄心项目。
同频道的其他文章
2:09:58EN → 简体中文
24:05EN → 简体中文
1:17:00EN → 简体中文