30 秒看懂
在 2024 年 10 月未来投资倡议会议上,马斯克预测 AI 将快速进步,并设想机器人让商品与服务变得充裕,同时估计 AI 存在造成严重伤害的非零概率。他讨论能源限制,并提出追求真相的 AI 作为安全方法。他对机器人、火星任务和无需监督的特斯拉车辆给出的时间表属于预测;FSD 监督版需要驾驶员积极监督。
- 1马斯克预测 AI 快速进步并承认风险他估计出现坏结果的概率为 10% 至 20%;对话没有证实这一速度或概率。
- 2AI 增长需要电力和基础设施他将变压器、安装和电力列为可能的限制因素。
- 3机器人数量与价格是长期猜测马斯克预测 2040 年人形机器人数量将超过人口,售价约为 2 万至 2.5 万美元。
- 4火星与无人出租车时间表是 2024 年预期他介绍有条件的 Starship 任务和特斯拉部署预测;监督版功能需要驾驶员。
要点建议
- 马斯克对 AI 出现坏结果的 10% 至 20% 概率估计是主观判断。
- 他预计算力、变压器和电力将在不同阶段限制 AI 扩张。
- 他对 2040 年机器人数量、价格和充裕经济的描述属于推测。
- 特斯拉表示 FSD 监督版需要驾驶员积极监督,不会使车辆成为自动驾驶汽车。
- 人口变化取决于生育率、死亡率和迁移,而非仅取决于生育率。
按章节阅读整理后的全文
AI 进步与负面风险
马斯克预测 AI 能力发展,讨论主观风险估计及其安全方法。
彼得·戴曼迪斯欢迎埃隆·马斯克参加利雅得未来投资倡议会议的对话,并回顾其公司近期进展,包括 xAI 计算集群、Starship 第五次试飞和 Cybercab 发布。
被问及 AI 进展时,马斯克说能力难以准确量化,但估计每年可能提高十倍。2024 年 10 月,他预测系统可能在一两年内达到个人的人类能力,数年后超过人类整体能力。这些是他的预测,并非测得的结果。
马斯克估计 AI 出现坏结果的概率为 10% 至 20%,同时认为好结果更可能发生。他将高级 AI 称为重大的近期生存风险;这些百分比是他的主观估计。
他还将低生育率列为长期担忧,预测一些国家人口将大幅下降。[联合国](https://www.un.org/sustainabledevelopment/blog/2024/07/press-release-wpp2024/)指出,人口轨迹取决于生育率、死亡率和迁移;当前生育率本身不能决定一个国家未来的人口。
戴曼迪斯问如何减少 AI 的负面风险。马斯克主张建立追求真相、重视人类的系统,并批评他认为其他模型中存在的政治偏见。这是他提出的安全路径,并非经过证明的保证。
能源与国家级 AI 基础设施
他指出基础设施限制,并预测各国将发展计算能力。
谈到 xAI 的 Colossus 集群,马斯克说变压器、安装以及最终的能源供应可能限制 AI 增长。他预计计算和交通电气化将增加需求,并预测长期来看太阳能会主导能源供应。
被问及各国应如何行动时,马斯克说训练前沿模型需要大量算力和专业能力。他预测国家级 AI 计算基础设施将逐渐普及。
人形机器人与充裕未来
马斯克预测机器人数量和价格,并描述可能的充裕经济。
戴曼迪斯问到 2040 年的人形机器人。马斯克预测机器人数量可能超过人口,一台有用的机器人可能售价 2 万至 2.5 万美元。他承认自己在时间上可能乐观;这些数字属于推测。
马斯克与戴曼迪斯讨论一种可能的充裕未来:AI 和机器人使商品与服务便宜得多。马斯克的描述以 AI 发展走向良好为前提,是预测而非已经证明的经济结果。
Starship、自动驾驶汽车与 Optimus
他概述有条件的火星计划、车辆时间表和推测性的商业估值。
谈到 Starship,马斯克预测将在下一个火星转移窗口发射无人飞船,如果无人任务成功,两年后可能执行载人任务。他认为监管审批拖慢发射进度,并表示更倾向特朗普政府;这些是 2024 年的预期和政治观点。
马斯克预测部分特斯拉车型将在 2025 年于得州和加州实现无需监督的驾驶,并预计 Cybercab 2026 年规模化生产。[特斯拉 FSD 监督版说明](https://www.tesla.com/support/fsd)指出,该功能需要驾驶员积极监督,不会使车辆成为自动驾驶汽车。
他预测未来自动驾驶车辆会比人类驾驶安全得多,Optimus 也会成为规模很大的产品。他引用数万亿美元估值情景,并设想“普遍高收入”的未来;这些是推测,并非已实现的表现或回报。