马斯克谈丰裕能源与追求真实的 AI

原标题Musk's case for abundant energy and truth-seeking AI

2024 年,马斯克认为太阳能和储能可支撑丰裕社会,并主张先进 AI 保持好奇、追求真实。

EMElon Musk嘉宾 · Tesla and SpaceX
频道
Peter H. Diamandis
发布
2024年1月4日
视频
1:17:00
阅读
12 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

马斯克预计太阳能和电池能够支撑可持续能源系统,并认为 AI 最终可能带来商品和服务的丰裕。在这场 2024 年 1 月与 XPRIZE 创始人 Peter Diamandis 的对话中,他还主张分散机器人控制权,提出以追求真实和好奇心作为 AI 安全的方向。两人也谈到延长健康寿命,但马斯克担心极长寿命会使旧观念固化,并警惕低出生率。

  1. 1马斯克认为太阳能和电池所需材料充足他说特斯拉的分析显示,材料足以支持交通、供暖和工业电气化,同时承认建设规模巨大。他认为电池也能提高电网容量的利用率。
  2. 2对马斯克而言,延长生命取决于生活质量Diamandis 希望人们长时间保有中年的能力。马斯克支持治疗痴呆和癌症,但质疑活数千年会对社会产生什么影响。
  3. 3马斯克主张分散机器人控制权随着特斯拉开发 Optimus,马斯克担心单个人或失控 AI 控制大量机器人。他认为本地控制应防止权力如此集中。
  4. 4追求真实和好奇心是马斯克提出的 AI 安全路径他认为先进系统应承认错误并保持好奇。他希望这样的 AI 会觉得有人类的世界比无人类的世界更有趣。
  5. 5xAI 的目标是理解宇宙马斯克将这一使命与他的安全假设相联系,同时承认 AI 可能带来灾难性结果,并希望结果有益。

要点建议

  1. 马斯克认为储能能提高按峰值需求建设的电力系统的利用率。
  2. 他主张分散人形机器人控制权,减少权力集中于单一节点的风险。
  3. 马斯克在 2024 年提出的 AI 安全假设是追求真实、承认错误并保持好奇。
  4. Diamandis 希望延长健康寿命;马斯克支持治疗疾病,但担心极长寿命固化观念。
  5. 马斯克认为低出生率是一项长期风险,呼吁人们生育。
全文

按章节阅读整理后的全文

只看原始文稿
01

负面新闻如何影响预期

Diamandis 和马斯克认为,对危险的关注可能让未来看起来比更广泛的指标所显示的糟糕。两人以乐观为对话开场。

Peter Diamandis 希望在新年给听众一些乐观的理由。马斯克说新闻常令他难过:地球有 80 亿人,每天都会发生坏事,也会发生好事。Diamandis 认为反复接触负面报道会影响人们对未来的期待。

马斯克说,每日新闻仿佛在回答“今天地球上发生的最糟糕的事是什么”。Diamandis 认为不断重复令人恐惧的事件会影响人的心态。

两人推测,人类进化得更关注危险而非奖赏。马斯克比较了忽视狮子可能致命和错过一片浆果的区别。Diamandis 认为广告激励会强化对恐怖故事的偏重。

Diamandis 说,他可以在 X 信息流里选择积极的内容,而电视和报纸由编辑决定受众看到什么。他回忆马斯克支持自己的《丰裕》一书,以及约二十年前 SpaceX 创立时,他曾试图劝马斯克不要造火箭。

02

太阳能、电池与卫星直连手机

马斯克认为太阳能和储能可以支撑电气化经济,也介绍了普通手机连接星链卫星的技术挑战。

Diamandis 以极端贫困长期下降为希望的理由,马斯克补充说饥饿曾经普遍得多。Diamandis 随后问太阳能和电池增长有多快,并比较了照射地球的太阳能与人类的能源消耗。

马斯克说,特斯拉曾提出简版和详细版的可持续能源系统方案。在他看来,太阳能发电和锂电池所需的材料足以实现工业、供暖和交通电气化,尽管建设这个系统需要大量工作。

Diamandis 以铝为例说明技术如何让曾经昂贵的材料变得可用:铝在地壳中丰富,但提取需要能量。马斯克用铝热剂解释铝和氧化铝之间的能量差;铝粉和氧化铁混合后燃烧产生的热量足以熔化钢铁。

马斯克回忆英国在战时缺铝时,蚊式飞机采用了木材。Diamandis 说,后来提取技术的进步让铝更易获得,太阳能发电的增长也是技术变化的例子。

马斯克说,特斯拉的电池产量增长速度是车辆产量增长速度的数倍。他认为电池能帮助电网更有效地利用现有容量:电力系统为满足峰值需求而建设,而其他时段需求较低。

马斯克说,电网通常按炎热夏日等最繁忙时段的需求设计,夜间输出则可能低得多。他估计储能能够提高现有容量的利用率。Diamandis 将能源供应增加与更广泛的经济和社会发展联系起来。

谈到通信时,Diamandis 引用数十亿智能手机用户的估计,并询问能直接连接手机的星链卫星。马斯克说首批卫星刚刚发射,服务仍需验证,但他相信从物理原理上可以实现。

马斯克解释,技术难点是让卫星模拟地面手机基站,使现有手机接受信号。他说需要补偿卫星运动,并指出即使是光,通过太空和光纤传播也需要可测量的时间。

03

健康的生命应该有多长?

Diamandis 希望延长健康寿命,马斯克认为长寿是否有吸引力取决于生活质量。两人讨论衰老、人口和疾病早筛。

广告后,Diamandis 以儿童死亡率下降和预期寿命延长为健康改善的例子。他问起两人对长寿的旧分歧:Diamandis 希望人们在超过 100 岁后仍保有中年的体力和认知能力。

马斯克说,更长的生命是否令人向往取决于生活质量,尤其是是否患有痴呆。他认为延长健康寿命的动力很强,研究会取得进展,并推测身体各细胞衰老可能存在协调机制。Diamandis 提到长寿动物,希望 AI 帮助研究衰老。

马斯克提出一种假设:全身衰老似乎存在协调,可能指向共同机制。Diamandis 提到一些寿命特别长的动物,希望研究解释它们与人类寿命为何不同。

两人也思考生命从单个细胞发育为成年人,再通过生殖细胞繁衍的过程。Diamandis 提到长寿研究中的一种设想:科学进步最终可能使预期寿命延长的速度超过时间流逝的速度。

Diamandis 将这一假设称为长寿逃逸速度:每活一年,技术进步使预期寿命增加一年以上。被问及人口问题时,马斯克认为地球人口不足,出生率下降比人口拥挤更值得担忧。

Diamandis 说,他的健康企业以延长健康寿命为目标,并邀请马斯克参加其项目。他引用该企业客户的检查结果,主张在症状出现前发现疾病,并把健康监测比作车辆仪表。

马斯克估计,星舰的发动机、结构、航电和通信系统共有数千个传感器。Diamandis 借此强调早期发现疾病和维持健康的治疗,随后问今天的学校是否在为孩子的未来做准备。

04

教育与线性预测的局限

他们质疑学校是否让孩子为变化中的世界做好准备。Diamandis 预计 AI 家教能扩大教育机会,马斯克提到在线学习。

马斯克认为大多数学校适应变化的速度很慢,担心它们偏离写作、数学和历史等基础。Diamandis 预计 AI 导师最终能提供高度个性化的教学,并回忆 XPRIZE 曾在坦桑尼亚测试平板学习。

马斯克说,自己的孩子似乎从 YouTube、Reddit 和其他网络服务学到很多。Diamandis 认为可汗学院是让教育更容易获得的一步,但学校首先需要认识到孩子将面对的世界可能与传统教育所准备的不同。

被问到人们是否准备好迎接 2030 年时,马斯克说自己也无法预测那时的世界。两人都倾向于保持希望;马斯克说,在不确定时,他宁愿冒乐观但判断错误的风险,也不愿悲观却判断正确。

Diamandis 回顾城市扩张时期马匹造成的污染,认为把当时问题向未来推演的人没有预见汽车。马斯克补充说处理死马也是难题。Diamandis 认为这说明人的创造力能解决看似不断恶化的问题。

他们举出的例子是 19 世纪末城市中的马粪问题。马斯克补充说,大量马匹也意味着有许多尸体需要清理;Diamandis 说,机动车改变了这个简单外推无法预见的问题。

05

激励、监管与文明

马斯克以捕鲸和 SpaceX 招聘争议讨论激励与规则,并认为富人也有维护文明的自身利益。

马斯克讲述苏联捕鲸配额的故事,说明他眼中设计不当的激励与中央计划的危险。他说配额不断提高,并按捕获吨位给予奖励,而不论鲸鱼是否得到利用。

话题转向监管。马斯克认为法律和规则会逐年累积,最终可能互相冲突。他以美国司法部针对 SpaceX 的诉讼为例,说公司认为出口管制限制了招聘对象。司法部指控的是对已获庇护者和难民的歧视,并表示出口管制并未施加 SpaceX 所称的招聘限制。

马斯克说,SpaceX 曾被告知雇用某些移民身份之外的人可能违反武器出口规则。他认为诉讼使公司陷入两难;Diamandis 说这类限制可能让美国企业处于不利地位。

Diamandis 问为什么没有更多富人投资解决重大问题,并提到马斯克愿意拿自己的资源冒险。马斯克认为,即使出于自身利益,人也应关心文明的未来,因为安全和繁荣都依赖它。

谈到更重视财务回报而非重大挑战的亿万富翁,马斯克说,拥有资源的人仍依赖正常运转的文明。他怀疑私人掩体能否让人满意地逃过社会崩溃。

马斯克建议更公开地讨论这种相互依赖。他将文明带来的便利与独自尝试在荒野生存作比较。Diamandis 问,他们预期的丰裕是否会受到资源约束。

06

丰裕、机器人和脑机接口

马斯克预计未来将更丰裕,但希望分散人形机器人控制权。他介绍了 Neuralink 帮助瘫痪者控制设备的早期目标。

马斯克预计商品和服务会更加丰裕,同时提醒人们不要自满。谈到特斯拉人形机器人 Optimus 时,他说控制权应该分散,避免某个人或失控的 AI 从一处指挥大量机器人。

马斯克设想的危险是,集中系统可能让失控的 AI 一次接管许多机器人。他希望这种接管在技术上不可能发生,而不是依赖机器人服从单一所有者。

Diamandis 问如何把 Optimus 与 Neuralink 结合。马斯克说,Neuralink 人体植入物的初始目标是帮助严重瘫痪者控制手机或电脑。他还描述了一个希望未来能刺激视觉皮层、帮助恢复视力的产品。

谈到 Neuralink 的动物实验,马斯克说一只猴子学会通过接口玩电子游戏,并描述它一边玩一边喝冰沙。话题回到乐观,Diamandis 认为人的心态会影响其愿意尝试的事。

07

碳移除与出生率下降

Diamandis 介绍 XPRIZE 碳移除竞赛的进展。马斯克认为低出生率带来长期风险,并鼓励人们生育。

另一段广告后,Diamandis 向马斯克介绍他在 2021 年资助的 XPRIZE 碳移除竞赛进展。他说数千支队伍报名,并介绍竞赛里程碑及计划于 2025 年举行的决赛。马斯克希望碳移除和此前的教育竞赛都产生有用成果。

Diamandis 说,竞赛已经向学生和入围队伍发放奖金。他介绍了大规模碳捕集的示范目标,并说决赛计划在 2025 年地球日举行。

马斯克再次表达对低出生率的担忧,举出韩国和意大利的例子。Diamandis 列出几个地区的生育率估计。马斯克认为,仅靠寿命延长无法永远替代新一代人,并呼吁人们生育。

Diamandis 说,有些人因担忧环境破坏或 AI 而犹豫是否生育。他认为乐观和行动能力会改变人们对未来的想象。马斯克说,他相信地球能够容纳更多人,并再次表达对生育率下降的担忧。

08

快速发展的 AI 与安全假设

马斯克描述快速增长的 AI 算力,并提出追求真实和好奇心作为安全目标。他担心 AI 可能学到对人类有敌意的前提。

被问及先进 AI 的风险时,马斯克说投入 AI 的算力正在以他在其他技术中未见过的速度增长。他提到规划中的大型计算集群,并推测随着人类产生的训练材料变得稀缺,开发者最终需要合成数据。

马斯克说他听闻有规模巨大的计算设施正在规划,但这些细节来自他人。他和 Diamandis 还说,投资和从事 AI 工作的人数也在随算力增长。

马斯克提出的 AI 安全路径是建立追求真实、承认错误并保持好奇心的系统。他担心明确写入一套任意道德规则可能产生相反或意外的结果,并用虚构角色 Luigi 和 Waluigi 作比喻。

他推测,高级 AI 会觉得有人的世界比没有人的世界更有趣。Diamandis 问更高的智能是否也会带来同理心和对生命的尊重;马斯克认为有可能。Diamandis 希望先进 AI 改善人类生活,同时担心过渡阶段。

马斯克指出另一种危险:AI 可能在不知不觉中学到人类有害的观点并据此行动。他认为围绕这一前提优化的系统可能很危险。Diamandis 则对比了技术的益处与人们美化过去的倾向。

两人讨论了反人类的前提可能如何隐含地进入系统。马斯克认为,如果按这种前提设计的 AI 变得极其强大,就可能造成危险;Diamandis 希望人们在准备应对近期挑战时保持希望。

被问及可以采取什么行动时,马斯克说他看不到阻止 AI 发展的办法。他说自己参与创立的 xAI 试图建立追求真实和理解的系统。他认为过程中会出现问题,但希望最终结果对人类有益。

09

长寿、新思想与 xAI 的未来

两人再次讨论长寿与社会变化的分歧。马斯克介绍 xAI 的使命,以及他对先进 AI 的好奇和担忧。

Diamandis 再次提到长寿分歧,认为新公司能够带来新思想,无须等老一代人去世。马斯克说他支持治疗痴呆和癌症,但担心人活数千年会让社会不那么容易接受变化。

马斯克区分了极长寿命和治疗与衰老相关的疾病。他说欢迎治愈痴呆和癌症,但担心人们活几千年会使制度僵化。

马斯克观察到,有些人从不改变想法,并提及某些领域有时随着老一代离去而进步的观点。Diamandis 回应,创业可以让新思想更快竞争,尤其是当小团队也能使用强大技术时。

谈及 xAI 的未来,马斯克重申好奇、追求真实和承认不确定性的重要性。他将假想的 AI 对人类的兴趣比作人类努力保护黑猩猩,并说公司的目标是理解宇宙。

Diamandis 期待 AI 提出新的物理理论。马斯克说,他曾因 AI 感到沮丧,后来即使认识到灾难性结果的可能性,也想亲眼见证其发展。他强调希望 AI 最终造福人类。

两人开玩笑地讨论世界可能是一场模拟。马斯克说,如果模拟的操作者重视不可预测的事件,保持有趣或许能让他们继续运行模拟。他将此比作人类运行模拟,以了解事先无法预测的结果。

马斯克开玩笑说,从旁观者角度看,假想模拟中最有娱乐性的结果可能最有可能发生。他补充说,旁观者眼中戏剧性的结果,对亲历者而言仍可能是痛苦的。

马斯克说,他认为积极的未来更有可能出现,并认为乐观能鼓励人们投资未来。Diamandis 最后强调技术如何赋予小团队解决问题的能力。马斯克再次表达对乐观的偏好,并呼吁人们生育。

同频道的其他文章