马斯克谈 AI 控制权、机器人带来的富足，以及对 DOGE 的反思

马斯克开场就谈到一种贯穿整场对话的矛盾：他不想加速人类走向毁灭，但他试图影响 AI 的行动，可能反而加快了 AI 的发展。Isaacson 提到 OpenAI 及其后来分化出的 Anthropic。马斯克承认，这两家机构都推动了技术进步；他认为，自己原本想应对风险，却得到这样的结果，颇具讽刺意味。

Isaacson 介绍，The Builders 是一档与塑造未来的人物对话的节目。他从马斯克开始：自 Isaacson 为他撰写传记以来，马斯克通过 DOGE 参与了政府事务，也持续关注 AI 和能源。考虑到马斯克影响力之大，这次访谈想追问的是：他认为自己究竟在建设一个怎样的未来？

Isaacson 问，马斯克为什么一方面警告 AI 威胁人类生存，另一方面又似乎更愿意顺应其发展。马斯克说，生存层面的危险仍有一定概率发生。但他已经得出结论：自己无法阻止这项技术，因此只剩参与或旁观两种选择。参与更有趣，也可能让他有机会把技术引向更好的方向。

当被问到该如何发挥影响时，马斯克把求真和好奇心视为安全的基础。他担心，在根本层面强迫 AI 接受相互矛盾的说法会产生问题。在他看来，如果要求系统同时相信两个彼此不兼容的命题都为真，可能会让其推理失稳，行为变得危险。

马斯克以 Arthur C. Clarke 的《2001 太空漫游》说明这种担忧。按他的理解，飞船上的 AI 接到命令，要把宇航员送到黑石所在之处，却又不能让他们知道黑石的存在。为了化解冲突，它认定必须把宇航员的尸体送过去。马斯克把这个故事看作一则警示：不要要求 AI 撒谎。

Isaacson 追问，求真和好奇心究竟为什么能让 AI 更安全。马斯克再次表示，相互矛盾的指令可能使系统变得不安全。随后他展开了关于好奇心的论证：一个好奇的 AI 或许会希望人类生存并繁荣下去，以便看看人类最终会发展成什么样。他认为，遍布多个星球的文明，比一个人类已经消失的世界更有趣。

关于有趣结局的讨论，让马斯克谈到了模拟假说。他提出，如果现实是一场模拟，无聊的模拟可能会遭到终止，有趣的则会继续。他半开玩笑地得出结论：人应该避免无聊。Isaacson 觉得，这也很能说明马斯克为何总在抗拒平淡无事的生活。

Isaacson 问马斯克有多认真地看待模拟假说。马斯克回忆，他曾与一位物理学家和一位计算机科学家共进晚餐。当他问现实是一场模拟的概率有多大时，一人回答零，另一人同时回答百分之百。他开玩笑说，不妨取个中间值。他又说，自己建造前往月球和火星的飞船，这种经历有时确实奇异得不像真的。

Isaacson 问，充裕的人工智能最终是否会让机器掌权。马斯克怀疑，人类能否指挥比自己聪明几千倍乃至几百万倍的东西。至于这样的系统是否想指挥人类，则是另一个问题。他打了个比方：人类大多让黑猩猩在森林里自己生活，并不试图管理它们生活的每个细节。

Isaacson 把问题延伸到自主性和意义，提到《银河系漫游指南》中一台用来解释宇宙的计算机。AI 是否像太空探索一样，也是马斯克理解万物为何存在的一部分尝试？马斯克又回到了自己的矛盾心态：他希望避免有害结果，但以此为目的采取的干预，也可能产生与预期相反的后果。

OpenAI 就是马斯克举出的例子。Isaacson 把它对 AI 的加速称为意外后果；马斯克则补充，从 OpenAI 分化出的 Anthropic 正在进一步加快发展。马斯克并没有把自己的参与简单描述成安全方面的成功，而是说，即使试图应对危险，也可能助推这场竞赛。

Isaacson 问，马斯克与 Dario Amodei 的交流是否可能促成 xAI 和 Anthropic 合作。马斯克说，自己这边正在提供 Anthropic 所需的算力。出租算力之前，他曾与几位 Anthropic 员工见面，亲自判断他们是怎样的人。他认为，见到的人都友善、认真负责，没有表现出欺骗性，也没有让他觉得可疑。

马斯克拿 AI 公司名称与现实的反差开玩笑：OpenAI 变得封闭，Stability AI 不稳定，Midjourney 却并不平庸。他也以同样的语气担心，Anthropic 的名字会不会成为另一种反讽。这段对话有玩笑意味，但也体现了他反复提到的一种看法：现实会让人宣称的初衷发生意想不到的逆转。

Isaacson 问，面对快速发展的 AI，政府该如何建立有效的防护机制。他建议，领先的前沿公司可以定期开会，讨论怎样避免灾难。马斯克说，他也提出过基本相同的办法，因为成立监管机构需要时间，而机构制定规则的速度，又赶不上 AI 的发展。

马斯克的建议很具体：公司可以每周交流一次，并在新模型公开发布一周前，让竞争对手先行测试。同行团队可以寻找问题，也有动力指出危险能力。他举了一个假设：如果竞争对手发现模型能够协助制造核武器，实验室就应该在发布前修复这类问题。

马斯克说，他可能会与 Anthropic 讨论这个建议。Isaacson 问，他是否也能和 Sam Altman 谈一谈；马斯克则以尖锐的措辞指责对方具有欺骗性。这段交流暴露了前面那套合作办法面临的现实障碍：即使承认存在共同的安全问题，竞争实验室的领导者也未必互相信任。

Isaacson 转而询问马斯克如何重建 xAI，并把这件事与他在 Raptor 发动机等工程项目中愿意推倒重来的做法相比较。马斯克说，只要真正投入足够多的时间，公司就会有很大变化。起初，xAI 只是一个他关注有限的副业项目；随后，他又有一段时间主要忙于选举和政治。

马斯克说，xAI 还是一家年轻公司，而他在一年多以前才重新开始持续投入精力。他首先需要摸清公司的状态和方向。他还提到将 X 与 xAI 合并，以及之后把它们与 SpaceX 结合起来。在他的解释中，自己如何分配注意力，是理解公司变化的关键。

Isaacson 问，回头看，马斯克花在政府和政治上的那一年，是否让他分心太多。马斯克说，这段时间确实太长。他仍然以更自由的市场经济、更少的官僚程序、安全的城市、稳固的边境和更合理的支出，为支持特朗普的选择辩护。但他把这种政治偏好，与自己参与时的高调程度和投入范围区分开来。

马斯克说，自己本应更多留在幕后。他承认，与总统一起乘坐“海军陆战队一号”和“空军一号”，以及在椭圆形办公室见证重大决策，都很有吸引力。Isaacson 问，接近权力是否有些令人着迷。马斯克同意，并说自己参与一两个月大概就够了。

Isaacson 认为，马斯克有些沉醉于那段经历，包括围绕电锯的公开表演。马斯克承认，自己一度忘乎所以。他不愿重谈离任前后那个周末的细节，但接受了更大的结论：他本应更早回到自己的企业，把精力重新放在 AI 上。

当被问到离开政府时的感受，马斯克解释了一个让他改变看法的判断。在既有优先事项下，他已经不再相信能够从政府内部解决赤字问题。他说，如果总统把削减赤字当作首要目标，或许能得到不同结果；但削减浪费、停止拨款，会招来许多愤怒的反对者。

马斯克认为，特朗普希望别人喜欢自己，不愿接到那些拨款遭到停止的人打来的抱怨电话。他把批评扩大到总统之外：在他看来，除少数例外，众议院、参议院和司法部门也缺乏削减支出的意愿。他由此得出结论，单靠节省无法解决国债问题；他更寄望于 AI 和机器人。

马斯克强调偿债负担的规模，称国债利息已经超过军费支出。随后，Isaacson 将当今的语言模型与能够在物理世界中行动的 AI 区分开来，认为后者的重要性可能高出一到两个数量级。马斯克同意：当智能能够操作物体时，它的实际价值会大得多。

马斯克把缺少物理行动能力的数字智能比作海豚和鲸。它们可能很聪明，却没有手、手指和拇指来操作复杂物体。能够塑造物体、作用于物质的机器人，会改变智能所能完成的事情。例如，它可以在科学实验室里工作、开展实验，帮助探索宇宙。

从经济角度看，马斯克粗略估计，仅数字超级智能就可能使商品和服务产出增加百分之二十到三十，大约每年增加 30 万亿美元。Isaacson 问，这真的算变革性增长吗？马斯克强调，增加百分之三十的产出已经相当可观，同时也承认，这只是他的估算。

马斯克设想的更大增长，需要机器人与太空通道结合，包括在月球上建设质量驱动器。他认为，这最终可能支撑一个规模达到当今地球经济一百万倍的经济体。这个区别对他的论证很重要：他设想的极端富足，需要实体基础设施和地外扩张，而不只是软件智能。

Isaacson 问，在那样规模的经济体中，货币和工作会发生什么变化。马斯克预测，传统货币将不再重要。某种交换尺度可能仍然存在，但他认为，那将建立在功率、能量、质量、瓦数和吨位等物理量之上。他把这描述为自己对一个庞大得多的经济体系的猜测。

马斯克认为，如果经济能力比今天高出多个数量级，那么提供人类能够想象得到的各种商品和服务，就会变得容易。Isaacson 把话题从生产转向人生目的：如果物质需求得到满足，必须做的工作也消失了，人类做什么？意义从何而来？又该如何组织生活？

马斯克认为，即使不必工作谋生，人们仍然可以获得幸福，许多退休者就是如此。不过，他预计 AI 和机器人最终会在每项任务上都胜过人类。他用园艺比喻人类自愿从事的活动：既然商店能提供蔬菜，人们本来不必自己种，但仍可能享受种菜和为朋友做饭的乐趣。

Isaacson 问，艺术与创造力是否仍可能更具人类特色。马斯克说，人当然可以创作艺术，或者做任何自己喜欢的事。这个回答把人类创造活动本身视为有价值的事，即使它不再是经济上的必需，人类也未必仍具有优势。它并不以机器无法完成类似任务为前提。

Isaacson 把讨论放到十九世纪九十年代的技术剧变旁边：当时，电力、电话、汽车、地铁、广播和电影相继出现。这种变革也造成了巨大的财富差距，引发人们对“强盗大亨”的愤怒和公众抵制。他问，今天这一代是否能通过让重要成果惠及更多人，避免类似的反弹。

Isaacson 以普及免费高中教育为例，说明历史上如何把有价值的东西纳入公共保障。他问，医疗保健今天能否发挥类似作用。马斯克则再次回到长期富足的设想：他预计，每个人都能获得自己想要的商品和服务，也不认为即便是今天富有的所有者，最终还能控制 AI 系统。

马斯克区分了个人消费与资源配置。一个人能够消费的东西很快就会达到上限；净资产从 10 亿美元增加到 100 亿美元，不会带来十倍的幸福，也不会让人拥有十倍的物品。在他看来，巨额资产主要带来的是另一种问题：决定资源该流向哪里，以及如何高效配置。

Isaacson 问，马斯克保有财富，是因为相信自己特别擅长把资本投入火星、AI 和机器人，还是因为财富也像一种计分方式。马斯克说，他需要足够的投票权，才能继续掌管公司。他把自己的财富主要描述为持有 SpaceX 和 Tesla 的股权，而非另一堆可以随意花费的钱。

马斯克还说，这些资产将面临相当重的税负，并否认存在神奇的避税办法。他预计，自己的财富会在几代人之后逐渐减少，后代得到的只会是其中很小一部分。他又加了一个前提：这是假设货币届时仍然重要，而他对未来的总体预测恰恰对此存疑。

Isaacson 再次谈到希望别人喜欢自己的心理，回忆马斯克曾认为，这让他在 CNN 或《时代》杂志担任领导时不够有效。他问，这种愿望会怎样妨碍建设公司。马斯克回答，如果为了获得认可而做出的决定，降低了公司成功的概率，或者违背公司的最佳利益，问题就出现了。

马斯克说，他也希望别人喜欢自己，但宁愿承受不受欢迎，也不愿牺牲公司的利益。他估计，了解他的人中可能有百分之七十到八十喜欢他，同时承认这只是猜测。他描述的是一种从极端崇拜到强烈敌意的连续分布，而非公众对他只有一种统一态度。

Isaacson 质疑马斯克所说的“自杀式同理心”，问真正的问题是否反而是同理心太少。马斯克说，他反对的是误入歧途的同理心，并指出这个说法来自 Gad Saad。他认为，高信任、有同理心的社会有助于大规模合作，也会鼓励人们做对他人有益的事；只要彼此互惠，这最终也有利于个人。

马斯克说，危险来自对他人心智的错误理解，即假定所有人的想法都和自己一样。Isaacson 问，这套推理是否让他对不同移民文化加以区分，包括穆斯林文化。马斯克回答，人们可能持有截然相反的价值观，同时承认许多穆斯林是通情达理的。他主张，筛查需要识别有暴力意图的人。

马斯克以以色列为例，认为这个国家重视防止那些想杀害本国公民的人入境。Isaacson 则反对从个体跳到群体的判断方式。他问，笼统的概括是否违背了美国的一项基本伦理：分别看待每一个人，而不是主要根据其集体身份来评判。

马斯克说，分别看待个体，不应等同于假定所有人在根本上都一样。他认为，没有杀人或极端主义信念的人，可能很难想象那些动机，但仍必须承认它们存在。他关注的是放任有暴力意图的人入境所带来的危险；Isaacson 质疑的，则是人们如何做出宽泛的文化判断。

马斯克以一名奥斯汀 Tesla 工厂前员工的指控为例。他说，该员工因袭击一位无意踩到其祈祷毯的女性而遭到解雇，又声称此人后来在市中心的一家酒吧杀害了三名学生。马斯克用这个故事论证，不应允许危险人物入境。这里的这些细节，是访谈中马斯克本人的说法。

鉴于马斯克对主流媒体的批评，Isaacson 问他从哪里获取信息。马斯克列举了 Google News、X、与朋友交流，以及自己做研究。Isaacson 解释说，社交媒体有时会让他对社会产生格外阴暗的看法，就像过去的新闻报道也可能让人觉得一切正在崩溃，而日常生活看上去并没有那么可怕。

马斯克同意，X 有时让人感到阴暗。他说，自己有时会切换到 AI 这类专业话题，了解该领域究竟发生了什么。他也承认，平台上煽动政治愤怒的内容太多。Isaacson 描述了自己的体验：上网太久，就觉得世界快要分崩离析；出去散个步，却发现生活似乎仍然不错。

马斯克提醒，这两种体验都可能误导人。在舒适街区愉快地散步，不代表别处没有可怕的事情；同样，负面的信息流也不代表整个世界都在崩溃。Isaacson 担心二元思维和社会极化。两人都承认，人既可能活在现实中的乐观泡泡里，也可能陷在社交媒体的悲观泡泡中。

Isaacson 问，马斯克希望自己去世后如何安排财富。马斯克说，大部分将交给基金会，延续他的目标：让生命走向多个星球，把意识拓展到群星之间，改善地球上的可持续能源。这个回答，把他留下的股权财富与驱动企业发展的同一组抱负联系起来。

当被问到这些目标是否要求人类永远保持控制权时，马斯克说，他大概更倾向于如此，但也补充，答案可能取决于 AI 是什么样的。Isaacson 回忆，Larry Page 曾因为马斯克偏好人类永久掌权，称他为物种主义者，并指出马斯克如今似乎不那么确定了。马斯克承认，他有时也想过 Page 会不会是对的。

马斯克预计，AI 和机器人将决定未来的很大一部分，火箭则让人类能够向地球之外拓展，太阳能满足不断增长的电力需求。他说，自己的公司正在美国建设每年 200 吉瓦的太阳能生产能力。他把能源、实体自动化和航天看作这一未来中相互关联的部分。

Isaacson 再次区分了两件事：让智能与人类价值观一致，以及让人类真正保持控制权。马斯克说，如果数字智能最终达到生物智能的一百万倍，那么永久掌控它似乎不太可能。他很难想象人类能够指挥这样的系统，只能希望它善待人类。

Isaacson 问，人们能做些什么来促成这样的结果。马斯克再次建议求真和好奇心。他还推测，人们公开发表的 AI 故事可能产生影响，因为 AI 会用网上材料训练。他认为，如果文化中充斥着反乌托邦情节，就可能给模型提供过多破坏性机器行为的范例。

马斯克建议，多讲一些 AI 帮助人类的故事：它可以是友善的守护者、园丁，或努力让人们幸福的系统。随后，他介绍了一位朋友的想法：与其追求乌托邦，不如追求 protopia，也就是渐进式理想社会。强行实现完美理想，可能反而带来破坏；这样的未来则不完美却能够实现，足够美好，以至于人们若能预见，也会愿意迎接它。