30 秒看懂
马斯克预测 AI 将超过全人类智能并带来富足,但告诉 Zanny Minton Beddoes 过渡可能坎坷。他建议 AI 竞争企业在前沿模型发布前相互测试;Beddoes 追问被替代的劳动者如何生活,并质疑他对公司和 Starlink 的控制。双方还就乌克兰、援助削减的人道代价,以及马斯克对英国和欧洲移民的描述发生尖锐分歧。
- 1马斯克仍看到 AI 风险,但说无法阻止其发展势头他认为富足最有可能出现;Beddoes 追问他此前风险估计的含义。
- 2他建议竞争者在前沿模型发布前相互测试马斯克建议定期开会并提前一到两周开放测试;严重风险未解决时政府应介入。
- 3Beddoes 追问失业者如何走向富足马斯克预测工作将成为可选项并提出全民高收入,同时承认过渡坎坷。
- 4马斯克为公司控制权辩护,称其有助于长期计划Beddoes 质疑权力集中;马斯克说表决权有助于抵御不利于投资的季度压力。
- 5两人争论 Starlink 对乌克兰战争的影响马斯克介绍终端批准名单并主张谈判和平;Beddoes 质疑他的地缘政治权力和判断。
- 6双方对援助削减的人道代价意见相左马斯克说没有人因此死亡;Beddoes 否认这一说法,认为可能造成痛苦和死亡。
- 7Beddoes 质疑马斯克对英国的警告她说他夸大犯罪与移民问题;马斯克为自己的预测和政治参与辩护。
要点建议
- 马斯克建议 AI 公司定期召开安全会议,并在前沿模型发布前让竞争者短期测试。
- 他预测工作将成为可选项并支持全民高收入,同时承认过渡困难。
- Beddoes 质疑他集中的公司与地缘政治权力,包括对 Starlink 的控制。
- 马斯克与 Beddoes 对援助削减后的死亡情况、英国和移民问题意见相左。
按章节阅读整理后的全文
富足、控制与 AI 风险
马斯克预测 AI 将更聪明并带来富足;Beddoes 追问控制和灾难风险。
Zanny Minton Beddoes 问,如果马斯克的公司都取得成功,十年后的世界会是什么样。马斯克预测,约五年内 AI 可能超过全人类智能的总和,并说十年后最可能出现富足时代。
Beddoes 问,如果 AI 主导收入,马斯克的公司将如何赚钱。马斯克说,数字智能需要机器人这样的物理“执行器”来生产商品和提供服务,并设想两者结合后经济规模会大得多。
被追问投资者回报时,马斯克预测,如果 AI 和机器人生产的东西超过人类消费能力,到 2036 年货币将不再重要。被问到谁控制机器人时,他说人类不太可能控制远比自己聪明的 AI,并主张让系统追求真实、保持好奇和关心人类。
Beddoes 提到马斯克此前对失控 AI 的警告,以及灾难性结果可能有 10% 至 20% 概率的说法。马斯克说风险并非零,但他认为 AI 和机器人进步难以阻止,积极结果最有可能。
马斯克说,自己开始把注意力放在积极可能性上,尽管即使想阻止也看不到办法。Beddoes 追问,如果灾难概率很高,是否应该改变这一立场。
被问到如何降低风险时,马斯克说,实际目标是降低坏结果发生的概率。他反思,自己参与创立 OpenAI 以及后来 Anthropic 的出现,可能加速了这一领域的发展,尽管这并非他的原意。
AI 竞争者如何相互测试
马斯克建议定期开会并提前测试前沿模型,包括中国开发者。
Beddoes 问起监督提案,并提到 Demis Hassabis。马斯克说,他建议领先 AI 公司定期开会,并在前沿模型发布前开放一到两周的早期测试,让竞争对手识别安全问题。
马斯克认为,竞争对手拥有技术知识,也有动力指出彼此的风险。他建议通过接口测试,而不是交出模型;Beddoes 问,互不信任的竞争者是否能合作。
话题转向中国模型。马斯克说,中国企业用相对较少的算力取得了强劲成果,如果获得更多算力就有可能领先;他将电力、芯片和机器人列为重要约束或能力。
被问到美国是否应禁止国内企业使用中国模型时,马斯克说他认为这无法阻止中国领先。他认为算力取决于芯片供应、电力和冷却。
马斯克预测,中国解决先进芯片制造约束的速度可能比许多人预想的更快。他说,中国以外受电力约束,中国境内受芯片约束,并认为太空数据中心可能改变这种格局。
Beddoes 问,中美企业是否必须在安全方面合作。马斯克说应纳入中国前沿模型公司,并建议在危险模型的开发者拒绝应对风险时通知政府。
Beddoes 质疑是否应该依赖模型开发者,并问政府是否应保留决定模型能否发布的权力。马斯克同意政府应拥有该权力,但说具备技术知识的企业可以发现问题并促使政府行动。
马斯克再次主张每周或隔周举行会议,并让竞争对手短期提前测试模型。他把这一安排比作行业组织,并说严重危险未得到处理时政府应介入。
Beddoes 问,AI 负责人之间的个人敌意是否使合作不现实。马斯克因 OpenAI 从最初的非营利、开源目标发生变化而批评 Sam Altman,但说必要时负责人可以搁置分歧。
就业与通往高收入的道路
Beddoes 问被替代的劳动者如何生活;马斯克预测工作将成为可选项。
Beddoes 转向劳动者的担忧,问 AI 和机器人会多快替代工作。马斯克说过渡可能坎坷,并预测包括软件工程在内的数字工作会很快受到影响。
马斯克把 AI 编程比作远强于人类棋手的国际象棋程序 Stockfish。他预计类似优势将扩展到软件之外,而实体工作还需要能力足够的机器人。
马斯克说工作可能变成可选项,并把它比作商店有蔬菜时仍选择自己种菜:人们可能为了个人价值而继续工作。Beddoes 问被替代的人如何生活,以及政治反弹是否会打乱过渡。
马斯克回答说,将来会有全民高收入,同时承认过程可能坎坷。他举出人工计算员等随着计算机普及而消失的工作,但说当前变化的速度快得多。
马斯克推荐伊恩·M·班克斯的《文化》系列小说作为对 AI 未来的想象。Beddoes 说自己已经开始阅读,但她对人类相较强大机器所拥有的有限自主权感到不安。
Beddoes 问,是否需要提高税收和再分配来支持失业者。马斯克建议财政部可以发放款项,并认为如果商品和服务的增长快于货币供应,就可能出现通缩而非通胀。
Beddoes 说,她担忧的是如何从当前两极分化的社会走向他描述的富足:恐惧的选民可能要求国有化或大幅加税。马斯克说,自己的感受也可能在兴奋与恐惧之间摇摆,并重申风险真实存在。
税收、所有权与权力集中
采访者问及再分配以及马斯克对公司的控制。
被问到是否应缴纳更多税款以资助转移支付时,马斯克说自己已经支付大量税款,预计未来会支付更多。不过,他认为在货币重要性降低的未来,税收也可能变得不那么重要。
Beddoes 问普通人是否应获得他旗下公司的股份,并把这一想法与公共财富基金作比较。马斯克说,SpaceX 上市让更多人可以购买股份,随后谈到自己预计为持股支付的税款。
Beddoes 提出权力集中在少数科技领袖手中的问题,问一个人控制公司是否合理。马斯克说,表决权控制让 SpaceX 可以按五到十年的期限投资,而不只是回应季度业绩压力。
他说,即使预期长期有回报,建设月球或火星基地也可能压低短期收益。马斯克认为,基金经理自身较短的考核周期可能把追求即时回报的压力传递给企业。
被问到公司对他个人的依赖时,马斯克说特斯拉和 SpaceX 都有可以指导未来数年的路线图。他将情况与乔布斯去世后的苹果作比较,同时认为创始人能够贡献新的突破性想法。
Beddoes 问,轨道 AI 和月球制造是否取代了他对火星的兴趣。马斯克说,自己的目标仍是将意识延续到未来,并说科幻作品中的航天文明给了他灵感。
Starlink、乌克兰与个人权力
双方讨论卫星通信使用,并对战争与和平有尖锐分歧。
采访者转向 Starlink 在乌克兰战争中的作用,问其地缘政治权力。马斯克说,在俄军通过中间途径获得设备后,公司与乌克兰共同制定了获准终端名单,同时承认部分无辜用户因此失去服务。
被问到自己是否能影响战争结果时,马斯克说他希望达成和平协议,并认为持续作战代价高昂。他认为俄罗斯完全撤出占领区不现实。
马斯克说,自己主张让步是为了务实地实现和平。Beddoes 质疑他对战争的判断,并回到原来的问题:个人是否应通过开关通信服务行使如此重大的权力。
政府削减支出与援助争议
马斯克说自己过于投入政治;双方对援助削减是否致死意见相左。
讨论转向马斯克的政治角色及政府削减成本的努力。他说自己过于投入政治,同时为审查赤字、支出和可能存在的欺诈的目标辩护。
Beddoes 说,突然关闭援助项目很可能造成痛苦和死亡。马斯克否认这一说法,称其他机构可以资助援助,并认为部分资金已被转移;Beddoes 对他的说法提出异议。
双方继续争论私人基金会能否迅速填补资金缺口。马斯克坚持认为没有人因此死亡,Beddoes 则说她不接受这一结论。
被问到对政府整体的看法时,马斯克说自己并不赞同其所有做法,但认为总体表现比另一种选择好。
英国、移民与马斯克的政治影响
Beddoes 质疑马斯克的说法和政治支持;他为自己的观点辩护。
Beddoes 问,马斯克为何支持她所称的欧洲极右翼政治人物。马斯克反对这一称谓,说自己支持安全边境、安全城市和合理政府支出。
Beddoes 质疑马斯克关于英国必然发生内战的说法,指出自己住在那里,并不同意他对犯罪和移民的描述。马斯克说自己最近几年没有到访,但坚持认为当前趋势可能导致冲突。
Beddoes 说,他的帖子影响了美国人对英国的印象,并批评他推广一部她认为美化针对穆斯林家庭私刑暴力的电影。马斯克说这部电影值得一看,并将话题转向言论自由和审查。
Beddoes 说,她也反对某些言论限制,但认为马斯克夸大了欧洲的问题。两人对犯罪和融入问题的规模意见不同,马斯克建议两人一起走访英国。
被问到为何一边谈变革性的 AI 未来,一边深度参与分裂性的网络政治时,马斯克否认自己是种族主义者,并提到自己的家庭和公司高管的多元背景。
被问到是否反穆斯林时,马斯克说他反对持有他认为与所在国公认法律和价值观不相容的观念的人入境。Beddoes 说,他的描述夸大了欧洲面临的挑战。
Beddoes 认为,他支持的部分政党中有人持极端主义观点,并问他为何应从国外影响欧洲政治。马斯克说,他把西方看作一个整体,并希望自己的参与产生影响。
两人争论公众对新闻业的信任以及社交媒体在两极分化中的作用。马斯克批评媒体;Beddoes 承认新闻工作者会犯错,但说他在 X 上推广的内容可能加剧分裂。
Beddoes 说,《经济学人》重视个人自由并担忧权力集中,她问马斯克是否仍认同古典自由主义。马斯克重申自己重视安全城市、安全边境和合理支出。
两人对美国和欧洲在安全及支出方面哪个表现更好意见不一。Beddoes 说美国凶杀率更高,并提到枪支;马斯克强调反复实施暴力犯罪者,并说欧洲存在严重问题。
Beddoes 认为,他对某些政治人物的支持可能加剧欧洲分裂。马斯克拒绝她的描述,并说自己的目标是安全边境和新移民融入。
马斯克认为,生活水平和福利差异会形成移民动机。Beddoes 同意经济条件重要,但说移民也能让老龄化的欧洲受益。
马斯克说,他支持诚实作贡献、善待他人的移民,并指出自己也是美国移民。Beddoes 认同这些原则,但认为欧洲在移民融入方面做得比他描述的更好。
人们的误解与未来预测
马斯克描述自己的政治立场,并预测 AI 变革将先于他所预言的英国冲突发生。
被问到人们最误解他什么时,马斯克说自己的政治观点属于中间派,并反对极右翼标签。他再次表示担忧,认为不相容的观念和融入不佳可能导致冲突。
马斯克说,他认为自己预测未来的记录不错,虽然并非完全准确。Beddoes 回应说,随着时间推移,证据将帮助判断哪些看法正确。
被问到更有把握的是 AI 预测还是政治预测时,马斯克说 AI 和机器人变革将在十年内占据主导。他预测这会早于他所预期的英国国内冲突;Beddoes 希望 AI 能帮助防止这类结果。