Matthew Berman 谈资本、人类抱负与可能的后 AGI 经济

AGI 出现之后，经济和人类的抱负会发生什么变化？我想借一篇 LessWrong 文章《By default, capital will matter more than ever after AGI》探讨这些问题。文章讨论的是推测性的情景，我自己也还在思考哪些观点值得认同。

文章区分了劳动与资本：劳动是创造价值的人类脑力和体力付出；资本品则包括工厂、数据中心和软件。核心观点是，能力足够强的 AI 可能使资本在越来越多领域替代人类劳动。

作者认为，如果人们能够购买自动化的脑力和体力劳动，金钱就能买到更多成果，而劳动者的谈判能力会减弱。文章预测，人们可能更难超越自己的起点，大规模再分配也未必发生。这些都是其假设之下的推论，并非既定事实。

令人担忧的是，社会现有的权力关系可能就此固化。作者把这一问题与物质匮乏区分开来：假设 AI 带来极大的丰裕，政府或许可以提供全民基本收入，人们生活舒适却仍缺乏影响力。

我对全民基本收入的看法有些矛盾。如果自动化创造了巨额财富，把足够的资源分给大家维持生活是有道理的；但我也想知道这会如何影响创造的动力。文章认为财富转移可能减少贫困，但这取决于丰裕程度和政治选择。

作者提出一个思想实验：亿万富豪的财富不断翻倍，用其中一小部分向全世界转移资金。这一计算依赖购买力极快增长和人们愿意再分配的假设；如果转型慢一些，物质需求仍可能得不到满足。这些前提并不等于丰裕必然到来的预测。

我也担心静态社会会削弱抱负。还有另一个问题：如果所有人都拥有所需的东西，什么会激励人们冒险、牺牲并创造？我认为我们还不知道答案。

文章描述了一种常见的乐观回应：提供基本收入，并期待与人类目标对齐的超级智能带来丰裕。对齐本身是一个重大假设。我希望结果美好，但希望并不意味着不付出努力就能保证实现。

作者认为，只要各方相互交易，价格就会传递信息；即便资源十分丰富，也需要分配。我想知道走出地球是否会改变约束，不过前往其他星球本身并不能证明资源无限。

如今，钱并不总能买到最好的人才。在硅谷，优秀人才有时会离开待遇优厚的工作，加入早期创业公司，因为他们想追求使命、挑战难题，并与杰出的同事共事。我在创业时也见过这种情况。

文章比较 Blue Origin 和 SpaceX，说明作者认为资金并不能单独决定结果；我则强调文化和人才的重要性。这只是说明观点的例子，并非检验两家公司成败原因的受控实验。

招聘同样需要判断力。我经营软件公司时，学习编程帮助我评估那些技术比我更好的候选人。顶尖人才稀缺、难以评估，而且他们往往不只会选择薪水最高的机会。

作者认为，先进 AI 可能改变这一瓶颈，因为有足够算力的人可以多次复制和运行能力强的模型。评估其能力仍可能很难，而复制和运行系统也仍需要资源。

在文章设想的智能爆发中，AI 研究员帮助推进 AI 技术，并能扩大规模。如果这种循环真的按设想发生，资本和算力获取权可能产生巨大的影响力。这是尚未证实的未来情景，并非已经展示出无限循环。

人类专家也有自己的偏好：薪酬只是择业因素之一。文章将此与为任务购买 AI 系统进行对比，后者受可用性和安全措施约束。按照文章的假设，这可能让金钱更容易转化为有能力的劳动。

工作为许多人带来收入、谈判能力和身份认同。我对此有亲身感受：经营公司时，我的身份认同与工作紧密相连，而我认为那并不总是健康的。因此，失去工作带来的问题不只是收入。

基本收入需要制度选择提供这种保障。文章讨论了政府关心民众福祉的原因，包括道德承诺、富裕程度和国家激励。它的政治分析追问：如果人类劳动在经济上的必要性大幅下降，这些激励是否会改变。

作者认为，工业时代的国家受益于受教育的劳动者、富裕的消费者、人才，以及支持创新和影响力的自由。他担心依赖自动化劳动的国家，投资于人的竞争性激励可能减弱。制度、权利和政治选择仍然重要，结果并非注定。

另一个担忧是非凡成功的机会减少：没有财富或影响力的人，有时可以通过创业或提出想法获得改变事物的力量。文章认为，如果这条路变窄，现有的等级关系可能更加固化。

创业对我尤其重要。AI 工具已经能帮助小团队完成更多工作，也降低了学习门槛。我希望这意味着会有更多创业公司；文章则追问，在 AI 强大得多的情况下，投资人是否可能不依赖人类创始人，直接运行大量由 AI 管理的创业项目。

我引用了一个关于 AI 的五级框架，从对话系统、推理系统到智能体、创新者，以及能够完成整个组织工作量的系统。这些类别帮助我们讨论可能性，并不能证明未来的级别一定会实现，也不能确定时间。

同样的推测也延伸到科学和思想工作：如果 AI 更擅长发现新知识且能够扩大规模，人们可能更难在这些领域取得非凡影响力。作者认为政治可能仍更以人为中心，因为人们可能更喜欢人类代表，而政治人物也制定规则。

文章还怀疑激进的财富均等化未必会自然发生。在其情景中，国家和企业争夺资本密集型 AI，有权势的所有者保留谈判优势。是否再分配是政治问题；这种分析依赖于对技术和制度的可争议假设。

文章提出的默认结果包括资本购买力增强、人类劳动的谈判能力减弱、通往非凡成就的道路减少，以及没有发生深刻的再分配。这些结论都来自文章的前提，应当视作论证，而非已经证实的预测。

在作者设想的较好情景中，每个人都有高生活水平，但财富和影响力仍不平等，如同一个更富裕、也更静态的挪威。在较坏情景中，AI 所有者拥有不受制衡的权力，固化等级长期存在。两种情景都不是必然结果。

即使物质生活舒适，我还想补充一个关于意义的问题。一位 Loom 创始人的帖子讲述了富裕后仍不知该做什么的经历，展示了一个人寻找目标的挣扎；它不能告诉我们所有人都会如何面对丰裕。

如果 AI 能解决比我们更多的问题，有抱负的人将从哪里找到方向？有些人可能仍有强烈的内在动力。我请 Dave Shapiro 分享看法，他的回应强调寻找有意义的使命，以及做出有趣的选择。

我认同这种鼓励：做出有趣的选择，塑造自己的人生。有关工作、权力和意义的问题仍然开放，未来取决于我们一路上建立的制度和做出的决定。