Matthew Berman 评扎克伯格的 AI 愿景：算力不平等如何影响普惠

扎克伯格的文章提出了一个问题：谁将控制超级智能，人们又将如何使用它？我赞同个人赋能、发明创造和权力平衡的愿景，但我认为其中的核心承诺有个严重弱点：能使用同一个模型，并不意味着每个人都能平等获得运行它所需的算力。

在我看来，Meta 提倡广泛使用和开放模型，而 Anthropic 等实验室采取的安全路线更加集中。这是我对各方立场的理解，并不代表扎克伯格在文中点名了 Anthropic。我担心少数人决定什么对所有人最好。

扎克伯格质疑，认为 AI 会消灭大多数工作的人为何还急于创造这种未来。我也有同样的疑问，包括听到 Dario Amodei 警告白领工作可能大量流失的时候。我担心权力过度集中本身就很危险；历史让我乐观地认为，技术最终可以增加繁荣，尽管转型过程可能很艰难。

文章认为，超级智能最大的贡献将是发明创造，而不只是自动化。这让我想起自己的公司：自动化重复工作让我们有余力制作新的、更好的内容，我们反而更加忙碌。扎克伯格主张广泛分配智能，让个人掌握其使用方向，而不是由少数专家做决定。

他设想的具体应用包括一个全天候为人们处理人际关系、健康、职业、财务和家务的智能体。它可能节省时间，但人们会有不同选择：有人可能减少工作，也有人会利用这些时间做更多事情。

一则关于 Meta 首席技术官 Andrew Bosworth 的报道体现了这种张力。有人问 AI 提高生产力后是否应该恢复额外休假日，他主张利用多出来的时间为用户做更多事情。有人向往更多休闲，也有人想投入更多工作，但个人的偏好和雇主的期望未必一致。

扎克伯格还承诺为个人内容提供强大的隐私和安全保障。考虑到 Meta 过去的隐私记录，我觉得这有些讽刺；对于眼镜这种交互形式，我也不像一些人那样热衷。这些是未来产品的设想，不能证明所有隐私问题都已解决。

文章预测，强大的工具会让经济更具创业活力。作为创业者，我喜欢不必融资或组建大团队就能尝试想法的前景。小团队已经可以达到很高的估值；按我在视频中的说法，十亿美元估值的单人公司仍是预测，并非已经实现的里程碑。

我想到许多过去解决成本过高的长尾问题。成本下降可能让更多想法在商业上可行，包括针对罕见疾病的研究，也可能催生更多创业者。个性化导师、教练和更广泛的科学参与都符合这种愿景，但设想中的治疗方法不等于已经证明有效的疗法。

关键段落说，Meta 将提供面向数十亿人的免费版本，并为愿意支付更多算力费用的人提出拍卖机制。扎克伯格认为，这能让智能价格可负担，并将容量分配给有价值的用途。我认为这里存在张力：即使免费基础服务覆盖广泛，支付能力更强的人仍可购买多得多的算力。

如果更多算力能带来更多有用的智能，那么即使使用相同模型，更富有的人或公司也可能占据优势。我担心这会固化现有经济地位，形成我所说的永久底层。这是对一种可能未来的担忧，并非已经证明的必然结果。

扎克伯格列出工作岗位流失、社区影响、网络和生物滥用、监控、地缘政治竞争，以及保持对超级智能控制等风险。他不认为一个完全对齐的系统能同时满足所有人相互冲突的价值观，因此提议分散权力，以制衡权力集中。

我同意不能由单一机构决定所有人的未来。但如果模型能力变得普遍可用或商品化，决定性资源可能就变成人们买得起多少算力和能源。呼吁广泛使用本身，并不能解决购买力不平等。

看看扎克伯格关于超级智能律师的思想实验。如果只有一方拥有这样的律师，就可能压倒对手；如果双方都有，他认为司法可能更公平。我的反驳是，拥有更多算力的一方仍可能投入更多研究、并行工作或深度推理，重新形成资源差距。

在网络安全方面，扎克伯格认为广泛使用智能防御工具可以提高系统安全性。我猜想大型防御方的资源可能超过许多攻击者，因此算力优势在这个特定场景下可能有帮助。这是对攻防力量对比的假设，并不能保证所有系统都安全。

商业案例和律师案例提出了同一个问题。如果每家公司都能使用强大的模型，拥有数据中心和资本的大型在位企业仍可能比初创公司投入更多。Meta 认为其关注个人的路线可以避免权力完全落入机构手中，但大机构仍能购买更多算力。

谈到就业，我再次认同文章的乐观态度。社会有许多未满足的需求，AI 可能降低解决问题的成本，让过去回报过低的问题，包括罕见病研究，更有可能获得关注。这是一种经济层面的可能性，并不证明某种疾病一定能治愈。

扎克伯格承认算力有限，使用它存在机会成本。他认为，创造有价值的新事物可能比替代现有工作更值得分配资源。我担心资金雄厚的公司看到初创企业的好点子后，可以调动更多资源与之竞争，尽管竞争结果并不只取决于算力。

文章预计会出现新职业，举例包括单人产品工作室、世界构建者和个性化生物学工作，同时提到应用开发者等过去出现的新职业。我对新工作随着旧任务改变而出现持乐观态度。农业就业占比下降说明技术改变了工作结构，但过去的转型并不能保证 AI 转型轻松。

扎克伯格还预测公司规模可能缩小、数量增加，而总工作岗位未必减少。我能想象小团队服务过去不具经济效益的长尾市场。不过，这种未来仍取决于人们能否并愿意创业，以及适应不断变化的工作。

数据中心面临公众反对，因此文章主张让所在地社区共享收益。它以路易斯安那州 Richland Parish 为例：与 Meta 建设相关的税收增长支持了教师获得大额奖金。Meta 将奖金描述为最高 5 万美元，并非每位员工的金额都一定相同。

扎克伯格说，Meta 的目标是在 2030 年前，在运营所在流域恢复的水量超过消耗量；在水资源紧张地区，目标是恢复用水量的 200%。我提到一些新设施使用闭环冷却，但冷却回路本身无法证明整个设施的用水足迹。这些是公司的目标和设计说法，并非对每个设施结果的独立验证。

谈到安全，扎克伯格认为防御方可以拥有更多算力，有时还拥有更先进的模型。我认为这正是我在其他领域担心的资源不对称：更多资本可以转化为更大影响力。仅仅让模型权重广泛可用，未必能平衡基础设施规模悬殊的机构之间的力量。

我们都认为能力集中会带来自身的风险。对于生物和化学滥用，我认为掌握知识不等于具备实体生产能力，因此支持管控危险材料、设备和设施。这是有争议的安全判断：强大工具的获取也可能改变行为者的能力，实体管控不能保证消除滥用。

在中美竞争方面，扎克伯格认为芯片出口管制减缓了外国实验室的进展，应当继续实施。我将此与英伟达的黄仁勋作对比：后者认为限制可能促使中国开发替代品，并削弱美国的影响力。我也指出，英伟达在芯片销售上有商业利益；管制的效果与后果仍有争议。

扎克伯格呼吁美国建设更多能源设施和数据中心，认为中国正在扩大相关能力。我担心地方反对会拖慢项目，但视频中关于数据中心在全国遭禁的笼统说法，不应理解为存在一项统一的全国性禁令。

文章还维护模型向其他模型学习的原则，并呼吁重新考虑蒸馏与训练数据方面的政策。我将其理解为对封闭模型实验室的挑战，尽管扎克伯格在该段没有点名 Anthropic。我赞成遵守适用的知识产权法律，并在适当时讨论修改；具体法律地位取决于实际情况。

蒸馏可能让竞争者以更少的钱和时间借助昂贵的前沿模型构建产品，从而改变模型创造者能够获得的回报。我推测，针对中国获取能力的限制可能仍会与国内使用区别对待；这是我的理解，并非文章确立的规则。

最后，扎克伯格讨论递归自我改进，并提出如果多个实验室大致同时实现这一能力，而且系统是善意的，它们或许可以相互制衡。我质疑这个假设：如果改进迅速复合，领先者可能在其他人追上之前扩大优势。其机制和结果都仍属推测。

总体来说，我喜欢开放使用的愿景，希望每个人都能从强大的 AI 中受益。我尚未解决的担忧是谁控制算力和能源。我希望基础设施所有者有动力解决众人需要解决的问题，因为闲置或没有生产力的算力不会产生回报；我仍在思考，这种希望如何与资源集中相协调。