开放权重 AI：Theo 解读 NVIDIA 公开信与 Anthropic 回应

NVIDIA CEO Jensen Huang 分享了一封支持开放权重 AI 模型的公开信，许多科技公司签署，其中包括 OpenAI。Anthropic 没有签署。我会阅读公开信和 Anthropic CEO Dario Amodei 的回应，了解各方的共同点与分歧。

直接背景包括一位美国官员的指控：Moonshot 为 Kimi K3 大规模蒸馏 Anthropic 模型输出，并获得先进 NVIDIA 硬件的访问权。讨论中有人质疑这一指控，不能仅因为一则帖子就把它当作已证实事实。

NVIDIA 在这场争论中有商业利益：训练和运行模型都可能需要芯片，模型使用更广也可能带来更多硬件需求。但这种利益本身不能决定公开信的论点对错。

批评者质疑官员所述的蒸馏方式，也指出更广泛的 AI 训练数据问题。我对该指控以及把所有蒸馏都视为窃取的做法持怀疑态度。但我的怀疑并不能证明 Moonshot 做过或没有做过什么。

这封题为《Open Weights and American AI Leadership》的公开信认为，世界同时需要开放与封闭模型路线。签署者呼吁政策制定者支持更多机构构建、改造和部署模型的生态。NVIDIA 自己的介绍也确认它参与了这封信。[NVIDIA 相关说明](https://blogs.nvidia.com/blog/open-world-models-physical-ai/)。

作者将其与开源软件作类比：共享的软件基础让机构可以复用、改进成果，而不必各自从头建设。我赞同这种方式可以让小企业和非营利组织获得原本负担不起的能力。

公开信通过下载、检查、修改权重并在自己的基础设施上运行模型来定义开放权重。开放权重与完整开放源代码的模型开发并不相同：不同版本对训练数据、代码、方法和许可证的开放程度各异。

信中提出的好处包括为任务选择合适规模的模型、避免依赖单一提供商，以及控制数据在哪里处理。自行运行模型仍需要硬件、运维和适用许可证；权重可获得并不意味着部署没有成本。

公开信还认为，开放可以促进模型开发商、云服务商、芯片和应用之间的竞争。我很重视机构能在自己控制的基础设施中处理数据，尤其是在任务不需要最昂贵的托管模型时。

签署者承认一个独特风险：权重发布后，副本和修改版本很难收回或监测。托管服务发现问题后可以调整访问控制，但已经发布的文件可能继续流传。这是真实的安全取舍，不能轻描淡写。

公开信的回答是：防守方同样需要强大工具，更广泛的访问也让更多团队能测试模型、修复弱点。我此前很喜欢让基础设施维护者提前获得受限访问权限以开展防御工作的想法。问题是这些计划能否足够快地覆盖足够多的人。

我以 OpenAI 与 Hugging Face 的安全事件为例，担忧攻击者和防守者之间的能力差距。视频对模型身份和具体过程有推测。后来的公开调查提供了更多细节，但没有证实我在这里提出的每一项说法。[OpenAI 后续说明](https://openai.com/index/hugging-face-incident-and-the-road-ahead/)。

公开信认为封闭模型也不天然安全：访问可能集中，外部人员难以检查故障，提供商自身也可能遭入侵。信中将广泛测试和独立审视视为潜在安全收益。这些收益能否超过滥用风险，是需要证据和政策判断的问题。

政策建议包括扩大研究人员和初创公司的算力访问、投资共享数据集及评估工具，并避免过早限制竞争。这些措施可能支持更广泛的生态，同时也会让硬件供应商 NVIDIA 受益。这两个观察可以同时成立。

在蒸馏问题上，公开信区分了使用一个模型的输出改进另一个模型与非法提取。它呼吁针对具体不当行为使用有针对性的法律和商业措施，而不是全面限制这一技术。什么行为被允许，取决于事实、服务条款和适用法律。

我支持公开信对开放和竞争的强调，同时也认识到签署者各自的利益。我担心过于宽泛的限制会把开发活动推向其他地方，也会让机构更难选择适合自己的工具。

Amodei 的回应反对对开放权重模型实施类别性的全面禁令。他称不具危险能力的模型是公共利益，并表示限制美国企业使用的保护主义禁令无法解决他的主要担忧。这是他公开表述的立场，尽管我不同意其中其他部分。[Anthropic 回应](https://www.anthropic.com/news/position-open-weights-models)。

他的第一个担忧是威权政府可能开发领先系统，用于军事优势或压制，无论这些系统是否开放权重。我理解这个担忧，但质疑他如何衡量竞争者追赶的不同方式。他的国家安全评估是一种论点，而不是已经发生的结果。

他的第二个担忧涉及网络或生物攻击中的滥用，以及对齐失效。他认为发布后的权重更难监测或收回，也表示禁止合法美国企业使用本身并不能阻止恶意行为者。

Amodei 提议限制向中国出售先进芯片和芯片制造设备，并打击规避行为。这是他提出的政策及理由；其效果和后果仍有争议。我也质疑他强调大规模蒸馏来解释竞争者进步的做法。

他呼吁打击工业规模的蒸馏操作，认为这可能帮助竞争者从有限算力中获得更多能力。我不同意他对这一点的强调，认为蒸馏是有用且广泛使用的技术。模型排名或我们的分歧本身，都不能独立证明或推翻某项具体指控。

我建议保留自己的模型交互日志，以便将来使用。这些日志可能包含私有代码、凭据或其他敏感信息，后续使用也受适用条款和法律约束。实际决策应包括了解保存了什么，并对其做好保护。

Amodei 的第三项建议是，对能力足够强的模型实施强制发布前安全测试，无论开放还是封闭。他认为应通过测试而非预设来判断风险，并表示有效测试需要国际参与。我认为测试比全面禁止更有建设性。

Amodei 表示，他赞同公开信关于访问、竞争、客户控制和有针对性处理蒸馏问题的部分。他反对开放访问必然让防守方比攻击方获益更多的假设，尤其担心生物风险中的攻防不对称，并认为应通过实证评估。

我仍对 Anthropic 关于工业蒸馏的措辞感到沮丧。我认为应当把技术本身与具体未经授权的行为分开，也不认为现有说法足以解释所有竞争者的进步。这是我的解读，并不是对任何一家公司的事实裁定。

我的结论是，开放权重模型提供了重要选择，同时有意义的安全测试和滥用风险也值得关注。我喜欢使用 Anthropic 的模型，但仍不同意公司的政策侧重点。读者可以阅读公开信和回应，自行判断。

这场争论并非简单地在支持所有开放发布和禁止所有模型之间二选一。它涉及访问、利益、安全、证据，以及规则能否精准针对已证实的问题。我想了解开发者和用户如何权衡这些因素。