Matthew Berman 谈 AI 模型限制发布与权力集中的风险

OpenAI 在 2026 年 6 月预览 GPT-5.6 Sol 时，应美国政府要求最初仅向选定合作伙伴开放。我认为这种受限发布是前沿 AI 访问方面的一个负面转折点。我归责于 Anthropic CEO Dario Amodei 围绕模型风险开展的公开倡议，认为它促成了一种氛围，让官员在模型更广泛发布前介入。

这是我对事件经过及 Anthropic 角色的解读，并非公司控制政府决策的事实结论。政府提出了安全方面的担忧，OpenAI 表示已向官员介绍其发布计划。Axios 报道称，在 Anthropic 后来暂停访问之前，OpenAI 就已与政府合作。

我认为，Anthropic 对网络能力、受限预览和所谓模型输出提取的警告，促成了加强管制的压力。我也提到一篇报道，指控 Alibaba 试图提取 Claude 的能力。这些是指控和相互竞争的解读；它们本身不能确定转移了多少能力，也不能证明政府决定由 Anthropic 的游说造成。

我质疑所谓提取行为是否足以支持这样的应对，并认为模型防护可以被绕过。安全控制能够降低风险，却无法保证完美防护；我所说的每个模型总能被绕过是一个宽泛观点，而非本视频证明的结果。

6 月 12 日，美国发出针对外国公民的出口管制指令后，Anthropic 暂停了 Claude Fable 5 和 Claude Mythos 5 的访问。公司此前于 6 月 9 日公开推出 Fable 5。截至我 6 月 26 日录制视频时，用户已失去广泛访问权；这一中断与之后的 GPT-5.6 预览是不同事件。

我猜测 OpenAI 的发布计划受到了 Anthropic 事件的影响，并设想其高管可能如何反应。我描述的具体对话和动机都是假设。OpenAI 表示，应政府要求，GPT-5.6 会先向一小群可信合作伙伴开放预览，然后再更广泛地提供。

The Information 报道了计划中的受限发布，OpenAI 在自己的公告中确认了有限预览。当时，公开发布日期尚未确定。我称这一流程是事实上的 AI 监管，并担心它让少数人抢先获得其他人还无法使用的工具。

我将这一情况与 Anthropic 较早限制发布 Mythos，以及它对网络安全和就业的公开警告联系起来。我指责 Anthropic 寻求监管俘获，这是一项政治和商业判断；现有声明不能确定公司的意图，也不能证明政府要求完全由其行动造成。

我担心大公司可以率先使用前沿模型，而初创企业、独立开发者和实验者必须等待。如果抢先访问实质性改善了它们的产品和内部工作，差距就可能扩大。这是可能的后果，而不是预览已经测量出的结果。

我担心领先的模型开发商可以继续在内部使用强大的模型，然后让选定合作伙伴抢占先机。与更早获得模型的既有企业竞争，创业者可能更难追赶。任何优势的大小和持续时间都取决于实际访问条件及模型能力。

我还讨论了一则报道：OpenAI 正考虑将 IPO 推迟至 2027 年。报道提到市场环境和投资者需求；我不同意这种解释，并猜测 AI 监管的不确定性才是真正原因。这一说法是我的推断，报道并未证实。

我更广泛的担忧是，在整个经济体等待访问时，前沿实验室及其合作伙伴可能继续向前发展。我设想一家初创企业使用较旧模型开发，而资金充裕的竞争对手拥有最新模型。假设的六个月延迟只是举例，并非已宣布的发布时间表。

我担心美国的延迟会影响其与中国的竞争。我认为即便只是几周也有影响，尽管某次具体延迟的经济和安全后果尚不确定。我也批评 Anthropic 暂停 Fable，认为这是其自身公开倡议带来的意外后果。

这一事件进一步坚定了我对开放权重 AI 的支持。我希望世界各地更多开发者能自行运行模型并在其基础上开发。开放模型目前可能落后于领先的专有系统，而发布限制会缩小还是扩大差距仍不确定。

我担心，限制分发未必会阻止开发商在内部继续训练后续模型。我用 Fable 5.1 和 5.2 作为假设序列来说明权力集中的风险；这不是某个模型训练了另一个模型的证据。我打算更频繁地介绍开放模型开发者。

接下来看看其他人的回应。Box CEO Aaron Levie 认为，政府介入实际上创造了一种新的 AI 监管形式，虽然他认为来得太早。他列举了可能情景，并非断言所有前沿模型发布都必然面临同样的审查。

Levie 认为，只要美国保持领先，控制访问可能有效；但如果竞争对手追上来，就可能出现问题。我同意访问与国际竞争有关。谁处于领先地位、领先多久，仍存在不确定性，也可能因具体能力而异。

他还提出，发布可能出现积压，竞争对手之间快速交替推出模型的情况可能减少。我担心发布压力下降会削弱市场竞争，影响实验室通过模型获利的能力，并产生超出投资者范围的后果。这些影响是预测，而非已经证实的结果。

Levie 描述了一个更乐观的可能性：发布次数减少，但每次带来更大提升，最终仍达到同样的水平。我担心与逐步部署并收集反馈相比，一次发布更大幅度的进步可能对安全更不利。这种权衡取决于实际测试和部署方式。

另一种可能的回应是，各国发展自己的 AI 能力，而不是依赖美国供应商的访问权。Levie 认为主权 AI 工作可能使开放权重受益。我同意开放模型可能有所帮助，同时担心未来规则会给它们带来什么影响。

我猜测，未来的限制可能延伸到开放模型或美国国内的 GPU 获取。这些例子是我担忧的可能性，并非预览公告中宣布的政策。我担心有关算力和模型访问的决策会让影响力集中在政府和大型 AI 公司手中。

我引用了 Peter Diamandis 的担忧：少数人可能决定公司能够使用哪些能力。我还读了风险投资人 Bill Gurley 的指责，他认为 Anthropic 寻求政府保护以避免竞争，而非提起诉讼。他关于公司动机的说法是指控，并非已确定的事实。

Gurley 质疑，为什么能力如此强的模型不能自动阻止所谓的蒸馏行为，我也有同样的困惑。模型在推理或网络安全任务上的表现，本身并不能证明它能识别针对自身服务的所有滥用，所以这种比较是关于安全的论点，而非技术演示。

根据我与 OpenAI 的交流，我表示公司希望广泛开放访问；研究员 Noam Brown 也表达了希望人们很快能使用该模型。OpenAI 的预览公告在介绍性能的同时强调了防护和网络风险。它的声明反映公司立场，并非对每项安全说法的独立证明。

OpenAI 表示，它已向美国政府预先介绍模型和发布计划，并应政府要求先向可信合作伙伴开放，这些合作伙伴的参与情况已告知官员。公司表示反对让这一流程成为长期默认做法，但认为在共同制定网络安全框架期间，短期预览是通向更广泛开放的一条路径。

我鼓励观众支持开放权重模型，学习在本地运行它们，并联系民选代表。我的立场是，访问权对创新和权力分配都很重要。我希望受限发布不会成为永久模式。

视频记录的是特定时刻的一场争议，而非最终结果。视频发布后，Anthropic 于 6 月 30 日表示，在与政府达成解决方案后，Fable 5 和 Mythos 5 的访问已恢复。OpenAI 后来宣布扩大 GPT-5.6 的可用范围；这些进展并未解决长期政策争论。