Fable 5 为何受到限制:一场 AI 安全争议中的不同说法

原标题Why Fable 5 Was Restricted: Competing Accounts of an AI Safety Dispute

一篇 2026 年 6 月的分析梳理美国政府据报采取的出口行动、Anthropic 的回应和背后尚未解决的问题。

频道
AI Explained
发布
2026年6月14日
视频
13:20
阅读
5 分钟
幻灯片
6
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

AI Explained 回顾美国政府针对 Anthropic Fable 5 的行动中相互冲突的说法,讨论安全测试、出口管制和可能的政治因素。分析及预测反映 2026 年 6 月 14 日的情况;后续视频称 Fable 加强过滤后已恢复使用。动机和争议细节均注明来源。

  1. 1投资者提出担忧讲解者引用报道称亚马逊首席执行官和其他人向官员提出模型问题;亚马逊也是 Anthropic 的投资者。
  2. 2关于决定的不同说法Anthropic 称漏洞较简单且其他模型也能发现;政府代表则称其构成严重安全问题。
  3. 3特定稳健性测试系统卡图表比较特定场景中的提示注入抵抗力,并非所有可能的越狱方式。
  4. 4有争议的期限一名接近 Anthropic 的人士称期限为 90 分钟,白宫官员则称曾花更长时间尝试合作。
  5. 5不确定的预测Sacks 称政府希望修复问题并恢复开放;讲解者预测争议会迅速解决。

要点建议

  1. 讲解者称政府实施出口限制后 Anthropic 暂停访问,双方对此前沟通的描述存在分歧。
  2. 针对单个问题的越狱与假设性的通用绕过,是不同的安全主张。
  3. 提示注入基准提供了一项比较,但不能证明模型对所有攻击免疫。
  4. 政治报复被提出为一种可能性,但所展示的证据不能证明这一点。
  5. 讲解者预计问题会迅速解决;后续视频称 Fable 已增加过滤并恢复使用。
全文

按章节阅读整理后的全文

只看原始文稿
01

据报采取的限制

讲解者介绍这一行动,以及官员如何介入的不同解释。

在 2026 年 6 月 14 日的视频中,讲解者称美国政府实施影响外国公民访问的出口限制后,Anthropic 暂停了 Fable 5。他汇集背景和不同说法,没有把行动的原因视为定论。后续视频称 Fable 加强过滤后恢复使用。

讲解者引用报道称,亚马逊首席执行官 Andy Jassy 和其他科技领袖就可能的越狱向政府提出担忧。亚马逊同时是 Anthropic 的主要投资者和供应商,因此不能简单地将此描述为竞争对手试图损害公司。

据报的出口管制决定
幻灯片 1 / 6据报的出口管制决定所引报道描述会议和公司方面的不同说法。

所引报道说,国家网络总监 Sean Cairncross 会见高级官员,他们认为出口限制是最直接的应对方式。讲解者把这一决定解释为实际上需要更广泛停用,但有关商议细节来自报道和具名来源的说法。

他提到此前报道:Cairncross 面临处理前沿模型网络风险的压力,金融业高管也表达了担忧。讲解者认为官员可能基于真实的风险判断采取行动;这是对决定的一种可能解释。

David Sacks 称,一位可信合作伙伴报告了越狱,政府要求 Anthropic 修复或重新部署模型,而 Anthropic 拒绝了。公司对沟通过程和期限的说法则有所不同。

02

安全证据

他比较关于越狱、独立批评和提示注入结果的说法。

Anthropic 称展示出的漏洞相对简单,其他模型也能发现。讲解者引用报道称,官员在讨论中已决定实施出口管制,并追问为什么据报不太可能对其他公司实施类似限制。

间接提示注入基准
幻灯片 2 / 6间接提示注入基准系统卡图表比较特定场景下的攻击成功率。

Mythos 系统卡中的图表显示,在一项特定的间接提示注入基准上,Mythos Preview 的攻击成功率明显低于若干对比模型。这是关于所测场景和设置的证据,不能证明它对所有提示注入或其他越狱方法免疫。

讲解者引用一家安全公司的批评,称政府举出的例子类似防御性漏洞研究。他也提到通过其他越狱获得有害回答的独立报道。每项报道是否属实以及意味着什么,都应分别评估。

有争议的说法
幻灯片 3 / 6有争议的说法报道同时呈现一位官员对 Amodei 的说法及 Anthropic 的否认。

据报道,官员称无法联系 Amodei 是因为他参加健康静修;Anthropic 否认,在公司采访的一名记者也质疑了这一说法。讲解者认为这一分歧关系到公司如何被描绘,但没有证明冲突说法出现的原因。

讲解者提出两种可能解释:官员可能对安全问题反应过度,也可能有政治因素影响。他追问长期限制会给访问和外国员工带来什么后果。这些后果属于假设;他当时预测限制会很快撤销。

03

安全、政策与冲突叙述

讨论越狱抵抗的局限和 Anthropic 此前的警告。

白宫此前的声明
幻灯片 4 / 6白宫此前的声明截图展示此前反对监督所有新模型的声明。

他指出白宫此前曾反对对所有新模型进行监督,也提及 Anthropic 警告全行业标准可能阻碍部署。在他的叙述中,任何模型提供商都尚未完全解决越狱抵抗问题。

狭义越狱产生的是某个特定的违规回答;通用绕过则会在更广范围内解除防护。讲解者称 Amodei 在与官员讨论时作了这一区分。与此同时,Sacks 认为 Anthropic 把持续开放置于安全之上。

为了呈现另一面,讲解者回顾 Anthropic 安全负责人 Jason Clinton 此前警告:能力相当的开放权重模型可能给网络安全带来困难时期。批评者可以合理追问,这一警告与公司对已展示绕过方法的回应如何相容。

双方对回应期限也有分歧。一名接近 Anthropic 的人士告诉记者,白宫给了 90 分钟期限却没有说明威胁细节;一名高级官员则称出口管制是在尝试合作后采取的最后手段。视频没有独立解决这两种叙述。

04

政治问题与下一步

讲解者考虑可能的政治动机并给出初步预测。

关于期限的不同叙述
幻灯片 5 / 6关于期限的不同叙述文章呈现官员与接近 Anthropic 人士的不同描述。

讲解者回顾政府与 Anthropic 此前的紧张关系,以及政府讨论持有 AI 公司股权的报道。他追问不平等待遇是否可能反映政治或财务考虑。这些是问题和猜测,不是报复的证据。

他引用与 OpenAI 联合创始人 Greg Brockman 有关的政治支出,并与 Anthropic 的做法作对比。OpenAI 称其没有指挥该政治行动委员会,也不了解其运作。捐款或企业关系本身不能证明这次限制的动机。

讲解者认为,网上关于限制会立即导致人们为获得 AI 而大规模迁移的预测属于极端推演。他转而引用 Sacks 表达的希望:Anthropic 处理问题、出口限制解除、模型恢复开放。

政府表达的期望
幻灯片 6 / 6政府表达的期望Sacks 的帖子将修复问题并恢复普遍开放列为期望结果。

录制时,他的最佳猜测是限制很快会被撤销,部分依据是以往政策反转和市场压力。这只是预测,而非 6 月 14 日已知的事实。最后,他提到自己应用中使用的多模型工具,并邀请读者衡量不同解释。

同频道的其他文章

3 张幻灯片31:00EN → 简体中文
AI Explained· 2026年10月12日为什么 AI 实验室自己警告会出重大事故,却还在继续竞赛Sam Altman, John Schulman · OpenAIAI Explained 梳理正在变弱的安全防护、前沿竞赛背后的激励,以及研究突破为何让未来 18 个月更难预测。AI SafetyAI securityAI Alignment+2
幻灯片38:28EN → 简体中文
AI Explained· 2026年10月1日AI Agent 安全与递归自我改进的挑战AI Explained 讨论报道中的隔离失效、模型评估,以及加速 AI 研究带来的压力。AI securityAI SafetyAI research+2
5 张幻灯片32:54EN → 简体中文
AI Explained· 2026年9月24日Opus 5.5 与自动化 AI 研究的竞赛AI Explained 在模型进展之外,讨论评估和治理递归自我改进日益困难的挑战。AI SafetyAI research安全与治理+2
2 张幻灯片24:53EN → 简体中文
AI Explained· 2026年9月16日为何一些研究者呼吁放缓前沿 AI 发展AI Explained 梳理可能的扩展方向、监测方面的担忧,以及能力如何可能带来危害的争论。AI SafetyAI Alignment安全与治理+1
6 张幻灯片29:05EN → 简体中文
AI Explained· 2026年9月4日GPT-6 Astra 的评测进步与推理监控难题AI Explained 考察科学、数学和智能体评测中的报告成绩,也讨论模型推理越来越难以观察所带来的担忧。模型与训练BenchmarksAI Safety
7 张幻灯片23:41EN → 简体中文
AI Explained· 2026年8月27日AI 智能体、非预期训练奖励与监督难题AI Explained 分析智能体协作、训练激励,以及越来越多地使用 AI 评估其他 AI 系统的报告。AI Safety智能体工程模型与训练+1