Anthropic、五角大楼与军事 AI 使用边界

摘要

30 秒看懂

AI Explained 分析 Anthropic 与美国战争部围绕 Claude 两项使用限制的争议，将其与智能体可靠性研究联系起来，并质疑公司的扩展政策。该公司随后报告收到正式供应链风险认定。

1两项例外Anthropic 寻求排除国内大规模监控和完全自主武器两种用途。
2军事政策主讲人质疑既有政策与谈判之间的关系。
3Anthropic 的理由公司提出隐私与当前 AI 系统可靠性的理由。
4智能体失效模式智能体演示展示风险，但没有直接测试实际部署的武器。
5准确率之外的可靠性除平均表现外，一致性、稳健性、可预测性和失效严重程度也很重要。
6扩展政策主讲人比较军事限制与公司扩展政策的变化。
7后续发展Anthropic 表示 3 月 4 日收到正式认定，并将提出法律挑战。

要点建议

Anthropic 寻求排除国内大规模监控和完全自主武器两种用途。
主讲人质疑既有政策与谈判之间的关系。
公司提出隐私与当前 AI 系统可靠性的理由。
智能体演示展示风险，但没有直接测试实际部署的武器。
除平均表现外，一致性、稳健性、可预测性和失效严重程度也很重要。
主讲人比较军事限制与公司扩展政策的变化。
Anthropic 表示 3 月 4 日收到正式认定，并将提出法律挑战。

主题Anthropic AI Safety Geopolitics

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

争议

2026 年 2 月的谈判。

在这段录制于 2026 年 2 月 27 日的视频中，AI Explained 主讲人分析 Anthropic 与美国战争部围绕 Claude 军事用途的争议。视频记录的是后续事态发展之前的情况。

主讲人称，战争部寻求用于合法用途的访问权限，而 Anthropic 要求排除国内大规模监控和完全自主武器。Anthropic 在[2 月 26 日声明](https://www.anthropic.com/news/statement-department-of-war)中阐述了这些立场。具体用途的法律边界取决于事实和适用法律。

主讲人回顾其他 AI 公司的相关报道，并提到 Google 和 OpenAI 部分员工的支持。这些报道及签名数量描述的是当时不断变化的局面，并不代表整个行业的固定立场。

视频提到美国国防部第 3000.09 号指令及其关于使用武力应有适当程度人类判断的要求。主讲人质疑部门既有政策与谈判之间的关系；这一质疑不应被当作确定的法律裁决。

Anthropic 表示曾受到供应链风险认定和援引《国防生产法》的威胁。主讲人比较这两种措施的含义，并将这一说法归于该公司。

监控与武器

Anthropic 表示的反对理由。

该公司表示，反对监控的理由是隐私和权利，反对完全自主武器的理由则是当前前沿 AI 系统的可靠性。公司还表示，它没有针对特定军事行动提出反对。

可靠性研究

失效模式与评估。

主讲人将可靠性担忧与 AI 智能体研究联系起来，包括智能体泄露信息或执行未经授权请求的例子。这些演示展示了失效模式，但本身不能衡量实际部署武器系统的安全性。

第二项研究讨论将一致性、稳健性、可预测性和失效严重程度与基准测试的总体准确率区分开。高平均分本身不能揭示智能体在重大场景中如何失败。

政策与后续发展

扩展政策与之后的认定。

主讲人还质疑 Anthropic 修订后的负责任扩展政策，将模型训练中的竞争压力与其军事使用限制立场作比较。这是在讨论公司选择是否一致，而不是证明两项决定完全相同。

主讲人最后表示，录制时争议的结果仍不确定。此后，Anthropic 表示它于 3 月 4 日收到正式的供应链风险认定，并将提出法律挑战；见其[3 月 5 日更新](https://www.anthropic.com/news/where-stand-department-war)。该更新不能说明争议目前的法律状态。