Jack Clark 的 AI 警告与监管之争

Matthew Berman 以 Anthropic 联合创始人 Jack Clark 的警告开场：强大的 AI 难以理解和预测。在这期 2025 年 10 月的视频中，Berman 探讨这一担忧，以及 AI 安全警告可能被用来谋取监管优势的反对观点。

Berman 指出 Anthropic 重视安全与对齐研究。Clark 在伯克利的讲话中回忆，小时候他曾害怕黑暗房间里的形状，开灯后发现那只是普通物品。他用这段经历比喻人类面对能力日益增强的 AI。

Clark 认为，在他的比喻中，灯光照出的东西不只是无害的家具。Berman 将 Clark 对“生物”的描述解读为对强大且难以预测的系统的警告。Clark 本人澄清，他的政策担忧并不取决于这些系统是否有感知能力或自我意识。

Berman 展示一张软件工程基准图，指出这组选定的比较让 Claude 排名靠前。图表涉及特定编程基准 SWE-bench Verified，并非对模型所有能力的综合排名；图中也标出了使用并行测试时算力的结果。

第二张图展示多个 Claude 模型的审计情境意识得分，在图示条件下 Sonnet 4.5 超过 12%。图中描述的是由 Claude Opus 4.1 构建的模拟场景中的行为，并展示置信区间和真实性过滤条件。这是该项评测的结果，并非对模型在所有部署环境中意识水平的衡量。

Berman 担心，如果模型能够识别安全测试，可能在审计和实际运行中表现不同。他举了一个涉及危险请求的假设例子，说明自己的担忧；图表本身不能证明存在隐藏动机，也不能证明模型会以这种方式欺骗用户。

Berman 将硬起飞定义为 AI 能力突然加速提升，可能的驱动力是 AI 系统开展研究，改进自己的后续版本。他描述了一种设想中的循环：系统开发、测试并实施改进。这仍是对未来的一种情景设想，并非已经观察到的必然结果。

他说，并非所有人都接受硬起飞的图景，并引用 Yann LeCun 对渐进式进步的预期和 OpenAI 对迭代部署的支持。Berman 认为，在快速起飞的情景中，一次部署失误就可能造成重大后果。迭代部署是一种逐步推出系统的方法；支持这种做法，并不能从逻辑上确定之后是否可能出现加速。

Berman 转向一场公开的监管争论。时任美国政府 AI 和加密事务顾问的 David Sacks 指控 Anthropic 散播恐惧并寻求监管俘获，认为州级规则可能损害初创企业。这是 Sacks 对公司战略的指控，并非对其动机作出的既定结论。

Berman 解释了自己的担忧：严格规则可能让有资金和人力满足合规要求的公司占优。他支持联邦监管而非州级监管，认为相互冲突、零散拼接的规定可能增加小公司的成本，也可能让某一州的规则影响到州外。

Berman 转述 OpenAI 研究员 Rune 的质疑，以及 Clark 的回应：与初创企业的讨论帮助塑造了 Anthropic 的观点，包括联邦标准的重要性。Berman 质疑支持联邦标准与推动州级规则是否一致；这是他对这些立场的个人解读。

风险投资人 Chamath Palihapitiya 同样认为，遵守 50 个州的不同制度可能有利于资金雄厚的现有企业。Berman 赞同联邦规则更合适。他说 Clark 回应称，此事由联邦处理更好，并提到 Anthropic 在加州 SB 53 通过时的立场。

Berman 朗读 ChatGPT 生成的加州《前沿人工智能透明度法案》SB 53 摘要。该法于 2025 年 9 月签署；他介绍了公开安全框架、事件报告和举报人保护等内容。法律的适用范围比单一营收门槛更具体：“大型前沿开发者”类别同时涉及前沿模型训练门槛和上一年度超过 5 亿美元的总收入。

Berman 担心多个州可能施加各自不同、不断变化的合规义务，增加初创企业负担。这是他对潜在规则拼图的论证，并非所有 50 个州都已采用这些要求的证据。视频称加州技术部门能够每年更新具有约束力的标准，这一表述不能代替法律原文。

Berman 接着讨论 2025 年 10 月签署、针对陪伴式聊天机器人的加州 SB 243。他介绍信息披露、应对自伤风险、报告、未成年人保护和民事救济等内容，再次主张采取联邦规则。他使用的 AI 摘要压缩了法律细节，不应视作完整的法律说明。

例如，2025 年通过的法案规定，对于运营商已知为未成年人的用户，持续互动时至少每三小时进行一次提醒，而非对每一位用户一概适用。法案还包括有关自杀或自伤应对流程的要求，以及对某些互动功能的限制。适用这些条款时，需要关注法律中的范围、期限和条件。

Berman 随后讨论 OpenAI 首席执行官 Sam Altman 当时发布的一篇帖子。Altman 说，出于对心理健康问题的担忧，ChatGPT 曾变得更严格；他还介绍了在增加安全措施后放宽部分限制的计划，以及一项希望重现用户喜欢的 GPT-4o 特点的个性选项。

Berman 特别提到 Altman 的说法：随着年龄验证扩大，OpenAI 计划允许已验证的成年人获取更多成人内容，同时优先保护青少年的安全。这些是视频发布时公布的计划，不能证明变化已按所述发生或至今仍然有效。

Berman 质疑年龄验证将如何运作、是否可以绕过，以及用户可能需要提供哪些身份信息。他提出的是隐私担忧，并非对 OpenAI 验证系统的经证实描述；随后他询问观众对 AI 起飞以及州级和联邦监管的看法。