Matthew Berman 评测 Claude Sonnet 4.6:基准、计算机使用与安全

原标题Matthew Berman Reviews Claude Sonnet 4.6: Benchmarks, Computer Use and Safety

这份发布当天的概览审视了 Anthropic 报告的知识工作和智能体成绩,以及提示注入与能力评估。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2026年2月17日
视频
11:49
阅读
6 分钟
幻灯片
9
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 评述 Anthropic 于 2026 年 2 月发布的 Claude Sonnet 4.6,涵盖价格、测试版一百万 token 上下文窗口、计算机使用和基准比较。他认为这是一款强大的知识工作模型,并指出它在特定测试中接近或超过 Opus 的情况。 他还讨论了提示注入,以及 Anthropic 按 ASL-3 标准部署模型和对能力阈值的评估。结果只适用于相应模型和基准,售货机图表展示的是模拟结果。

  1. 1计算机使用能力提升Anthropic 的图表报告,Sonnet 4.6 在 OSWorld-Verified 上得分 72.5%,Sonnet 4.5 为 61.4%。
  2. 2提示注入风险网页内容可能包含旨在改变智能体行为的指令。Anthropic 报告抵抗能力有所改善,但测试不能保证模型免受攻击。
  3. 3编程与工具基准发布表格报告,与 Sonnet 4.5 相比,Terminal-Bench、SWE-bench Verified 和 MCP-Atlas 的成绩有所提升。
  4. 4模拟售货机业务Vending-Bench Arena 显示,经过超过 350 个模拟日后,Sonnet 4.6 的最终余额更高。
  5. 5安全阈值与不确定性Anthropic 表示模型未跨越两项指定阈值,但有把握地排除跨越这些阈值正变得更加困难。

要点建议

  1. Sonnet 4.6 发布时的 API 起始价格与 Sonnet 4.5 相同,并提供测试版一百万 token 上下文窗口。
  2. Anthropic 报告编程、计算机使用和工具使用评测有所提升,但结果因基准而异。
  3. 即便模型在抵御提示注入的测试中有所进步,提示注入仍然值得关注。
  4. 售货机比较展示的是模拟余额,而非实际经营利润。
  5. Anthropic 按 ASL-3 标准部署模型,并判断其未跨越 AI R&D-4 或 CBRN-4 阈值,同时说明了评估中的不确定性。
全文

按章节阅读整理后的全文

只看原始文稿
01

主力模型发布

Berman 介绍 Sonnet 4.6、发布价格、测试版上下文窗口及其宣称的定位,并解读计算机使用能力的比较。

Anthropic 推出了 Claude Sonnet 4.6,将其定位为主力模型,并报告它在编程、工具使用、智能体工作和计算机使用方面有所提升。2026 年 2 月发布时,它提供测试版一百万 token 上下文窗口,并成为 Claude Free 和 Pro 计划的默认模型。我很期待这样一款面向实际知识工作的快速模型。

发布价格与上下文窗口
幻灯片 1 / 9发布价格与上下文窗口发布页面列出了 API 起始价格,并说明一百万 token 上下文窗口处于测试阶段。

公布的 API 起始价格为每百万输入 token 3 美元、每百万输出 token 15 美元,与 Sonnet 4.5 的起始费率相同。Anthropic 强调一致性和遵循指令的能力,以及通过 Claude Cowork、Claude Code 等产品制作演示文稿和处理电子表格等任务。

OSWorld 分数随时间变化
幻灯片 2 / 9OSWorld 分数随时间变化图表比较 Sonnet 的计算机使用成绩,并注明改用 OSWorld-Verified。

Anthropic 的 OSWorld 图表显示,Sonnet 4.5 在 OSWorld-Verified 上得分 61.4%,Sonnet 4.6 为 72.5%。该基准要求智能体在计算机环境中完成实际任务。同一图表中较早的数据点使用的是原版 OSWorld,而非后来的验证版,因此整个时间序列的测量方式并不完全相同。

02

计算机使用风险

他解释提示注入,并概述 Anthropic 对抵抗能力的说法。他指出让智能体访问敏感信息可能带来的后果。

计算机使用功能让模型查看屏幕,并通过虚拟鼠标和键盘操作,而不必为每项任务依赖专门的连接器。这让它用途广泛,但也会面临提示注入:隐藏在模型读取材料中的恶意指令可能试图改变其行为。

Anthropic 表示,其安全评估显示 Sonnet 4.6 抵抗提示注入的能力明显优于 Sonnet 4.5,表现与 Opus 4.6 相近。这些是评测结果,并不能保证攻击不会成功。我认为,让智能体访问个人数据或执行具有现实后果的操作时,用户应考虑这一风险。

提示注入讨论
幻灯片 3 / 9提示注入讨论Anthropic 介绍了风险,并报告其评估中的抵抗能力有所改善。
03

基准与模拟售货机

发布表格比较了编程、工具、推理和办公工作。售货机模拟展示的是特定的长期任务,而非真实利润记录。

Anthropic 的基准表格报告,终端编程成绩从 Sonnet 4.5 的 51.0% 升至 4.6 的 59.1%,SWE-bench Verified 从 77.2% 升至 79.6%。OSWorld-Verified 从 61.4% 升至 72.5%。工具使用测试中,零售场景有所提升,电信场景则与之前接近。

编程与工具使用基准
幻灯片 4 / 9编程与工具使用基准表格比较 Sonnet 和其他模型在特定智能体评测中的表现。

表格还报告,MCP-Atlas 大规模工具使用成绩从 43.8% 升至 61.3%。在 Humanity’s Last Exam 中,不使用工具的分数从 17.7% 升至 33.2%,使用工具时从 33.6% 升至 49.0%。我原本预计借助工具时的提升会更大,但这就是展示的结果。

智能体金融分析的报告分数为 63.3%;在 GDPval-AA 办公任务比较中,表格显示 Sonnet 4.6 的 Elo 为 1,633,高于 Opus 4.6 的 1,606。这些都是特定基准的结果。我认为它们说明 Anthropic 正瞄准现实知识工作,尽管 Opus 在许多其他项目中领先。

办公与推理分数
幻灯片 5 / 9办公与推理分数表格下半部分展示了 GDPval-AA Elo、ARC-AGI-2 等结果。

图表报告 ARC-AGI-2 从 13.6% 升至 58.3%,Opus 4.6 为 68.8%。GPQA Diamond 和视觉推理也有所提升,多语言问答则大致不变。不同测试衡量不同能力,不能说明每种用途都会获得相同幅度的改善。

Vending-Bench Arena 模拟经营售货机业务:管理库存、采购和补货,以改善余额。展示的模拟经过 350 多天后,Sonnet 4.6 的余额约为 5,500 美元,4.5 约为 2,000 美元。Anthropic 将新版模型的结果归因于早期投资容量、后期转向盈利;这张图是模拟结果,并非真实售货机的利润记录。

Vending-Bench Arena 模拟
幻灯片 6 / 9Vending-Bench Arena 模拟图表展示 Sonnet 4.5 和 4.6 的模拟余额随时间变化。
04

产品更新与安全评估

Berman 介绍产品功能、ASL-3 部署标准、GDPval-AA 和系统卡中的能力阈值。他最后讨论了衡量高级能力的不确定性。

发布资料还介绍了自适应推理、测试版 API 上下文压缩,以及网络搜索、代码执行、记忆和工具调用的更新。Anthropic 说 Claude in Excel 插件支持 MCP 连接器。这些是发布时的产品说明,可用情况可能变化。

ASL-3 部署
幻灯片 7 / 9ASL-3 部署系统卡说明了部署所用的安全标准。

系统卡称 Sonnet 4.6 按 Anthropic 的 AI 安全等级 3 标准部署。我介绍 Anthropic 的各个等级,以帮助理解安全措施和风险类别。按该标准部署描述的是公司的风险管理框架,不能证明模型具备所有危险能力,也不能证明所有风险都已消除。

GDPval-AA 由 Artificial Analysis 使用 OpenAI 的 GDPval 数据集中的任务开发,涵盖九个行业的 44 种职业。这些任务模拟文档、幻灯片、图表和电子表格等专业工作成果。Sonnet 4.6 在这项特定比较中的 Elo 高于 Opus 4.6,支持我认为它面向知识工作的看法,但不能证明它在所有专业任务中都更好。

GDPval-AA 评测
幻灯片 8 / 9GDPval-AA 评测系统卡介绍了任务集及基于 Elo 的比较。

Anthropic 的系统卡判断 Sonnet 4.6 未跨越其 AI R&D-4 或 CBRN-4 能力阈值。前者涉及完全自动化 Anthropic 初级远程研究员的工作;后者涉及造成严重后果的化学、生物、放射性或核武器滥用。这些是 Anthropic 的内部定义和评估。

能力阈值的不确定性
幻灯片 9 / 9能力阈值的不确定性系统卡说明了阈值判断,并解释为何未来要排除跨越阈值会很困难。

系统卡还称,随着评测结果接近高能力水平,以及部分阈值难以衡量,有把握地排除跨越这些阈值正变得更加困难。Anthropic 表示已主动实施与 AI R&D-4 相关的缓解措施。我认为这种不确定性很重要:即便尚未判断模型跨越阈值,能力评估也可能变得更难。

我的结论是,Sonnet 4.6 定位于知识工作,其基准结果在一些任务上缩小了与 Opus 的表面差距。网上有人猜测 Anthropic 如何为模型命名,或它原本打算成为什么,但我不知道细节。我计划进一步测试。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
6 张幻灯片1:03:37EN → 简体中文
Matthew Berman· 2026年10月23日Matthew Berman 团队测试 Kimi K3.1:动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试,内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。编程智能体Generative media评估+2
0:53EN → 简体中文
Matthew Berman· 2026年10月22日Sam Altman 谈 AI 与新知识的发现Sam Altman · OpenAIAltman 预计,数学发现方面的进展将延伸到生物学、材料和能源领域。AI for scienceMathematicsComputational Biology+1