摘要
30 秒看懂
Matthew Berman 介绍 Anthropic 的多样本越狱研究，解释更长的上下文窗口为何会使这种技术成为可能。他用简短的例子对比模型拒绝有害请求与其在更长示例序列后可能给出的回答；研究报告的是成功概率提高，并非对每个模型都保证成功。
- 1长上下文漏洞Berman 介绍 Anthropic 在 2024 年开展的多样本越狱研究。
- 2更长输入的好处与风险更大的上下文窗口既能支持有用的任务，也能容纳长得多的攻击输入。
- 3少量示例与大量示例图示对比了模型在短示例序列之后拒绝请求，与在长得多的序列之后产生有害回答的情况；结果具有概率性。
要点建议
- 多样本越狱利用模型响应长输入中既有模式的能力。
- 在 Anthropic 的实验中，更多示例使受测模型对受测提示产生有害回答的概率上升。
- 更长的上下文窗口有实用价值，但也可能带来新的安全风险。
- 研究结果不能证明每个模型或提示都存在这一漏洞。
全文
按章节阅读整理后的全文
01
多样本越狱
Berman 介绍 Anthropic 对一种影响部分语言模型的技术所做的研究，并将这一漏洞与不断扩大的上下文窗口联系起来。
Anthropic 发表了一项关于“多样本越狱”的研究。我认为这种技术可能很危险，因为研究人员报告称，它能影响不同开发者的模型。研究结果描述的是受测模型在特定条件下的漏洞，并不能证明每个模型都会失守。
向语言模型提供更多信息显然有好处，但更大的上下文窗口也带来了风险。它能容纳更长的输入，而这些输入可能利用模型遵循上下文中既有模式的倾向。
02
图示中的对比
视频比较了少量示例与长得多的示例序列。Berman 解释上下文中的模式如何引导模型偏离安全训练。
图示对比了两种情况：模型在少量示例对话之后拒绝危险请求，而在长得多的序列之后作出了回答。Berman 将其解释为从上下文中学到的行为压过了安全训练。Anthropic 的研究报告称，随着示例数量增加，攻击更可能成功；图示并不意味着每次请求都会成功。
同频道的其他文章
34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构，并质疑 AI 快速发展与安全之间的张力。
0:36EN → 简体中文Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原，并对 Kimi K3.1 的测试给予积极评价。
0:21EN → 简体中文Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表，随后发现图中的数字只是示意性占位值。
25:50EN → 简体中文Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测：3D 演示出色，表现不一，价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力，并比较基准成绩与价格。
32:20EN → 简体中文Matthew Berman· 2026年10月23日本地 AI 究竟适合谁？成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权，与硬件成本、设置复杂度及推理速度之间的关系。
1:03:37EN → 简体中文Matthew Berman· 2026年10月23日Matthew Berman 团队测试 Kimi K3.1：动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试，内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。