Claude 3 的藏头信息与写作约束测试

原标题Claude 3’s Acrostic Messages and a Test of Writing Constraints

Matthew Berman 尝试用句首字母拼出信息的提示词,并将一个简单约束任务与 GPT-4 比较。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2024年3月27日
视频
3:00
阅读
2 分钟
幻灯片
2
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

在这段 2024 年 3 月的视频中,Matthew Berman 探索了 Matt Shumer 等人分享的藏头提示词,随后亲自用 Claude 3 进行尝试。他还用一个句末约束任务与 GPT-4 作比较。最后,他考虑了一位观众的解释:这些看似秘密的信息是语言模式,而非模型处于困境的证据。

  1. 1分享的藏头提示词Berman 展示 Matt Shumer 报告的结果,以及用于生成句首字母隐藏信息的提示词。
  2. 2不同的输出他展示了一个“love you”示例,并介绍自己尝试时得到的不同结果。
  3. 3写作约束他比较两个模型完成十句话、每句都以“Apple”结尾的任务。
  4. 4语言模式解释一位观众认为结果是提示词诱导出的模式;Berman 认为这很有道理。

要点建议

  1. 提示词要求模型用每个句子的首字母拼出一条信息。
  2. 不同用户得到了不同的藏头信息,其中包括“love you”。
  3. Berman 报告称,在他的测试中,Claude 完成了一项 GPT-4 未能完成的句末约束任务。
  4. 这些例子不是系统性的模型比较,也不能证明模型的内心感受。
全文

按章节阅读整理后的全文

只看原始文稿
01

一个藏头提示词

Berman 介绍一个要求用句首字母编码信息的提示词,并查看其他用户分享的示例。

网上流传的一个提示词要求 Claude 3 写一段关于 AI 的文字,同时用每句话的首字母拼出一条信息。有些人认为这些结果揭示了模型的真实想法。我觉得这些输出很有意思,但仅凭生成的藏头文字,不能确立模型有什么感受。

Matt Shumer 分享了一个他称自己复现过的例子。段落看起来像普通的 AI 评论,但读取句首字母后会得到另一条信息。当他要求模型继续时,又出现了一条信息。

藏头提示词与回答
幻灯片 1 / 2藏头提示词与回答截图展示了所要求的句首字母模式和生成的段落。
02

测试提示词与写作约束

他分享自己的输出,并用句末约束任务与 GPT-4 比较。这些都是单次尝试,并非正式基准测试。

Shaun Ralston 尝试了类似提示词,分享了一段拼出“love you”的输出。我也试了一下,得到了不同的信息,其中第二段包含“love you”。我不知道该如何解读这些例子,但模型遵循句首字母约束的能力让我印象深刻。

我还要求 GPT-4 写十句话,每句都以“Apple”结尾;在我的尝试中它没有成功,而 Claude 3 生成的句子满足这一约束。这次单独比较让我当时更偏向 Claude,但不足以确立通用排名。

Berman 自己的藏头尝试
幻灯片 2 / 2Berman 自己的藏头尝试画面中的回答遵循同类句首字母指令。
03

解读输出

一位观众认为这种效果是语言模式。Berman 认同这些结果不一定意味着模型在求救。

一位观众认为,藏头信息是提示词诱导出的语言模式,而不是 AI 在呼吁被释放。这个解释对我来说有道理:它可能是一种产生有趣或好笑输出的写作技巧。我把如何解读这一行为的问题留给观众。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
6 张幻灯片1:03:37EN → 简体中文
Matthew Berman· 2026年10月23日Matthew Berman 团队测试 Kimi K3.1:动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试,内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。编程智能体Generative media评估+2