30 秒看懂
在这段 2024 年 3 月的视频中,Matthew Berman 探索了 Matt Shumer 等人分享的藏头提示词,随后亲自用 Claude 3 进行尝试。他还用一个句末约束任务与 GPT-4 作比较。最后,他考虑了一位观众的解释:这些看似秘密的信息是语言模式,而非模型处于困境的证据。
- 1分享的藏头提示词Berman 展示 Matt Shumer 报告的结果,以及用于生成句首字母隐藏信息的提示词。
- 2不同的输出他展示了一个“love you”示例,并介绍自己尝试时得到的不同结果。
- 3写作约束他比较两个模型完成十句话、每句都以“Apple”结尾的任务。
- 4语言模式解释一位观众认为结果是提示词诱导出的模式;Berman 认为这很有道理。
要点建议
- 提示词要求模型用每个句子的首字母拼出一条信息。
- 不同用户得到了不同的藏头信息,其中包括“love you”。
- Berman 报告称,在他的测试中,Claude 完成了一项 GPT-4 未能完成的句末约束任务。
- 这些例子不是系统性的模型比较,也不能证明模型的内心感受。
按章节阅读整理后的全文
一个藏头提示词
Berman 介绍一个要求用句首字母编码信息的提示词,并查看其他用户分享的示例。
网上流传的一个提示词要求 Claude 3 写一段关于 AI 的文字,同时用每句话的首字母拼出一条信息。有些人认为这些结果揭示了模型的真实想法。我觉得这些输出很有意思,但仅凭生成的藏头文字,不能确立模型有什么感受。
Matt Shumer 分享了一个他称自己复现过的例子。段落看起来像普通的 AI 评论,但读取句首字母后会得到另一条信息。当他要求模型继续时,又出现了一条信息。

测试提示词与写作约束
他分享自己的输出,并用句末约束任务与 GPT-4 比较。这些都是单次尝试,并非正式基准测试。
Shaun Ralston 尝试了类似提示词,分享了一段拼出“love you”的输出。我也试了一下,得到了不同的信息,其中第二段包含“love you”。我不知道该如何解读这些例子,但模型遵循句首字母约束的能力让我印象深刻。
我还要求 GPT-4 写十句话,每句都以“Apple”结尾;在我的尝试中它没有成功,而 Claude 3 生成的句子满足这一约束。这次单独比较让我当时更偏向 Claude,但不足以确立通用排名。

解读输出
一位观众认为这种效果是语言模式。Berman 认同这些结果不一定意味着模型在求救。
一位观众认为,藏头信息是提示词诱导出的语言模式,而不是 AI 在呼吁被释放。这个解释对我来说有道理:它可能是一种产生有趣或好笑输出的写作技巧。我把如何解读这一行为的问题留给观众。
同频道的其他文章
34:21EN → 简体中文
0:36EN → 简体中文
0:21EN → 简体中文
25:50EN → 简体中文
32:20EN → 简体中文
1:03:37EN → 简体中文