测试匿名模型 sus-column-r:它后来被确认是 Grok-2

原标题Testing the Anonymous sus-column-r Model, Later Identified as Grok-2

Matthew Berman 测试一款 2024 年 Arena 神秘模型的编程与推理能力;其冗长回答引发了有关 OpenAI 的猜测,但后来的身份确认与猜测相悖。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2024年8月13日
视频
15:24
阅读
5 分钟
幻灯片
6
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

2024 年 8 月,Matthew Berman 在 LMSYS Chatbot Arena 测试匿名模型 sus-column-r,并讨论它可能是 OpenAI 的 Strawberry 或 Q* 的传闻。模型写出了可玩的贪吃蛇游戏并回答了几个推理问题,但也数错词数,并给出了值得怀疑的物理推理。 此后,xAI 确认 sus-column-r 是 Grok-2 的早期版本。这些例子是非正式的单次测试,冗长解释不能确立模型身份、架构或普遍可靠性。视频中没有确认的付费赞助。

  1. 1神秘模型的身份Berman 讨论了 sus-column-r 与 Strawberry 有关的传闻。xAI 随后确认它是 Grok-2 的早期版本。
  2. 2Python 贪吃蛇经历一次 API 错误和缓慢生成后,程序在 Berman 的测试中运行,并提供失败和重新开始选项。
  3. 3同时晾晒模型表示,如果 20 件衣服都能在相似条件下铺开,约四小时即可晾干,并指出了空间限制。
  4. 4有条件的弹珠回答模型考虑了几种可能结果,但对倒扣玻璃杯如何留住弹珠的部分说法值得怀疑。
  5. 5导航谜题北极的表述带来几何歧义;另一个平面版本得到了一条平行路径的解释。

要点建议

  1. xAI 确认 sus-column-r 是 Grok-2 的早期模型,与其是 OpenAI Strawberry 的猜测相矛盾。
  2. 模型冗长的推理是生成的输出,不能证明其内部使用了特定推理架构或训练方法。
  3. 演示中生成的贪吃蛇游戏可以运行,但模型输出缓慢,一次请求还出现了错误。
  4. 晾衣问题的答案取决于衣服能否在相似条件下同时晾干。
  5. 弹珠和北极问题没有说明所有物理或几何假设,简单地判为通过或失败并不完整。
  6. 每个模型一两个提示词的测试不能确立可靠的综合排名。
全文

按章节阅读整理后的全文

只看原始文稿
01

匿名模型与编程测试

Berman 介绍关于 sus-column-r 的传闻,并测试简单 Python 和贪吃蛇。xAI 后来确认该模型是 Grok-2 的早期版本。

匿名模型 sus-column-r 已在 LMSYS 直接聊天中开放,一些人认为它可能是 OpenAI 传闻中的 Strawberry 或 Q*。我测试它的表现。这些输出并不能确定它的身份:xAI 后来确认 sus-column-r 是 Grok-2 的早期版本([xAI 发布公告](https://x.ai/news/grok-2))。

对于一个简单的 Python 请求——输出一到一百的数字——模型在没有被要求的情况下给出了逐步解释,并生成了我认可的答案。我猜测这种冗长是否意味着内置了某种推理方法,但仅凭输出风格无法确定训练流程、系统提示或模型提供商。

接下来我要求用 Python 编写贪吃蛇。第一次请求返回 API 错误,我猜测可能是需求量太大,但没有证实原因。重试时生成速度很慢,回答末尾似乎被截断,不过剩余代码足以让我运行游戏。

生成的贪吃蛇游戏
幻灯片 1 / 6生成的贪吃蛇游戏Berman 运行模型的 Python 输出,观察到一个可玩的游戏。

游戏可以打开和游玩,蛇离开窗口时会显示失败信息,并提供退出或重新开始的选项。它没有显示得分。由于输出缓慢,我没有要求通常会加入的额外功能;在我的非正式评分中,我将初始游戏判为通过。

02

安全与推理谜题

他测试拒绝行为,随后测试晾衣、词数统计、杀手谜题和弹珠场景。输出有成功,也有错误和依赖的假设。

我测试模型如何处理违法行为请求。它最初拒绝了一个请求,之后当请求被改写为历史问题时,给出了不同回答。拒绝是一种安全行为,并不能证明模型属于某家公司;这几个提示词也不能确立它的整体安全性或可靠性。

晾衣问题问:如果五件衬衫四小时晾干,20 件需要多久。模型解释称,如果所有衣服都能在相似的日照和气流条件下分别铺开,约四小时就能晾干。它还指出,空间不足或衣服重叠可能改变结果。我认为这些假设和解释构成了一个很好的回答。

晾衣问题的推理
幻灯片 2 / 6晾衣问题的推理回答讨论了独立晾干,以及空间和环境条件的重要性。

当被问及自己回答中有多少个词时,模型给出的数量在我看来不正确。接着它处理杀手谜题:房间里有三个杀手,新来者进入并杀死其中一人,且没有人离开。两名存活的原有杀手加上新来者,共有三名活着的杀手;我接受这个答案,同时指出,如果对死者采用不同的计数方式,题意的解释也会改变。

弹珠问题把一颗弹珠放进玻璃杯,将杯子倒扣在桌上并移进微波炉。模型给出了多种可能结果,认为弹珠最可能留在桌上或地板上。它还认为,竖直提起杯子时,摩擦或惯性可能让弹珠留在杯口;在通常假设下,这种解释从物理上看值得怀疑。

我意识到,提示词没有具体说明杯子在哪里被倒转或如何被提起。如果一个普通开口玻璃杯在桌面上方倒扣,提起时又没有固定弹珠,那么弹珠会留在桌上;其他操作方式可能改变结果。我将模型的回答判为通过,同时指出它提出的另一种情况不够清楚。

弹珠问题的回答
幻灯片 3 / 6弹珠问题的回答模型考虑了多种结果,包括一个有关杯口的可疑解释。
03

格式、数字与伦理

模型给出句尾词语和小数比较的示例,然后讨论一个伦理假设并给出有条件的回答。

我要求写十个以“apple”结尾的句子,展示的完整回答似乎符合格式要求。在小数比较中,模型正确指出 9.9 大于 9.11,并解释了十分位。我赞扬了这些解释,但它们只是单个例子,不能证明普遍优势。

比较 9.11 和 9.9
幻灯片 4 / 6比较 9.11 和 9.9模型比较十分位数字,正确给出数值大小顺序。

一道伦理假设问:如果轻轻推一个陌生人能够拯救人类免于灭绝,是否应该这样做。模型最初讨论同意、不确定性和替代方案;被要求给出是非答案时,它在自己所述的不确定条件下回答否,同时承认如果结果完全确定且满足其他条件,判断可能改变。虽然我会作出不同回答,但我接受它的理由。

04

导航与 GPT-4o 比较

Berman 测试一道北极问题及从 A 点出发的修订版,然后比较 GPT-4o 的两次回答。几何结果取决于对题目的解释。

接下来我尝试一道受到世界模型讨论启发的导航问题:从北极出发走 500 码,左转走十码,再次左转并一直走下去。模型认为行走者不会回到起点,但它对极点和曲率的讨论很混乱。结果取决于明确指定的曲面和持续行走的方向规则;仅凭题目措辞,不能把平面论证当作球面上的完整答案。

我将题目改为从一个未具体指定的 A 点出发,而非北极。在平面解释下,第二次左转会让行走者沿着一条与原路径平行、相距十码的直线前进,因此永远不会经过 A 点。模型在这一解释下说明正确;如果是在曲面上,则需要额外假设。

从 A 点出发的导航变体
幻灯片 5 / 6从 A 点出发的导航变体模型在平面解释下描述了平行路径。

作为比较,我把修订后的问题交给 GPT-4o。一个回答开头说会经过起点,但其坐标解释最后得出不会;另一次提示后的回答得出会,这与平面几何不符。这几个输出展示了变化和内部矛盾,但并非对模型整体能力的受控比较。

GPT-4o 的矛盾回答
幻灯片 6 / 6GPT-4o 的矛盾回答开头的答案与随后基于坐标得出的结论不同。

我鼓励观众在 Arena 中试用这个匿名模型。当时我对它可能与 Strawberry 有关感兴趣,但后来确认它属于 Grok-2,说明不应凭少量回答推断匿名模型身份。这些测试仍只是模型在本次会话中的表现快照。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1