ARC-AGI-3:测试 AI 智能体如何学习陌生游戏规则

原标题ARC-AGI-3: Testing How AI Agents Learn the Rules of Unfamiliar Games

Matthew Berman 介绍 ARC 早期网格谜题,亲自试玩 ARC-AGI-3 的互动关卡,并查看早期模型成绩。这一基准测试的是特定形式的适应能力,并不能最终判定系统是否具有通用智能。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2026年3月27日
视频
11:15
阅读
4 分钟
幻灯片
5
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

2026 年 3 月,Matthew Berman 介绍 ARC-AGI-3:在这一交互式基准中,智能体通过在陌生环境中行动来推断目标和机制。他将其与 ARC-AGI-1 和 2 作比较,随后试玩一个关卡,并查看早期模型回放和排行榜。 ARC Prize 报告称,其环境可以由人类解决,而早期前沿系统在所测设置下得分低于 1%。该分数衡量相对于人类基线的进度和行动效率;人类可解决并不意味着每个人都能解决每个游戏,单一基准分数也无法确立或排除通用智能。

  1. 1从示例推断并泛化早期 ARC 任务利用少量输入输出示例,要求测试者推断变换规则并应用到新网格。
  2. 2更难的第二代基准Berman 讲解一个更复杂的符号网格谜题,以及一份历史成本与分数排行榜。
  3. 3交互式环境ARC-AGI-3 要求智能体探索回合制游戏,在没有明确自然语言指令的情况下推断机制和目标。
  4. 4发现关卡规则Berman 观察角色和行动条,发现触碰加号形物体会改变方向,然后抵达目标。
  5. 5早期分数与人类校准所展示的 2026 年 3 月运行结果显示,AI 在选定游戏中得分较低;基准利用人类结果校准效率。

要点建议

  1. ARC-AGI-1 和 2 要求测试者从示例中推断网格变换规则;ARC-AGI-3 加入了交互式回合制环境。
  2. 智能体必须从观察和反馈中推断目标与机制,而不是获得明确指令。
  3. 基准评分结合了相对人类基线的进度和行动效率,而非仅计算获胜游戏的简单百分比。
  4. ARC Prize 表示测试环境可由人类解决;这不意味着每位参与者都解决了每个环境。
  5. 所报告的 2026 年 3 月早期模型成绩低于 1%,结果取决于模型、运行框架和评估条件。
  6. Berman 的演示解决了一个开场关卡,而非多关卡游戏的全部内容。
全文

按章节阅读整理后的全文

只看原始文稿
01

ARC-AGI 测量什么

Berman 将该系列介绍为适应与泛化测试,并展示一个简单的 ARC-AGI-1 网格变换和一个更复杂的 ARC-AGI-2 示例。

ARC-AGI-3 是一项交互式基准,旨在测试 AI 智能体如何适应陌生问题。组织者在 2026 年 3 月报告称,人类能够解决所测试的环境,而早期前沿系统在其评估设置下得分低于 1%。这反映出该基准上的显著差距,但不能证明每个人都能成功,也不是对通用智能的完整测量。

ARC 系列旨在衡量一种特定的泛化能力:从少量信息中学习新规则,并将其应用到新情境。我认为这与主要要求回答熟悉问题的测试不同。其他具有挑战性的基准也仍未饱和;ARC 并非唯一的此类测试。

在一个 ARC-AGI-1 示例中,测试者看到几组输入输出网格。示例显示,每组三个粉色格子在黄色格子填补空缺后,变成完整的二乘二方块。将推断出的规则应用于新输入,就得到所提出的解答。

ARC-AGI-1 网格变换
幻灯片 1 / 5ARC-AGI-1 网格变换输入输出示例展示如何推断规则并应用到新网格。

ARC-AGI-2 保留网格形式,但呈现更难的符号关系。在我查看的例子中,一个彩色图例似乎编码了每种形状中封闭空缺的数量。我通过示例推理,并用这一解释预测缺失的输出。

ARC-AGI-2 符号谜题
幻灯片 2 / 5ARC-AGI-2 符号谜题展示的示例需要理解彩色符号和形状中的空缺。
02

分数、成本与基准背景

他回顾历史排行榜,讨论每项任务的成本。基准结果反映特定数据集与设置,不能证明所有人都能解决每项任务。

我查看了一份以每项任务成本为横轴、分数为纵轴的排行榜。在展示的 2026 年 3 月快照中,较强系统在 ARC-AGI-1 上得分较高,在更难的第二代基准上得分较低;成本也因配置而异。这些数字会随时间变化,并取决于评估集和系统,不能当成当前排名。

03

试玩 ARC-AGI-3 关卡

第三代基准使用目标未知、行动有限的互动游戏。Berman 尝试移动并发现一条规则,从而完成一个关卡。

成本很重要,因为基准关注的是高效获取技能,而不只是通过无限计算获得答案。组织者使用人类参与者来校准任务,但称每项任务或环境可由人类解决,不等于每个人都能解决每项任务,更不等于毫不费力。

ARC-AGI-3 从静态示例转向交互式回合制环境。玩家或智能体可以获得观察结果和可用行动,但没有明确说明目标或机制。挑战在于探索、推断重要因素,并利用反馈在行动限制内规划。

进入 ARC-AGI-3 环境
幻灯片 3 / 5进入 ARC-AGI-3 环境游戏初始画面展示玩家、可能的目标、移动控制和行动条。

我开始一个游戏,在移动之前先观察画面。我看到黄色条、加号、一个彩色物体和可能表示目标的符号。我还不知道自己控制哪个物体,也不知道黄色条代表生命值还是行动预算,因此先尝试一个动作。

按向上键后,彩色物体移动,黄色条缩短,说明它可能记录剩余行动次数。直接前往上方区域没有完成关卡。我注意到两个符号的方向不同,于是形成新假设:也许触碰加号能改变方向。

我重置游戏,向加号移动,看到目标符号发生变化。方向匹配后,我继续前往目的地,完成了画面展示的开场关卡。这个演示说明了在一个关卡中探索和推断的过程;画面显示游戏还有其他关卡。

04

早期模型结果与回放

Berman 将展示的早期 AI 结果与人类基线比较,并观看智能体遇到困难的回放。他向观众介绍基准游戏和奖金。

所展示游戏的早期结果
幻灯片 4 / 5所展示游戏的早期结果表格比较了人类基线和 2026 年 3 月的特定模型运行结果。

我将这次体验与展示的回放结果比较。所选游戏的表格显示人类基线为 100%,几个模型运行结果为 0%;随后我观看一个 GPT-5.4 运行记录,它反复移动,却没有找到演示中的路线。这些是特定运行框架下的个别结果,不能证明这些模型永远无法解决任何相关问题。

早期 ARC-AGI-3 排行榜
幻灯片 5 / 5早期 ARC-AGI-3 排行榜历史图表显示所报告模型得分低于 1%,并展示相关成本。

我展示的历史总体排行榜上,领先结果约为 0.3%,报告的成本相当高。ARC-AGI-3 的评分反映相对人类基线的关卡进度和行动效率,而不只是完成游戏的比例。我提到奖金并邀请观众尝试不同游戏;一个关卡或单一基准都无法解决更广泛的 AGI 问题。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1