OpenAI o3 与 o4-mini 的早期反响:工具使用、数学与错误

原标题Early Reactions to OpenAI o3 and o4-mini: Tool Use, Math and Mistakes

Matthew Berman 回顾 2025 年的演示和基准报告,从地点识别、编程到挑战乐观预期的简单错误。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2025年4月19日
视频
15:15
阅读
5 分钟
幻灯片
7
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 汇总了 OpenAI o3 和 o4-mini 的早期反响,重点讨论推理过程中的工具使用、视觉任务和编程。他也展示了出错的例子。个别轶事、基准结果和类似智商的分数所能提供的证据有限,不能证明模型表现完美或智能与人类相当。

  1. 1如何理解智商类分数一张图根据在线 Mensa Norway 测验给 o3 标出 136 分。这不是经过验证的模型人类智商分数。
  2. 2推理中的工具使用画面中的 o4-mini 示例使用 Python 在工作流程中计算复合增长率。
  3. 3地点识别与隐私Berman 讨论了报告中的地点识别成功案例,并提醒图像可能暴露线索。这些例子本身不能确立普遍准确率。
  4. 4AIME 结果展示的 MathArena 表格显示,在该评估设置下,o4-mini high 在 AIME 2025 II 上获得 100%,费用为 3.16 美元。
  5. 5视觉解读失败展示的一个例子将标注人物的颜色对应错误,说明即便基准成绩出色,模型仍有限制。

要点建议

  1. 在线智商类测试的展示分数不能确立 AI 模型的人类智商或通用智能水平。
  2. 推理流程中的工具调用有助于计算和其他多步骤任务,但结果仍需核查。
  3. 地点识别案例凸显潜在隐私风险,但个别例子不能证明模型普遍准确。
  4. AIME 和编程基准结果反映特定测试及设置,不能保证所有任务都有同样表现。
  5. 报告中的字母计数和视觉标签错误说明,语气自信的输出仍需验证。
  6. 成本和延迟不仅取决于词元价格,还取决于实际用量和任务是否成功。
全文

按章节阅读整理后的全文

只看原始文稿
01

早期反响与工具使用

Berman 回顾了对 o3 和 o4-mini 的反响、一张智商类图表及上下文测试。一个工具调用示例展示了计算流程。

OpenAI 于 2025 年 4 月发布 o3 和 o4-mini,引发了强烈的早期反响。一位早期用户称 o3 接近天才水平,并声称它从不产生幻觉。这是个人的热情评价,并不能证明模型可靠:这些模型仍可能编造内容、犯下严重错误,包括在医疗情境中。

展示的 TrackingAI 图表根据在线 Mensa Norway 测验给 o3 约 136 分,高于图中并列的其他模型。这只是特定测验和测试流程下的结果。人类智商测试是为人设计并建立常模的,因此该数字不是经过验证的模型人类智商分数,也不是其智能的通用衡量。

最让我感兴趣的是模型在解决问题时反复使用工具的能力。一位早期用户称赞模型对科学和临床问题的回答,但这些印象不能确立其医疗专业能力或准确性。重要情境中的回答仍需合格专业人士核查。

长上下文基准结果
幻灯片 1 / 7长上下文基准结果画面中的表格比较了模型在特定理解测试中不同上下文长度下的表现。

画面中的长上下文理解表格显示,o3 在许多受测长度下得分较高,但在某些长度下有所下降。这些结果对应特定评估和提示词,并不保证任意长上下文中的每个细节都能保留。上下文窗口大小和实际理解效果是两个不同问题。

一个 o4-mini 示例在回答过程中编写并运行 Python,计算日复合增长率。我认为推理与工具调用的结合对多步骤任务尤其有用。展示的解释和代码让人可以检查计算过程,但使用工具并不能保证结果正确。

使用 Python 计算增长率
幻灯片 2 / 7使用 Python 计算增长率示例展示 o4-mini 使用代码计算日复合增长率。

另一位评论者称 o3 有重大进步,并表示它帮助他发展了关于后劳动经济学的想法。这是个人评价,并非对某种经济理论的独立验证。模型可以帮助构思和探索,但公式和主张仍需审查。

02

地点识别与模型错误

视频讨论了报告中的图像地点识别案例及隐私影响,也展示了字母计数不一致和一项报告中的迷宫解答。

一个报告中的地点识别示例向 o3 提供街景图像,模型给出了加拿大东部的区域猜测。我对这个例子印象深刻,但单个案例不能说明系统已经解决地理定位问题,也不能证明它总是胜过人类。图像可能包含识别线索,因此分享图片可能带来隐私问题。

另一位用户报告称,模型从一张餐食照片中推断出一家 Chicago 餐厅。解释显示模型可能利用了视觉线索和外部信息,但截图不能确立其确切过程。看似成功的答案仍可能出错,而从图像识别地点也可能影响隐私。

字母计数错误
幻灯片 3 / 7字母计数错误一条报告中的回答错误地统计了“strawberry”中的字母 r;另一位用户得到了正确答案。

模型在简单问题上也会失败。一条报告中的回答称“strawberry”包含两个字母 r,正确答案是三个。另一位用户则从 o3 得到了正确答案。这些相反的例子表明,模型可以完成困难任务,却仍可能在简单任务上表现不一致。

报告中的迷宫解答
幻灯片 4 / 7报告中的迷宫解答Riley Goodside 表示,他检查了模型为一个 200×200 迷宫生成的路径;这只是一个报告中的例子。

Riley Goodside 报告称,o3 一次就找到了一个 200×200 迷宫的路径,并表示他将输出叠加在原图上进行了检查。这是一个有趣的多模态示例,但不是全面评估。另一则帖子报告称 o4-mini high 很快解决了一道近期 Project Euler 题目;该说法及其比较取决于具体设置。

03

数学、编程与效率

Berman 回顾数学和编程演示以及历史基准比较,并讨论词元用量、定价和上下文窗口。

AIME 2025 II 比较
幻灯片 5 / 7AIME 2025 II 比较展示的表格显示,在该评估中 o4-mini high 得分为 100%,费用为 3.16 美元。

MathArena 表格显示,在该评估中,o4-mini high 在 AIME 2025 II 上获得 100%,展示费用为 3.16 美元。视频还提到了总体数学分数和其他 AIME 结果。有限竞赛测试中的高分值得关注,但不能确立模型掌握了所有数学知识,也不能排除它接触过相关材料。

一项编程演示要求模型让小球在六边形内移动。在我看来,o3 和 o4-mini 的示例效果不错,而其他展示样本则出现小球逃逸或消失。这些是特定提示词下的视觉演示,不能取代代码审查、重复试验或更广泛的编程评估。

独立评估摘要
幻灯片 6 / 7独立评估摘要Artificial Analysis 总结了 o4-mini 的历史基准结果和当时的价格。

Artificial Analysis 报告称,o4-mini high 在其智能和编程指数上表现强劲,包括在 LiveCodeBench 和 SciCode 上相较 o3-mini 的提升。展示的帖子中,对 o3 的评估当时仍在进行。排名和价格都是 2025 年 4 月的历史快照,基准组成及设置会影响结果。

视频指出,o4-mini 的上下文窗口为 200K,而当时一些其他模型提供了更大的窗口。一张图比较了基准测试使用的输出词元总数。更少的词元可能降低成本或延迟,但质量、工具调用、价格以及任务能否成功也会影响效率。

04

失败的视觉任务

模型错误地将图中人物姓名与颜色对应起来。Berman 最后强调,模型取得进展的同时仍会出错。

错误的颜色对应
幻灯片 7 / 7错误的颜色对应展示的回答将图中几个人物的颜色对应错误。

最后一个视觉测试要求模型将图中人物姓名与颜色对应起来。展示的回答经过较长时间后仍将几个颜色对应错误。与字母计数案例一样,它提醒我们,出色的数学和编程分数并不能使每一项视觉或推理任务都可靠。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
6 张幻灯片1:03:37EN → 简体中文
Matthew Berman· 2026年10月23日Matthew Berman 团队测试 Kimi K3.1:动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试,内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。编程智能体Generative media评估+2
0:53EN → 简体中文
Matthew Berman· 2026年10月22日Sam Altman 谈 AI 与新知识的发现Sam Altman · OpenAIAltman 预计,数学发现方面的进展将延伸到生物学、材料和能源领域。AI for scienceMathematicsComputational Biology+1
幻灯片0:22EN → 简体中文
Matthew Berman· 2026年10月21日机器人保镖短片展示戏剧性的救援场景Matthew Berman · Forward FutureMatthew Berman 观看一段展示格斗与车辆救援场景的机器人短片。Robotics评估