OpenAI o3-mini 发布:推理强度、基准与贪吃蛇测试

原标题OpenAI o3-mini Launch: Reasoning Effort, Benchmarks and a Snake Test

2025 年 1 月,Matthew Berman 解读 OpenAI 报告的结果,并用不同推理设置尝试两个编码示例。

MBMatthew Berman主持 · Forward Future
频道
Matthew Berman
发布
2025年1月31日
视频
9:58
阅读
4 分钟
幻灯片
4
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Berman 解读 o3-mini 的首次发布,包括推理强度设置、公司报告的基准分数、延迟和发布时价格。他测试了两个贪吃蛇程序,报告说两者都能运行,但碰到边界时的行为不同;这些只是简短示例,产品细节也属于历史信息。

  1. 1推理强度发布资料介绍了低、中、高设置以及发布当天的 API 功能。
  2. 2报告的数学结果OpenAI 的 AIME 图表比较了不同推理设置在选定任务上的表现。
  3. 3测得的延迟公司报告,在与 o1-mini 的特定比较中,平均响应速度提高了 24%。
  4. 4两个贪吃蛇程序Berman 运行了两个简短的生成游戏,它们碰到墙壁时行为不同。

要点建议

  1. 首次发布提供低、中、高三档推理强度设置。
  2. OpenAI 的基准图表显示,不同设置和任务的结果各不相同。
  3. 公司报告的延迟比较适用于其特定 A/B 测试。
  4. 主持人的两个贪吃蛇示例均能运行,但边界行为不同;它们不是全面的编码评估。
  5. 视频中描述的价格、访问条件和视觉限制反映的是 2025 年发布时的情况。
全文

按章节阅读整理后的全文

只看原始文稿
01

发布与推理设置

Berman 介绍模型、推理强度设置和当时的发布安排。

OpenAI 发布了 o3-mini。在这段 2025 年 1 月的视频中,我解读公告并尝试一个小型编码示例。我猜测 DeepSeek 带来的竞争可能促使其提前发布,但视频没有证实 OpenAI 选择这一日期的原因。

发布资料介绍了低、中、高三档推理强度设置。当时,OpenAI 宣布通过 ChatGPT 和选定的 API 等级提供访问,并支持函数调用、结构化输出和开发者消息。这篇历史回顾中的可用性和限制可能已经变化。

我解释说,答案明确的题目可以让部分科学、技术、工程和数学问题更容易用于强化学习的评估。这是我讨论中的一种直观解释,并不意味着开放式任务无法使用强化学习或其他反馈。

选择推理强度让开发者可以在更多思考时间与延迟、成本之间权衡。我讨论发布当天 ChatGPT 和 API 的推出安排,包括消息上限的变化,但这些数字属于历史信息,并非当前产品指南。

公告介绍了 ChatGPT 中的搜索功能,并称 o3-mini 发布时不支持视觉,当时建议使用 o1 进行视觉推理。这个说法描述的是 2025 年 1 月的发布情况,而不是后来模型或界面的能力。

02

报告的基准与速度

他解读 OpenAI 对数学、科学、编码和延迟的比较。

OpenAI 的 AIME 2024 图表显示,低、中、高推理强度的结果不同。在展示的比较中,中等强度接近 o1,高强度的分数更高。这些是公司在特定测试条件下报告的基准结果。

AIME 2024 基准
幻灯片 1 / 4AIME 2024 基准OpenAI 的图表比较不同推理强度下报告的准确率。

我查看 OpenAI 的科学和 FrontierMath 图表。在所展示的 GPQA 比较中,o1 系列领先;而在所示设置下,o3-mini 高强度报告的 FrontierMath 结果更强。不同的 pass-at-k 数值对应不同的尝试次数,应在相同条件下比较。

Codeforces 比较
幻灯片 2 / 4Codeforces 比较发布图表比较了估算的编程竞赛评分。

Codeforces 图表显示,随着推理强度提高,估算的编码评分也提高,其中 o3-mini 高强度高于展示的其他模型。SWE-bench Verified 图表也显示了较强的高强度结果。任何一个基准都不能单独证明模型在所有编码项目中的表现。

我讨论的偏好评估区分了 STEM 和非 STEM 问题。我将技术任务的表现部分归因于答案更容易验证,但这是我的解释,这些结果并未独立证明具体的训练机制。

报告的响应速度
幻灯片 3 / 4报告的响应速度OpenAI 介绍其与 o1-mini 的 A/B 延迟比较。

OpenAI 报告,在其 A/B 测试中,中等推理强度的 o3-mini 比 o1-mini 的响应速度快 24%,平均响应时间分别为 7.7 秒和 10.16 秒。这些测量取决于测试工作负载,并非普遍的延迟保证。

03

价格与编码测试

他比较历史价格,并运行两个生成的贪吃蛇游戏。

我比较了发布时展示的 o3-mini 和 DeepSeek Reasoner API 价格,包括单独的缓存输入价格。这些是历史价格;当前费用、缓存条款和产品可用性应向服务商核实。

为了快速上手,我让 o3-mini 用 Python 编写贪吃蛇游戏。在画面展示的首次运行中,代码约六秒后生成。我运行游戏,检查蛇能否吃到食物,并观察到它会从屏幕另一侧出现,但撞到自己时游戏结束。

我用高推理强度重复相同提示。画面显示这次运行约需九秒,生成的程序也更长;这个版本在蛇撞墙时结束游戏,并提供重新开始或退出选项。两者都是简短示例,并非全面的编码基准。

高推理强度贪吃蛇游戏
幻灯片 4 / 4高推理强度贪吃蛇游戏生成的游戏碰到墙壁时结束,并显示重新开始和退出选项。

我提到 Windsurf 和 Cursor 宣布在各自的编码工具中提供该模型。我计划进行更全面的评估,并以对这些产品在 2025 年初快速变化的乐观看法收尾。

同频道的其他文章

6 张幻灯片25:50EN → 简体中文
MBMatthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
MBMatthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
幻灯片0:22EN → 简体中文
MBMatthew Berman· 2026年10月21日机器人保镖短片展示戏剧性的救援场景Matthew Berman · Forward FutureMatthew Berman 观看一段展示格斗与车辆救援场景的机器人短片。Robotics评估
45:08EN → 简体中文
MBMatthew Berman· 2026年10月21日Sam Altman 谈 AI 发现、意识、算力与以人为本的未来Matthew Berman, Sam Altman · Forward Future在与 Matthew Berman 的对谈中,Altman 讨论科学进步、个人助手、递归自我改进与人类自主权。AI for sciencePersonal agentsConsciousness+2
0:32EN → 简体中文
MBMatthew Berman· 2026年10月21日Sam Altman 谈持续存在的软件工作需求Sam Altman, Matthew Berman · OpenAI在一段简短访谈中,Altman 表示,尽管 AI 正在改变软件的制作方式,软件需求可能比人们预想的更大。Future of WorkSoftware engineering编程智能体
1:02EN → 简体中文
MBMatthew Berman· 2026年10月15日从打孔卡到 AI 软件工厂Matthew Berman · Forward FutureMatthew Berman 对比早期编程和 AI 辅助工作流,并推广 Factory 的开发工具。软件工厂编程智能体Software engineering+1