Gemini 2.5 Pro Experimental:编程演示与发布时的基准测试

原标题Gemini 2.5 Pro Experimental: Coding Demos and Launch Benchmarks

2025 年 3 月,Matthew Berman 用交互式模拟测试 Google 的实验模型,并审视发布时的基准结果及其局限。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2025年3月26日
视频
18:31
阅读
6 分钟
幻灯片
6
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Gemini 2.5 Pro Experimental 于 2025 年 3 月发布后不久,Matthew Berman 就通过可调节魔方、乐高搭建工具、游戏、3D 结、蚂蚁农场和玩具式生物模拟等生成程序进行探索。部分示例展示为一次生成的结果,其他示例则经过后续功能请求。 他还查看 Google 报告的基准数据、模型的百万 token 上下文窗口和 AI Studio 设置。他的积极评价基于挑选的演示以及发布时的模型格局,并非独立的当前排名。

  1. 1可调节魔方Berman 演示 4×4 和 10×10 魔方。视频没有检查生成的求解功能如何工作。
  2. 2发布时的基准Berman 查看 Google 的模型比较;结果因任务和测试配置而异。
  3. 3交互式乐高搭建工具生成的应用可以放置和堆叠积木,但存在一些视觉缺陷。
  4. 4迭代蚂蚁农场Berman 通过后续请求为模拟增加可调控制项。
  5. 5玩具式血流模拟二维和三维版本用动画展示简化规则,并非经过验证的生物模型。

要点建议

  1. Google 于 2025 年 3 月推出 Gemini 2.5 Pro Experimental,提供 100 万 token 的上下文窗口。
  2. Google 报告在自定义智能体配置下,模型在 SWE-bench Verified 上得到 63.8%;基准比较取决于测试条件。
  3. 可调节魔方看起来能够打乱并复原,但视频没有确认其算法,也未证明它能解决任意状态。
  4. 乐高搭建工具支持堆叠和放置,但 Berman 观察到积木凸点有时不显示。
  5. 一些示例使用了后续提示,包括为蚂蚁农场增加控制项和请求 3D 血流画面。
  6. 血流和手术示例是玩具式模拟,并非经过验证的生物或医疗工具。
全文

按章节阅读整理后的全文

只看原始文稿
01

魔方模拟与 2025 年发布

Berman 展示可调节的魔方,并回顾 Gemini 2.5 Pro Experimental 的发布。他结合当时的其他模型讨论其初期排名。

2025 年 3 月,Matthew Berman 用一系列生成程序测试 Google 新发布的 Gemini 2.5 Pro Experimental。他称这是自己试过的最令人印象深刻的编程模型,但这些例子是非正式演示,并非受控、全面的比较。

第一个演示是尺寸可调的 3D 魔方。Berman 打乱一个 4×4 魔方,观看它恢复到复原外观,然后开始尝试 10×10 魔方。他说自己之前试用的模型难以做好这种可视化。视频没有检查求解算法,也没有证明它能解决任意未见过的魔方状态。

可调节的 4×4 魔方
幻灯片 1 / 6可调节的 4×4 魔方生成的界面展示打乱和求解动画,但没有说明求解方法。

Berman 将这一实验版本描述为可在 Google AI Studio 使用的思考模型,并说他当时可以免费使用。他展示同期 LMArena 人类偏好排名,其中 Gemini 2.5 Pro 的显示分数高于 Grok 3 Preview。可用性、价格和排名都是历史快照,并非当前指南。

02

基准测试与模型界面

Google 公布的表格比较了特定条件下的推理和编程测试。Berman 提到长上下文窗口并展示 AI Studio 设置。

他解释,思考模型会在最终回答前生成中间工作,并认为这有利于编程、数学和逻辑。他接着查看 Google 公布的模型比较,涵盖 Humanity’s Last Exam、GPQA Diamond、AIME、LiveCodeBench 和 Aider Polyglot。结果取决于基准及测试配置;图表并未显示 Gemini 在每个类别都获胜。

Google 2025 年 3 月基准表
幻灯片 2 / 6Google 2025 年 3 月基准表表格比较所选模型,并区分单次和多次尝试的不同条件。

2025 年 3 月的图表显示,Gemini 在不使用工具的 Humanity’s Last Exam 中得到 18.8%,在 AIME 2025 单次尝试中得到 86.7%;同一图表中,竞争模型在某些其他设置下的结果更高。Google 报告使用自定义智能体配置时,SWE-bench Verified 得分为 63.8%。这些是厂商报告的结果,不能直接保证真实软件的质量。

Berman 强调发布时公布的 100 万 token 上下文窗口,认为其中可以容纳大量代码。10×10 魔方动画完成后,他展示 AI Studio 界面:知识截止日期为 2025 年 1 月,并提供结构化输出、代码执行、函数调用和搜索等选项。

03

乐高、贪吃蛇与飞行

模型生成交互式积木搭建工具、两个贪吃蛇游戏和简单飞行模拟。演示存在视觉瑕疵,测试范围也有限。

下一个提示要求使用 Three.js 在单个 HTML 文件中创建交互式乐高搭建工具,并指定积木形状、颜色、网格吸附、碰撞检测、控制和视觉反馈。Berman 展示了积木放置与堆叠、以红色标记的无效位置,以及相机和旋转控制。

交互式乐高搭建工具
幻灯片 3 / 6交互式乐高搭建工具颜色选择区和网格支持放置积木;Berman 指出凸点并非总能显示。

他指出,积木凸点有时不会出现。在他的个人比较中,DeepSeek V3 版本出现奇怪的圆柱,也无法正确堆叠积木;他说 Gemini 版本是一次生成,没有后续提示。这些观察只针对展示的运行结果,不能确立不同模型或提示之间的普遍排名。

Berman 要求生成更复杂的 Python 和 Pygame 贪吃蛇游戏,包括逐渐消失的轨迹、粒子效果、道具、变化的蛇身外观、障碍和 AI 对手。生成的游戏显示了时间减速和加速等效果,随后他的蛇发生碰撞。他称这个示例由一次生成完成。

随后,一个简短提示生成了简单飞行模拟器。Berman 可以加速、转向并减速至接近停止;他注意到地形、阴影和雾效,但也称结果比较基础,若想增加细节需要更丰富的提示。

他将 temperature 设为 1,再生成另一个贪吃蛇游戏,得到带发光食物和轨迹的不同版本。他说还可以继续增加规则、障碍和道具。视频只展示了短暂的游戏过程,没有全面检查每项要求的功能是否都能工作。

04

网站、环面结与蚂蚁农场

Berman 尝试生成类似 Reddit 的页面和可调节的 3D 结。他额外要求加入控制项后,得到第二个蚂蚁农场版本。

对于类似 Reddit 的页面,Berman 要求模型在一个文件中重建网站,并启用 Google Search grounding。结果包含帖子、评论和社区控制,但更像旧版布局;他不确定模型是否真的使用了搜索。

一个 Three.js 环面结提示要求生成 WebGL 对象,并提供几何、材质、光照和动画控制。Berman 演示改变半径、管道粗细、网格分段以及 P、Q 缠绕值,还调整颜色并切换线框模式。

环面结控制项
幻灯片 4 / 6环面结控制项生成的界面提供几何、材质、旋转和光照参数。

他继续操作光泽、透明度、自发光颜色、旋转速度和光照等控制项。演示说明生成的界面如何开放参数供用户实验;Berman 建议还可以通过提示增加更多功能。

蚂蚁农场提示要求透明的侧面视图,展示蚂蚁挖掘隧道和搬运食物。Berman 说,他经常先写一个简短想法,再让 ChatGPT 扩展为详细提示。他还说,自己最终要求生成 Python 版本。

第一个蚂蚁模拟看起来有趣,但缺少控制项。经过后续请求,第二个版本允许他调整蚂蚁数量、挖掘速度、食物产生速率、一天中的时间,以及沙子或凝胶基质。因此,尽管他总体上将许多演示称为一次生成,这个示例确实经过了增加功能的迭代。

蚂蚁农场控制项
幻灯片 5 / 6蚂蚁农场控制项后续版本增加了蚂蚁数量、挖掘、食物和基质设置。
05

玩具式生物与手术模拟

二维和三维血流动画以及玩具手术游戏构成最后的演示。模拟行为并非经过验证的生物学模型或临床训练。

Berman 要求制作带红细胞、白细胞和模拟病毒的血流可视化,并提供病毒类型和复制率控制。在二维版本中,他改变病毒数量、白细胞速度和检测范围、血流及模拟速度。这些是交互式编程演示的玩具规则,并非经过验证的生物模型。

随后他要求生成 3D 版本,并调整细胞数量、病毒设置、湍流和流速。动画根据预设规则展示病毒攻击红细胞、白细胞追逐病毒。这些画面不能证明模拟准确反映了真实感染的过程。

3D 玩具式血流可视化
幻灯片 6 / 63D 玩具式血流可视化生成的演示用动画呈现彩色细胞与病毒之间的简化互动。

最后一个例子是制作人 Alex 创建的玩具手术模拟器。Berman 使用虚拟手术刀和缝合工具,界面显示精确度和稳定性分数。这是游戏演示,并非临床训练或医疗工具。

Berman 总结说,这些例子大多是一次生成,同时澄清自己有时会要求增加功能,并表示没有要求修复代码。他认为 Gemini 2.5 Pro 是当时自己试过的最强编程模型;这一结论反映的是他在 2025 年 3 月选用的提示和个人体验。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1