Grok 4.5 编程体验:Theo 的基准解读与初步测试

原标题Grok 4.5 for Coding: Theo’s Benchmarks and Early Experience

Theo Browne 在 Cursor 提前使用 Grok 4.5 后,考察其成本、基准限制、编程工作和 3D 实验。

TBTheo Browne讲者 · Ping Labs
频道
Theo - t3․gg
发布
2026年7月9日
视频
24:43
阅读
7 分钟
幻灯片
6
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Theo Browne 在编程和游戏实验中使用 Grok 4.5 后进行评测。他强调模型的成本与响应速度,讨论 CursorBench 的训练数据重叠,并与其他模型比较实际优势和局限。

  1. 1编程基准展示的 DeepSWE 图表中,Grok 4.5 在特定设置下落后于 Fable 和 GPT-5.5。
  2. 2CursorBench 的限定Cursor 代码库的早期快照被无意纳入训练数据;对分数的影响未知。
  3. 3历史价格视频展示了以 20 万 token 上下文为界的不同费率。
  4. 4实际编程工作Theo 介绍了 Lakebed 的审计、多条拉取请求和审查后的跟进。
  5. 53D 实验生成的游戏有值得关注的素材,但布局和控制存在明显问题。

要点建议

  1. 展示的编程成绩很强,但取决于基准设置和运行框架。
  2. Cursor 披露训练数据与其代码库存在重叠,因此对 CursorBench 分数的影响尚不明确。
  3. 视频中的 API 价格和优惠条款是历史快照。
  4. Theo 认为该模型适合交互式代码审查及后续工作,同时仍需审查输出。
  5. 他的 3D 演示素材有潜力,但控制有问题,尚不能发布。
  6. 他对子智能体编排的评价基于有限测试。
全文

按章节阅读整理后的全文

只看原始文稿
01

令人意外的提前测试

Theo 介绍了在不知道模型身份的情况下使用 Grok 4.5 的经历,并引出其报告的编程表现。

我在 Cursor 中使用了一个模型大约一天,原以为它是新版 Composer。后来才知道它是 Grok 4.5,而在知道名称之前我就对它印象不错。它的编程分数很强,报价也低,但我的体验并不能让每项基准排名都成为普遍结论。

02

训练和基准测试

他研究发布材料及 Cursor 的评测。CursorBench 存在已披露的训练数据重叠。

发布材料强调编程、智能体任务和工程能力。展示的 DeepSWE 1.0 图表中,Grok 4.5 得分 62%,低于 Fable max 的 66.1% 和 GPT-5.5 xhigh 的 64.31%,高于图中的 Opus 结果。这些数字对应特定模型设置和某次评测快照。

DeepSWE 1.0 结果
幻灯片 1 / 6DeepSWE 1.0 结果发布图表比较特定模型配置在一项编程评测中的成绩。

开发方称这是一个大型混合专家模型,使用大量算力、经过筛选的数据,以及围绕多步骤工程任务的强化学习训练。我据此推测它是一个规模可观的新基础模型,但这是我自己的推断。他们还展示了一次生成的案例,包括 3D 作品,并报告了较快的服务速度。

Cursor 基准测试表
幻灯片 2 / 6Cursor 基准测试表表格报告了多项编程基准及对应的模型设置。

Cursor 报告的 Terminal-Bench 2.1 成绩为 83.3%,接近图中 GPT-5.5 的 83.4% 和 Fable 的 84.3%。它还描述了联合训练过程,其中使用 Cursor 交互数据及更广泛的技术资料。基准结果不仅取决于模型,也取决于运行框架和设置。

视频录制时,Cursor 宣传订阅包含大量使用额度,并提供初期优惠。我认为,成本更低的模型可能帮助工具提供商让个人订阅更有吸引力;不过方案、限额和价格都可能变化,应自行核实。

Cursor 表示,模型联合训练时使用了编程交互数据,以及科学、研究和知识工作方面的更广泛数据。强化学习任务设计得困难且包含多个步骤。我猜测这些因素共同促成了结果,但这里无法确定各部分的具体贡献。

CursorBench 乍看对它尤其有利:图表显示它以低得多的单项任务成本取得与 Fable high 类似的分数。但图表附有一个关键限定,因此不能把这项比较视为干净、独立的测量。

CursorBench 训练数据重叠说明
幻灯片 3 / 6CursorBench 训练数据重叠说明脚注表示 Cursor 代码库的早期快照曾纳入训练,分数受到的影响尚不明确。

Cursor 披露,其自身代码库的一个早期快照被无意纳入 Grok 4.5 的训练数据。由于 CursorBench 使用该代码库的任务,模型拥有优势,但具体影响未知。公司表示已从未来模型的数据中移除这部分内容;我赞赏这种披露,但引用分数时必须说明背景。

03

价格和效率

他回顾当时的 token 费率与基准成本,也指出模型在他自己的测试中表现较弱。

视频中展示的 Grok 4.5 价格
幻灯片 4 / 6视频中展示的 Grok 4.5 价格展示的费率是历史快照;视频还介绍了较高的长上下文费率。

视频中展示的 API 价格是:上下文低于 20 万 token 时,每百万输入 token 2 美元、输出 token 6 美元;超过该阈值后,展示的费率翻倍至 4 美元和 12 美元,上下文窗口为 50 万 token。这些是当时的数字,不是当前报价。

我觉得更长上下文的费率不太合理,尤其是输出 token 也涨价。我对定价动机和 GPU 经济性的解释只是猜测。成本还取决于任务消耗多少 token,因此只比较单价并不够。

我展示的快照中,Artificial Analysis 给 Grok 4.5 的 Intelligence Index 分数为 54。在该评测套件中,它报告的平均成本约为每项任务 0.31 美元,图中 Fable 对比值约为 2.75 美元。这些数字描述的是该评测,而不是任意工作的费用。

Coding Agent Index
幻灯片 5 / 6Coding Agent Index图表比较使用不同指定智能体运行框架的模型。

编程智能体图表也显示,在所展示的运行框架中,它用较少 token 取得了较强表现。我觉得这很有吸引力,因为 token 更少、费率更低,可能让模型用起来更快并降低成本。不同任务和框架可能改变这种取舍。

它并非在每项测试中都出色。在我的 Skatebench 测试中,它得分 76%,每次回答平均使用约 2,100 个 token,在这项特定测试中成本相对较高。一个模型在某个基准上高效,在另一个基准上可能投入更多推理。

04

实际编程工作

Theo 讲述 Lakebed 的审计和后续拉取请求,介绍有帮助的交互及其局限。

基准测试无法完全反映实际工作中的使用感受。我用 Grok 4.5 在开源发布前审计 Lakebed,查找安全、维护和发布问题。它发现了许多其他模型也发现的问题;当我让它开始修复时,表现尤其好。

我提供了一条拉取请求和一份报告,询问哪些问题已经解决。它回答说,该 PR 完整解决了两个阻塞项,另一个只解决了一部分,而大多数发布门槛仍未满足。我喜欢它区分已完成工作、限定条件和剩余任务,而不是把报告当作已经处理完毕。

Lakebed 审计对话
幻灯片 6 / 6Lakebed 审计对话智能体区分了已解决的问题和仍未满足的发布门槛。

随后我询问两份不同列表中的特定编号条目,并用简短前缀消除歧义。它直接回答了问题,解释了与发布有关的顾虑,并帮助确定剩余工作的优先级。在这次会话中,这样的上下文处理体验很好。

我一次给了它几项指示:针对选定问题分别创建拉取请求,调查另一项顾虑,并暂缓其他事项。它创建了两个 PR、回答了问题,并列出上线前要做的工作。随后我让它处理审查评论,并用 Cursor 的监控技能跟进这些 PR。

另一个智能体提出了修改建议,我把建议截图交给 Grok。它按要求修改了其中一个 PR。我的意思不是输出不需要审查,而是这次多步骤的来回协作对我来说格外顺畅。

根据我的体验,它没有找到 Fable 找到的所有问题,代码也不如 GPT-5.6 周全。尽管如此,它快速、低成本地处理了一个大型交互任务。我认为它是有用的编程选择,但这些比较仍基于有限的个人测试。

05

3D 与模型代际

游戏实验展示了视觉进步和易用性问题。Theo 最后对编排能力作出初步比较。

我进一步让它把我的 Fish Slop 游戏改成 3D。它制作了环境、生物和水箱几何体;其中一些 3D 素材比我其他实验生成的更让我满意。不过初始布局出了问题,结果也有明显缺陷。

潜艇和生物模型很粗糙,移动控制方向颠倒或操作别扭。后续提示修好了一些指针行为,但没有解决所有问题。尽管视觉进步让我意外,我不会按当时的状态发布这个游戏。

我把 Fable 和 GPT-5.6 视为较新一代模型,部分原因是它们能够编排子智能体,把大型任务拆成更小的部分。我用 Grok 4.5 做这方面的尝试很有限,但它没有表现出同样细致的能力,有时进程挂起后还会卡住。

一些差异可能来自运行框架,另一些可能来自模型。我的游戏类比是:Grok 4.5 像是用上一代技术做出的特别出色的产品,而更新的方法已经出现。这是主观理解,并不是经过测量的代际分界。

我对 xAI 和 Cursor 改进产品的速度印象深刻。更多竞争可能促使其他提供商让模型更快、更便宜、更有能力。结果是否如此还有待观察,但我很期待他们接下来做什么。

同频道的其他文章

5 张幻灯片38:47EN → 简体中文
Theo - t3․gg· 2026年10月28日Theo 的长时间 Agent 实验:验证、算力与成本Theo Browne · Ping Labs滑板游戏和两个编译器项目展示了反复检查与弹性算力如何支撑 agent 工作,也揭示了循环可能带来的高昂成本。编程智能体智能体工程AI cost & performance+2
5 张幻灯片36:07EN → 简体中文
Theo - t3․gg· 2026年10月27日Theo 谈 Token 成本、编程智能体与 AI 能力的价格Theo Browne · Ping Labs一则关于 Lauren 的 AI 支出估算广泛传播,引出了对缓存计价、基准测试和编程智能体工作方式的讨论。AI cost & performance编程智能体Inference+1
5 张幻灯片30:37EN → 简体中文
Theo - t3․gg· 2026年10月26日Theo 的三个技能:用编程智能体审查和交付代码Theo Browne · Ping Labssol-loop、full-send 和 full-stop 如何定义审查、验证以及不同程度的合并权限。Agent skills编程智能体Code review & verification+2
2 张幻灯片0:43EN → 简体中文
Theo - t3․gg· 2026年10月23日Theo 区分安全漏洞与实际攻击Theo Browne · Ping Labs一段简短讲解:软件漏洞披露和攻击事件为何属于不同类型的安全新闻。CybersecuritySoftware engineering
6 张幻灯片29:22EN → 简体中文
Theo - t3․gg· 2026年10月22日Theo 谈安全漏洞、被盗 API 密钥与 AITheo Browne · Ping Labs从漏洞披露到补丁部署之间的风险窗口,以及被盗推理密钥为何可能有价值的推测。CybersecurityAI securitySoftware engineering+1
4 张幻灯片31:13EN → 简体中文
Theo - t3․gg· 2026年10月20日Theo:更聪明的模型为何能帮助更多人Theo Browne · Ping Labs从游戏修改到编译器实验,Theo 重新思考谁能从更强大的 AI 中受益。编程智能体Developer productivityHuman-AI Collaboration+1