Theo 测试 Gemini 4 Argon:设计长处与代码审查疑虑

原标题Theo Tests Gemini 4 Argon: Design Strengths and Code-Review Concerns

Theo 自建的滑板基准表现出色,但其代码库审计出现了大量错误发现。

TBTheo Browne讲者 · Ping Labs
频道
Theo - t3․gg
发布
2026年10月14日
视频
38:30
阅读
9 分钟
幻灯片
7
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Theo Browne 通过设计例子、一个小型 3D 游戏和自己的代码库审计评测 Gemini 4 Argon。他肯定了 SkateBench 的满分结果和部分前端输出,但报告称,在自己的配置中出现了大量错误说法,以及一个未成功的 SQLite PR。他的基准、成本观察和结论都与视频展示的测试及集成方式有关。

  1. 1狭窄测试中的满分在 Theo 的测试中,Argon 在已完成的 SkateBench 问题上取得满分。他提醒,滑板动作命名并不能代表所有任务。
  2. 2游戏机制暴露问题第一版游戏的投喂循环存在故障;修订版有所改善,但仍有一个在能够发挥作用前就失效的道具。
  3. 3代码库审计结果Theo 的 TS Rust 审计将 Argon 的 36 条核查说法中的 24 条标为错误。结果反映了他的特定代码库、集成和评估过程。
  4. 4未成功的 SQLite PRTheo 报告称,生成的改动未通过检查,也没有解决底层问题;他关闭了 PR,并使用另一个模型审查。

要点建议

  1. 单看 token 价格无法确定任务成本;token 用量和缓存命中率也很重要。
  2. 狭窄基准上的满分不能证明模型普遍适合编码任务。
  3. Theo 喜欢部分前端结果,但在测试中发现了游戏机制和代码审查问题。
  4. 代码审计发现和生成的改动需要独立验证。
  5. 视频没有全面评估多模态及其他工作负载。
全文

按章节阅读整理后的全文

只看原始文稿
01

发布、基准与成本

Theo 介绍 Argon,并讨论公布的价格、缓存行为和外部排名。他的成本观察只适用于自己的配置。

Gemini 4 Argon 终于来了。从 Gemini 3.1 Pro 到这次发布,我算下来已经间隔了八个月。我提前获得了使用机会,测试了价格、前端设计、一个 3D 游戏和代码审查工作。它有长处,但我在较复杂代码任务中的体验令人失望。

Google 的朋友帮助我提前使用这个模型。Google 作为 YouTube 平台向我支付创作者收入,但没有为这次 Gemini 评测付费。我的判断基于视频中展示的测试和例子;其他人的工作负载和结果可能不同。

Google 将 Argon 定位为处理编码及其他领域复杂多步骤任务的模型。我查看了外部排行榜,但发现其中给另一个模型标注的价格值得怀疑,这降低了我对该比较的信心。基准的成本假设和分数同样重要。

在我展示的 Artificial Analysis 智能指数中,Argon 的结果高于某些模型,低于部分设置下的 Opus 5.5。按每次完成基准任务的成本计算,它没有按 token 单价看起来那么划算。这个指数是一个综合参考,并不能完整衡量编码能力。

首发 token 价格
幻灯片 1 / 7首发 token 价格画面中的 Google 公告列出首发费率和缓存读取折扣。

Google 的发布材料列出的首发价格是每百万输入 token 2 美元、输出 token 10 美元,缓存读取另有折扣。在我的测试中,token 用量和缓存命中率让实际成本不那么吸引人。我观察到约 70% 至 80% 的缓存命中率,而我的配置中某些替代模型超过 99%。

我无法确定缓存结果来自模型、Antigravity 的报告方式,还是我们在 T3 Code 中的集成。这些只是可能原因,不是诊断结论。我还提到,Google 当时表示首发价格将在 12 月 1 日提高到每百万输入 4 美元、输出 20 美元;这些数字反映的是视频发布时的公告。

Google 引用了内部数据,称智能体代码提交增加、回滚减少,并展示了 Chrome 重构案例。这些是 Google 自己的测量和例子。我更想看看在自己的任务中会发生什么:设计、准确性以及达到有用结果所需的时间都很重要。

02

SkateBench 与多模态工作

Argon 在 Theo 的狭窄滑板评测中表现出色。他指出自己没有独立测试视觉能力。

SkateBench 结果
幻灯片 2 / 7SkateBench 结果Theo 的狭窄基准展示了 Argon 与其他模型的得分,并记录未完成或出错的运行。

一个惊喜是 SkateBench:我用于识别滑板动作名称的私有基准。在我展示的测试中,Argon 在已完成的问题上取得满分,而 Opus 5.5 Max 得分为 79%。早期测试期间 API 出现错误,因此我不得不调整基准以应对不稳定。

模型在这个特定任务中速度快、用量也较省。但在狭窄测试中取得满分,并不能证明它在所有工作中都可靠。声称成功率达到 100%,只有在理解测试任务及其与自身需求的关系后才有意义。

Google 强调了处理文档、视频和音频的多模态能力。过去我发现 Gemini 模型在视觉任务上表现不错,例如给照片中的零件标注名称。本视频重点测试代码,我没有对这些能力做基准测试,因此建议针对相关用途单独测试。

公布的首发价格是暂时的。我不喜欢用户开始构建产品后价格再上涨的方式。不论标价多少,现实中的成本比较都应考虑输出量、缓存行为,以及完成任务所需的尝试次数。

03

前端与服务商特有工具

Theo 喜欢部分生成的设计,并讨论迭代、设计技能和 YouTube 集成。

在前端设计方面,我曾用早期 Gemini 模型制作视频审阅产品 Lawn。在这里展示的例子中,我觉得 Argon 生成的主页美观,互动部分也能运行。这是一个积极结果,尽管我会减少页面上的文字。

生成的前端例子
幻灯片 3 / 7生成的前端例子Theo 评估使用设计技能生成的一个页面。

这些例子使用了 Anthropic 的设计技能。在我的比较中,关闭它会得到更重复的导航和布局;另一个 taste 技能对我来说效果也不如它。这些是主观设计判断,会受提示词和工具影响,不能当成普遍排名。

对于某些营销页面设计,我仍更喜欢 Fable 5.1;处理真实用户体验时,我重视快速迭代。模型生成 token 快,不一定意味着它能迅速解决问题。对我来说,能否与它反复调整,比一次令人印象深刻的初稿更重要。

不同服务商也会给模型提供不同的工具和数据。Gemini 的 YouTube 相关能力对我这样的创作者很有用,包括获取信息和字幕。我在其他 Google 服务集成上的体验没那么好,所以会分别评估具体任务,而不是假定每项集成都一样出色。

我听说 Gemini 在多语言和本地化工作中可能有特殊优势,但我自己的测试没有证实这一点。SkateBench 显示,它确实可能在其他评测没有发现的领域有独特长处。值得寻找这些能力,但不能假设它们能迁移到所有领域。

04

3D 游戏测试

生成的游戏具备完整结构,但机制存在缺陷。后续指令改善了结果,部分设计问题仍然存在。

我的 Fish Slap 测试让不同模型在相同配置下构建同一个 3D 游戏。Argon 的版本实现了完整的五个鱼缸流程,鱼的部分动画也比较合理,但我认为视觉效果和潜艇模型不够出色。更重要的是,第一版存在游戏机制问题。

食物落到鱼缸底部后不会消失,而鱼又无法吃到它。鱼会围着食物聚集,最终饿死;食物数量限制也让我无法简单地继续投喂。我要求模型修复投喂和水面问题并改进画面;下一版看起来更好,也修复了大部分投喂行为。

剩下的一个例子是伤害增强道具:下一波敌人到来之前,它就已经失效。模型实现了一个看似合理的功能,却没有让它与游戏时间安排相协调。我把它称为系统层面判断失败,而不是幻觉:道具确实存在,只是在当前设计中没有用。

Fish Slap 游戏测试
幻灯片 4 / 7Fish Slap 游戏测试Theo 检查游戏机制,以及道具和敌人波次的时间安排。
05

幻觉与代码审计

Theo 对比公开的幻觉基准与自己对多个代码库的审计。报告结果取决于他的测试设计。

我展示的 Artificial Analysis 图表报告,Argon 在一项评测中的幻觉率较低。该评测也考虑答对和拒答,因此错误率低并不等于总分高。我自己的代码工作中出现了许多我判断为错误的说法,这说明结果可能随任务而变化。

我请多个模型审计 TS Rust,也就是我用 Rust 重写的 TypeScript 编译器,验证它们的说法后,再让一个模型评委组给报告打分。在这次测试中,GPT-6.1 Sol 的 38 条核查说法全部正确,平均得分为 8.84。Opus 5.5 得分为 8.78,有一条错误,在展示的比较中耗时更长、成本更高。

TS Rust 审计比较
幻灯片 5 / 7TS Rust 审计比较表格展示 Theo 的评分、核查说法、运行时间和估算成本。

Argon 在这次审计中得分为 4.38,耗时约 43 分钟,按测试中的价格假设成本约 3 美元。展示的结果将 36 条核查说法中的 24 条标为错误。这是我的特定代码库、运行环境和评估方法得出的结果,并非所有 Gemini 使用场景的错误率。

在另一次针对 T3 Code 批量更新问题的审计中,Opus 在我的比较里得分最高,但也有一些错误说法。Sol 漏掉了一些严重问题,却在那次测试中没有提出错误说法,而且更快、更便宜。这也是我喜欢同时比较准确性、有用程度、时间和成本的原因。

在我的评分中,Argon 的 Lakebed 审计结果更差:10 分中得到 2.25 分,78 条核查发现中有 56 条被标为错误。在 T3 Code 架构审计中,我报告了 31 条正确、14 条部分正确和 47 条错误发现。如果审查者自信地让团队追查不存在的问题,就可能造成实际损害,因此我会独立核查其发现。

Lakebed 审计评分
幻灯片 6 / 7Lakebed 审计评分Theo 比较不同模型评委对另一个代码库审计的评分;这些是他的评估结果。

我还觉得它的回复冗长、不易阅读。我的结论很严厉,因为这些结果与我自己反复遇到的挫折一致,但测试仍然是我设计的:项目、提示词、集成方式、评判过程和抽查的说法都会影响结果。

06

SQLite 任务与集成体验

他介绍失败的 PR、另一个模型的审查以及周边工具的问题,并给出有范围限制的个人建议。

在一个具体编码任务中,我请模型调查 SQLite 连接不稳定。它指出了读连接池和单写入连接的方向,随后我让它实现第一优先级。生成的 PR 耗时约半小时,修改超过一千行,而且检查失败。我关闭了它,没有合并。

SQLite pull request
幻灯片 7 / 7SQLite pull request展示的智能体线程包含大量改动和失败的检查。

我请 Opus 审查这个线程和 PR。它认为,最初的诊断发现了一个真实机制,但证据不足;实现则仍然把阻塞工作留在主线程。它还指出已经有 PR 在处理这个问题。按我的描述,后来一个小得多的改动得到了合并。

另一次长时间运行后,我遇到了网关故障,只能在没有原线程历史的情况下重新开始。我还觉得 Antigravity 集成不够顺手,包括模型和推理强度选项的呈现方式。我无法从一次失败推断所有问题分别由哪个组件造成,但周边工具的可靠性确实会影响用户体验。

我担心账号访问问题,因为我的 Gemini 账号与我依赖的其他 Google 服务相连。我说 Google 承诺过更有限的限制,但我看到的一些报告让我保持谨慎。这是我对风险的判断,并不是说使用这个特定集成必然会导致账号被封。

经过这些测试,我不打算在自己的项目中用 Argon 承担大量代码工作。我仍可能考虑用 Gemini 获取 YouTube 数据,或制作初步前端设计。我希望看到取得更好结果的人的反馈和例子;模型也许有我的测试没有覆盖的有用长处。

同频道的其他文章

5 张幻灯片36:07EN → 简体中文
Theo - t3․gg· 2026年10月27日Theo 谈 Token 成本、编程智能体与 AI 能力的价格Theo Browne · Ping Labs一则关于 Lauren 的 AI 支出估算广泛传播,引出了对缓存计价、基准测试和编程智能体工作方式的讨论。AI cost & performance编程智能体Inference+1
5 张幻灯片30:37EN → 简体中文
Theo - t3․gg· 2026年10月26日Theo 的三个技能:用编程智能体审查和交付代码Theo Browne · Ping Labssol-loop、full-send 和 full-stop 如何定义审查、验证以及不同程度的合并权限。Agent skills编程智能体Code review & verification+2
2 张幻灯片0:43EN → 简体中文
Theo - t3․gg· 2026年10月23日Theo 区分安全漏洞与实际攻击Theo Browne · Ping Labs一段简短讲解:软件漏洞披露和攻击事件为何属于不同类型的安全新闻。CybersecuritySoftware engineering
6 张幻灯片29:22EN → 简体中文
Theo - t3․gg· 2026年10月22日Theo 谈安全漏洞、被盗 API 密钥与 AITheo Browne · Ping Labs从漏洞披露到补丁部署之间的风险窗口,以及被盗推理密钥为何可能有价值的推测。CybersecurityAI securitySoftware engineering+1
4 张幻灯片31:13EN → 简体中文
Theo - t3․gg· 2026年10月20日Theo:更聪明的模型为何能帮助更多人Theo Browne · Ping Labs从游戏修改到编译器实验,Theo 重新思考谁能从更强大的 AI 中受益。编程智能体Developer productivityHuman-AI Collaboration+1
4 张幻灯片31:47EN → 简体中文
Theo - t3․gg· 2026年10月18日Theo:向智能体请求结果,再构建它需要的工具Theo Browne · Ping Labs从工具耗时报告、排障手册到数据连接,看提示如何改变产品工程。Prompting & in-context learning编程智能体智能体工程+2