Theo:用迭代评审改善智能体生成的界面

原标题Theo on Improving Agent-Generated UI With Iterative Reviews

一项 T3 Code 实验利用多个模型评审、截图和反复修改改善界面,同时暴露了主观评分的局限。

ThTheo讲者
频道
Theo - t3․gg
发布
2026年11月3日
视频
31:44
阅读
4 分钟
幻灯片
2
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Theo 介绍如何让多个模型反复评审并打磨 T3 Code 界面,同时与参考应用比较。他还将历史 MCP 工具调用失败转化为更可衡量的评估,用于减少工具描述占用的上下文。

  1. 1评审小组多个模型评审截图并提出迭代修改建议。
  2. 2有噪声的分数Theo 指出,重复评分和比较上下文会改变主观结果。
  3. 3人的引导一项恢复颜色的具体要求改变了后续迭代方向。
  4. 4可衡量的爬坡历史工具失败案例变成了缩短 MCP 描述的评估集。

要点建议

  1. 反复截图和具体反馈可以让渐进的界面修改更容易检查。
  2. 模型给出的设计分数有噪声,会随提示词和参考上下文变化。
  3. 人可以通过具体偏好和视觉检查引导过程。
  4. 历史失败案例可以组成测试集,支持更可衡量的优化循环。
  5. 运行时间和 token 成本估算取决于实际使用的模型及价格。
全文

按章节阅读整理后的全文

只看原始文稿
01

一项设计实验

Theo 回应界面批评并介绍迭代评审过程。

Theo 回应了对 T3 Code 界面的批评。这个开源项目没有全职设计师,他也同意界面视觉和用户体验需要进一步打磨。

他询问编程智能体能否通过反复评估改善真实应用的设计。实验跨越多个模型和许多评审轮次,新界面的早期版本通过测试版开关提供。

项目始于一位用户对字体、圆角、图标和视觉层级的评论。Theo 将反馈交给智能体,要求它创建拉取请求、反复修改,并从一组模型评审那里获得高分。

他的评审技能把同一份任务交给多个模型,要求只读反馈和评分,再收集分歧与下一步建议。他之前用过类似方式评审代码,但没有将其用于主观的界面设计。

视觉质量与性能基准或测试通过不同,没有稳定的程序化分数。Theo 指出,同一模型多次看到相同截图也可能给出不同分数;这些评分是有噪声的判断,不是客观测量。

02

比较与评分波动

带标注的截图和竞争产品参考改变了反馈和分数。

原始界面的初始评分约为十分之六。智能体修改后,评审分数上升。由于细微差别不易一眼看出,Theo 要求生成带标注的前后截图。

带标注的界面对比
幻灯片 1 / 2带标注的界面对比智能体标出原始和修订后会话视图之间的变化。

对比图突出显示了备用字体、标题层级、分支名截断、卡片圆角和行内代码样式的变化。评审组最终给到目标分数,但 Theo 自己与其他应用比较后仍不满意。

他开始新一轮评审,并加入 Claude Code 和 Codex 的截图作为参考产品。目标从单独改善 T3 Code 变为与这些界面比较。按他的说法,这次较长的运行接近十八小时。

新的上下文显著改变了评分:此前被评为九分的版本,在新比较中只比原版略好。Theo 认为这表明提示词、参考图片和上下文会影响主观评分。

他还观察到,未改变的参考截图在后续轮次中得分也上升了。这种不一致再次说明,不能把数字当作经过校准的测量值,尽管反馈仍可指导迭代。

为了控制用量,他最初只让一个模型评审,等其分数足够高后再请其他评审回来。修改改善了标签、字体与边框处理的一致性、侧边栏层级和浅色模式对比度。

03

更多迭代与成本

他提高目标、讨论潜在评分偏差,并报告运行时间和成本估算。

Theo 将工作分叉到另一个 worktree,并把每个类别的目标提高到 9.5 分。智能体继续修改并寻求评审;第一个模型达到门槛后,另一位评审仍不同意。

他意识到一个可能的偏差来源:评审知道目标分数,而同一参考截图的分数又随时间变化。他考虑今后不让评审知道目标。

目标小幅提高后,又需要大约十轮。Theo 报告称,整个更广泛实验约有 17.6 小时的并行智能体运行时间,总成本估算接近 400 美元,但订阅模型的成本存在不确定性。

他后来将约 150 美元的额外优化运行从之前展示的工作中分离出来。这些估算是他对本次实验的核算,并不保证其他用户的订阅或 API 用量成本相同。

在后续运行中,他要求每项达到十分,并给出具体偏好:之前的结果太灰,需要恢复一些颜色。他更喜欢新结果的对比度、更醒目的图标和更清晰的合并按钮。

后续视觉优化
幻灯片 2 / 2后续视觉优化对比图突出显示更清晰的合并按钮和对比度变化。

Theo 的经验是明确迭代过程:将新截图与旧版本和参考版本比较,识别问题,修改,再次评审。尽管有模型评分,他自己的视觉检查仍是评估的一部分。

04

测试 MCP 描述

历史失败案例组成的测试集让工具上下文优化更具体。

随后他介绍一个更可直接衡量的 T3 Code MCP 工具描述优化。他收集模型调用错误工具或错误处理会话的例子,将其分类并制成评估集。

初次模型运行通过了约 88 个收集案例中的 60 个。智能体据此开发了更大的评估集。Theo 指出,讲述时这套评估尚未合并。

修改后分数有时会下降,从而帮助发现回归。他先要求智能体达到期望的测试结果,再大幅缩短工具描述,同时保持这些结果。

他报告说,最终描述占用的上下文显著减少,其中两种配置分别减少 52% 和 78%。他说这些修改已进入 nightly 构建,稳定版计划随后发布。

Theo 提醒,模型行为仍然具有非确定性。尽管如此,他认为智能体很适合分类历史失败和反复测试修改等繁琐工作;他说,手工完成会花更长时间。

最后,他鼓励工程师尽可能把问题表达为可衡量的目标,并据此迭代。界面示例展示了主观模型评审的潜力与局限;MCP 示例则使用了更具体的测试集。

同频道的其他文章

4 张幻灯片15:50EN → 简体中文
Theo - t3․gg· 2026年11月3日Theo 比较用量调整后的 Codex 与 Claude 订阅价值TheoTheo 讨论额度估算、每任务成本和个人审查实验,同时认为模型质量仍是关键。编程智能体OpenAIAI cost & performance
2 张幻灯片16:46EN → 简体中文
Theo - t3․gg· 2026年11月2日Theo Browne:Claude Ultra、五小时限额与 SDK 用量Theo Browne · Ping Labs解读更名后的订阅档位、账户验证,以及交互式 CLI 与 SDK 用量的报告差异。编程智能体Developer productivity开发流程与测试
4 张幻灯片49:29EN → 简体中文
Theo - t3․gg· 2026年10月30日Theo:智能体 Harness、界面与不断变化的抽象层次Theo · T3 CodeT3 Code 创建者解释他对 harness 的理解,以及为什么他预计用户会越来越少地注意它们的差异。编程智能体智能体工程Software engineering+2
5 张幻灯片41:49EN → 简体中文
Theo - t3․gg· 2026年10月29日Theo 演示如何用 T3 Code 协调编码智能体Theo · t3.ggT3 Code 的创建者介绍多个智能体提供方、远程机器、会话组织方式,以及开源编码界面的取舍。Agent orchestration开发流程与测试智能体工程+2
5 张幻灯片38:47EN → 简体中文
Theo - t3․gg· 2026年10月28日Theo 的长时间 Agent 实验:验证、算力与成本Theo Browne · Ping Labs滑板游戏和两个编译器项目展示了反复检查与弹性算力如何支撑 agent 工作,也揭示了循环可能带来的高昂成本。编程智能体智能体工程AI cost & performance+2
5 张幻灯片36:07EN → 简体中文
Theo - t3․gg· 2026年10月27日Theo 谈 Token 成本、编程智能体与 AI 能力的价格Theo Browne · Ping Labs一则关于 Lauren 的 AI 支出估算广泛传播,引出了对缓存计价、基准测试和编程智能体工作方式的讨论。AI cost & performance编程智能体Inference+1