30 秒看懂
编程智能体做决定的速度可能快到创作者不再理解结果。前 Anthropic 工程师 Thariq Shihipar 正在自己的格斗游戏中尝试一种办法:用可读且受规则检查的一层描述角色招式,让模型维护底层引擎。他认为,能力不断增强的模型能使用多种格式,让开发者可以选择保有创作控制权的工作方式,而不必迁就单一工具。
- 1Bash 和 React 没有成为唯一可行的接口Shihipar 说,模型早期的强项让他以为命令行或 React 会占据主导。如今模型也能通过其他工具和格式工作。
- 2能力不仅在前沿边缘,也在内部扩展他把模型能以多种方式完成的广泛任务称为“平滑的内部”,与其在最难任务上参差不齐的表现相对照。
- 3未明确的游戏规则让模型做出太多决定他让智能体添加投掷石块的招式后,发现自己不知道石块与墙如何互动,也不知道它的速度和大小。
- 4可读的游戏规则给创作者一个依据他将引擎代码与受规则检查的文件夹分开,后者用他能查看和编辑的方式描述角色及其能力。
- 5小幅改动代码就能改变招式,模型处理复杂部分在演示中,他调整石块大小并介绍如何使用编辑器补全;有需要时,他让 Claude 创建更底层的构件。
要点建议
- 将自己想控制的、可读的行为描述与智能体可以维护的实现细节分开。
- 为面向人的规格制定规则,让自己能够理解并调整智能体的决定。
- Shihipar 认为,模型进步不仅体现在能通过更难的基准测试,也拓宽了完成任务的方式。
- 将 AI 生成软件看作提高质量和丰富创作选择的机会,而不仅是加快生产。
按章节阅读整理后的全文
那些没有应验的预测
Shihipar 回顾自己对模型和创作工具的预测。他说,对某一种接口或媒介会占据主导的几种担忧并未成真。
离开 Anthropic 后,我一直在反思自己哪些判断对了,哪些错了。我曾正确预测模型会帮助编辑视频、用 HTML 理解自己的工作,以及帮助人们探索陌生问题并制定计划。
人们很容易只记住预测正确的时候。我也曾以为 Bash 会成为通用接口,因为包括 Claude Code 在内的早期智能体用它用得很好。

事情并没有这样发展。在一些场景下,我现在更喜欢 MCP 而不是命令行接口;代码模式、技能和渐进式披露也给智能体提供了其他行动方式。Bash 的突出地位部分反映了早期模型的训练方式。
我还担心 React 会成为人们需要的最后一种语言,因为模型很擅长写 React。现在它们能生成 HTML、React、Swift 或 Figma 的 JSON 格式,因此结果不必把我们锁定在一种技术上。
我曾担心扩散模型会吞噬艺术,让人几乎失去控制。实际上,语言模型也能通过代码创作艺术,或操作 Blender、Photoshop 和 Figma 等工具。
这些担忧背后都有一种想象:外来智能有固定的工作方式,人类只能接受。我不再认为那是唯一的结果;问题是,随着模型进步,我们怎样继续以人为中心。
软件生产与创作质量同时进步
他将自动化比作工业革命与文艺复兴。他认为,随着生产变得容易,开发者可以追求更高质量。
软件工程师走在采用 AI 的前沿。我们如何应对低质量输出、如何使用新能力,可能给其他知识工作带来借鉴。
在我看来,AI 既是一场工业革命,也是一场文艺复兴。软件生产正变得更加可靠,实现想法的难度对它的限制也在减少。
与此同时,人们希望得到更好的软件。随着常规生产变得容易,创造力、实用性和用心可能更加有价值,尽管同时把握这两种变化并不容易。
能力前沿之下的平滑内部
他区分前沿基准测试和模型能用多种格式完成的越来越多熟悉任务。一项地图练习展示了模型的知识。
人们常把能力描述成参差不齐的前沿。几年前我们让模型写一个函数,后来写一个功能或简单应用;如今引人注目的例子涉及规模大得多的项目。
我也会想到“平滑的内部”:模型能力范围内能够轻松完成的广泛任务。如果模型能用 React 实现一个界面,也许它同样能用 HTML 或 Figma 的格式表达。

这种广度对我来说比又一个惊人的边缘基准成绩更重要。我可以选择如何制作原型或视频,并关注结果是否足够好。
如今我们搭建辅助框架并审查模型输出。我预计,随着模型进步,更多工作会进入这个平滑的内部。在理想化的未来,一个足够强的模型无需大量审查就能满足规格。
一个展示模型知识的例子是询问经纬度坐标对应陆地还是水域,然后把答案画成地图。不同代模型的地图越来越清晰,展现出单靠编程基准无法捕捉的一种通用知识。

我们可以用智能来理解并塑造自己使用智能的方式。我认为,在软件生产经历工业化之后,这可能成为一个重点。
游戏暴露出对智能体决策的失控
模糊请求让模型自行选择创作者不理解的机制。他开始把引擎代码与可读规则分开。
我一直在制作一款受 Avatar 和 Smash Brothers 启发的二维格斗游戏。让模型添加招式很有趣,但也让我不确定角色到底会做什么。
例如,要求角色扔一块石头,会留下许多未定的选择。石头能穿过另一个角色召唤的墙吗?它有多大、飞得多快,能否蓄力?
模型会自行补上这些细节。我在不理解结果的情况下试玩,等待提示响应时又容易分心,有时反而进展更少。我认为 AI 辅助工作不必永远如此。
好的作品往往需要在取舍之间进行复杂判断。要做出优秀的东西,我需要足够了解游戏,才能自己做这些决定,而不只是接受模型的默认选择。
我目前的初步做法是把代码库分成引擎和一个面向人的规则文件夹。Claude 会收到检查规则和指令,让这个文件夹保持可读,读起来几乎像英语或一份规格。
阅读这一层时,我不必了解每个引擎细节,就能理解并调整行为。它为游戏应该如何运作提供了一个依据。
通过人能读懂的一层编辑游戏
演示展示了如何用他能阅读和调整的代码表达角色能力。模型仍会在这一层下面创建复杂的基础构件。
在演示中,引擎包含摄像机处理等实现细节;另一个区域存放角色及其能力,其中包括投掷石块的招式。

招式代码带有注释,并使用米等有意义的单位。我不必阅读所有底层实现,就能看到角色可以从地面或墙上等不同地方获得石块。
这几乎是为游戏定制的脚本语言。我可以修改一个数字,让石块变大,再回到游戏里蓄力并将它扔出去。

我还在使用编辑器补全来添加小规则,例如在墙出现时将某个动作加入队列。这类似规格驱动开发,只不过规格是可以执行的游戏代码。
我不知道这是否会是最终的方法。遇到复杂行为时,我仍会让 Claude 创建基础构件,但可读层让我能以更多控制权进行审查,并与它一起工作。
对我来说,收获是要问自己如何交付高质量软件,而不是假定必须遵循模型偏好的语言或工作流。
选择工作体验并追求质量
Shihipar 提出新语言、交互方式和审美等可能方向。他希望开发者决定自己想要怎样的 AI 辅助工作体验。
高效、模块化且可读的语言,新的数据库和操作系统交互,以及重新审视人机交互研究中的想法,都可能有发展空间。
新的审美和交互模式也有可能出现。我们需要决定未来的工作和理想体验应该是什么样;我相信模型会越来越能适应这些选择。
同频道的其他文章
22:25EN → 简体中文
17:50EN → 简体中文
14:07EN → 简体中文
58:03EN → 简体中文
19:38EN → 简体中文
19:55EN → 简体中文