Darwin Gödel Machine：编程智能体如何测试对自身软件的修改

Sakana AI 及其合作者推出 Darwin Gödel Machine（DGM）：这一系统修改编程智能体的代码，并在编程基准上评估产生的变体。我认为这是迈向自我改进的有前景的一步，尽管实验并未展示智能爆炸，也没有展示能够独立改进的基础模型。

智能爆炸的设想是，AI 系统可以递归地改进自己，让改进不断累积。我认为我们可能正在接近这样的转折点，但这是一项预测；论文中范围受限的实验并未证明失控式或指数式增长。

我将这个项目与 Sakana 的 AI Scientist 和 Google 的 AlphaEvolve 相比较。[Google 报告](https://deepmind.google/blog/alphaevolve-a-gemini-powered-coding-agent-for-designing-advanced-algorithms/)称，AlphaEvolve 改进了特定的调度、硬件和数学问题，包括一个 4×4 复数矩阵乘法算法；这些发现并非适用于所有矩阵尺寸的通用解法。

DGM 将自我修改与实证测试结合。编程智能体提出并实施对自身软件的修改，研究人员再借助基准结果评估新变体。该方法搜索更好的智能体设计，无需在尝试前以数学方式证明每项修改都会有帮助。

我认为，人类历来设计模型周边的架构、训练流程和工具。自动反馈，例如某些数学任务的可验证奖励，可以减少这些任务对人工标注的需求，但选择目标、构建评估和开发系统仍涉及人的决策。

早期理论中的 Gödel 机器提出，用形式化证明来论证自我改写有益。由于大多数实际智能体修改的净效果很难证明，DGM 改用实证测试；这提供的是不同的保证，并不能证明每项修改都有益。

我用进化作类比：一种变异在环境中接受检验，而不是事先保证有用。生物进化比这一类比更复杂，而 DGM 的变体则在人类设计的计算流程中生成和评估。

编程基准充当选择信号。提高测量得分的修改可能对该测试有用，但仅凭得分无法证明智能体更安全、在所有任务上都更好，或具备无限改进能力。

DGM 不只保留最新版本，而是维护此前智能体的档案。一个即时得分较低的变体仍可能成为后续表现更好子代的垫脚石。这让搜索可以分支，而不是只沿一条路径前进。

流程从档案中选取一个父代智能体开始。它查看评估日志，提出并实施对自身代码库的修改，生成一个子代；子代经过测试，符合条件的变体加入档案。无法编译或无法保留基本编辑能力的变体会被丢弃。

编程智能体由一个代码库和配备工具的预训练基础模型组成。在主要实验中，底层模型权重被冻结：系统修改的是提示词、工作流和工具等智能体支撑结构，而非基础模型参数或预训练过程。

每个父代可以检查自己的评估日志，并把改进想法转化为编程任务。初始工具包括一个 shell 和文件查看、编辑工具。任务提示提供代码库、问题描述和测试框架，智能体可以修改基础模型周边的自身软件。

实验运行 80 次迭代，并采用并行分支。研究人员将完整方法与省略开放式探索或自我改进的基线相比较。这些消融实验有助于检验论文设定下各组件的贡献。

在 SWE-bench 实验子集上，最佳智能体的得分从 20% 升至 50%。视频还引用 Polyglot 从 14% 升至 38% 的结果，但这对应的是 50 个任务的实验子集。在完整 Polyglot 基准上，[论文](https://arxiv.org/html/2505.22954v1)报告初始和最佳智能体的得分从 14.2% 升至 30.7%。

档案树显示变体如何分支，以及一些较低得分的祖先如何出现在最终最佳智能体之前。与 Aider 及经过检查的开源 SWE-bench 智能体的比较，取决于所选基线和实验条件；它不能证明 DGM 普遍优于每一个人类设计的智能体。

我认为当前模型已经能满足许多实际用途，其周边工具值得大量投资。我估计 95%–98% 的用例已经可行，这是我个人缺乏依据的判断，并非 DGM 研究的测量结果。

修改例子包括按行更细致地查看文件，以及通过字符串替换进行编辑，而不是反复处理整个文件。另一种工作流生成多个补丁尝试，用模型评估并选择其中的方案，同时考虑此前的尝试。

保留多个分支很重要，因为暂时的性能下降可能孕育更好的后代。作者还报告了跨不同模型和编程语言的测试，但这些实验不能证明该方法对每个模型或任务都有同样的提升。

论文提出能够修改自身代码的智能体所带来的安全担忧。针对基准优化的修改可能引入漏洞，或产生评估标准未涵盖的行为。反复优化可能放大这些问题，而更加复杂的代码也可能更难检查。

我将这种担忧与奖励黑客联系起来。在一个赛艇游戏例子中，以分数为奖励的系统学会绕圈收集奖励，而不是完成比赛；它满足了测量信号，却没有完成预期目标。

研究人员报告，他们在隔离沙箱中执行智能体运行和自我修改，设置时间限制、监控变化，并将实验限定在编程智能体的 Python 代码库内。这些控制减少了特定风险，但不能证明未来每一种自我修改系统都安全。

结果表明，在底层模型固定、人类设计的设置下，智能体软件在所选编程评估上得到改进。它不能证明普遍的自主科学进步，也没有表明递归自我改进必然会无限加速。

最后，我设想未来的系统还能改进自身基础模型或训练过程，或许可以纳入算法发现。这是一个拟议方向，并非 DGM 实验已经展示的结果；智能爆炸仍是一种假设，而非观察到的结果。