递归自我改进：闭环、成本与测量难题

a16z 的 Martin Casado 与 MakerMaker.AI 联合创始人 Dhaval Adjodah、Owen He 讨论递归自我改进（RSI）、测量方法和公司的早期研究。他们的说法来自仍在进行的研究，也应结合商业利益理解。

嘉宾区分了两件事：被改进的系统参与改进自身的闭环，以及仅仅自动化 AI 开发中的某个步骤。他们的定义涵盖模型和工作框架等更广泛的系统。

他们从性能以及达到该性能所需资源或难度的角度描述进展。只提高基准分数可能掩盖成本增加；有意义的比较取决于测量了什么、哪些条件保持不变。

闭合的反馈回路本身并不意味着能力会失控式起飞。嘉宾认为结果取决于系统的动态，应通过实证研究。

他们提出的系统可以同时包含人类研究人员和数字智能体。按照这种定义，即使回路闭合，改进也不一定完全自主。

创始人称，部分已发表的自我改进方法在他们的内部测试中无法扩展，并主张采用以数学框架为基础的简单闭环。这是他们自己的判断，并非全面的独立复现。

他们选择关注推理，因为提高推理能力或效率可能使其他 AI 工作受益。他们描述了改进的早期迹象，但讨论中没有提供足够的独立证据来确立普遍的加速结论。

测量是核心难题。团队安排工程师质疑结果并调查方差；系统可能利用指标漏洞，也可能因噪声看似变好，却没有实现稳健改进。

讨论最后以威斯康星州一家花园水管公司的未知工作流程为幽默例子，说明重要限制或机会可能出现在意想不到的现实问题中。创始人重申，路径与边界仍需实证检验。