Anthropic 递归自我改进报告：证据、局限与减缓 AI 发展的争论

2026 年 6 月，Matthew Berman 解读[Anthropic 关于递归自我改进的报告](https://www.anthropic.com/institute/recursive-self-improvement)：AI 系统未来可能自主设计和开发能力更强的后继模型。AI 已在辅助开发，但报告并未声称完全自主的循环已经实现。Berman 认可其中存在严肃的控制问题，同时批评该公司呼吁协调减速是出于自身利益。

Anthropic 用图示展示了从工程师直接编写代码，到使用聊天机器人、编程智能体，再到智能体向其他智能体委派任务的过程。Berman 认为，委派程度越高，一条简短的人类指令就能产生越多成果。但代码量增加本身并不能证明软件质量更高。

图示的最后一个阶段是假设：能够开发并训练自身后继模型的智能体可能形成闭环。Berman 推测届时算力会成为主要限制，但报告也讨论了能源、芯片、基础设施等瓶颈。视频包含 DigitalOcean 赞助。

Anthropic 援引智能体可完成任务时长的变化趋势，以人类完成相同任务所需时间作为衡量尺度。Berman 强调，这是任务时长基准，并非智能体实际运行的时间。公司报告近期大约每四个月翻一倍的趋势，并讨论了可能的未来外推，但这些推测以趋势持续为前提。

报告比较了 Claude Opus 3 可完成的人类约需四分钟的任务、Sonnet 3.7 约 90 分钟的任务，以及 Opus 4.6 约 12 小时的任务时长。这些是特定软件任务和成功率门槛下的基准估计，并不保证 AI 可以完成所有需要 12 小时的工作。Berman 还分享了自己的编程智能体运行更长时间的经历。

CORE-Bench 测试系统能否利用已发表研究的代码和数据复现结果。Anthropic 称该基准的表现从约 20% 提升到接近饱和；Berman 认为复现很有价值，但将其与提出研究问题区分开来。该基准结果不能证明模型几乎能复现所有研究论文。

报告区分了工程工作——代码、基础设施和训练操作——与选择实验、解释结果等研究决策。Berman 认为执行变得更容易，但识别值得研究的问题和评估结果仍然困难。他举例说，自己会给编程智能体一张截图，再用简短提示要求它修复错误。

对于团队接下来应该做什么的问题，Berman 认为当前系统不如面对具体问题时可靠。他认为模型输出源于训练数据，因此无法产生真正新颖的想法；这是他个人存在争议的解释，而非报告已证实的结论。现有或未来架构能否产生有用的新想法，仍是开放问题。

Anthropic 表示，截至 2026 年 5 月，合并进公司代码库的代码中超过 80% 由 Claude 编写；在 2025 年 2 月 Claude Code 研究预览推出之前，这一比例仅为个位数的低位。Berman 转述了一位持怀疑态度的高管的玩笑：这或许能解释一些漏洞，同时也承认公司报告的采用规模很大。

Anthropic 的图表显示，在尚未结束的 2026 年第二季度，每位工程师每天合并的代码行数增至此前基准的约八倍。报告和 Berman 都提醒，行数衡量的是数量而非质量：更多代码可能代表更多工作，也可能带来不必要的复杂性。简单或易读的方案可能优于更长的方案。

Berman 提到 Anthropic 内部使用 Mythos Preview，以及 xAI 失去 Anthropic 模型访问权限的报道。他将公司内部使用、限制访问与安全宣传解读为一种竞争策略。他对公司动机的说法属于推测，不能作为其决策原因的既定解释。

Anthropic 明确表示，合并代码行数增加八倍很可能高估了生产力增幅。Berman 提出，AI 编写代码质量较低，以及营销、销售、文档和采用方面存在瓶颈，可能是原因。这些解释需要直接证据：仅凭代码行数无法衡量代码质量或价值。

在 2026 年 3 月对 130 名 Anthropic 研究人员的调查中，回答者的中位估计是：对于原本就会开展的项目，使用 Mythos Preview 的产出约为完全不使用 AI 时的四倍。Berman 用代码行数的八倍增长除以自评的四倍增长，推断 AI 代码的价值只有一半。但这两项指标覆盖的人群和基准不同，不能通过这种计算确定代码的相对质量。

Berman 认为工程加速可能增加对营销、销售和支持人员的需求，并主张生产力增长既可能创造工作，也可能实现自动化。Anthropic 还报告称，员工完成了一些原本可能不会做的探索性工具开发和清理工作。这些例子和他的预测都不能确定整体就业影响。

一名员工表示，自己已有数月没有亲自编写代码。Berman 询问人们如何审查快速增长的机器生成代码，并担忧审查本身也会越来越多地交给智能体。他强调，人类需要继续理解自己部署的系统。

Anthropic 的内部 Claude Code 图表显示，开放式任务会话的成功率有所提高，2026 年 5 月达到 76%。公司称由基于 Claude 的评审判断会话成功与否，并由大语言模型划分任务难度；这是模型评判的内部指标，并非所有此类工作都能成功的独立证据。Berman 特别指出，评估者本身也是 AI 系统。

报告称，许多员工认为到报告发布时，Claude 编写的代码质量已大致与人类编写的代码相当，不过员工之间并无完全共识；进一步提升则是公司的预期。Berman 再次表达了对质量的担忧，同时指出企业其他环节也会限制更快编写代码所能实现的价值。

在一项小型实验研究循环中，Anthropic 要求模型加快训练一个小模型的代码运行速度，同时通过正确性检查。公司报告称，2025 年 5 月 Opus 4 实现约三倍加速，2026 年 4 月 Mythos Preview 实现约 52 倍加速；估计熟练的人类研究员在同一任务中需要四到八小时达到四倍。这些是特定任务的结果，并非整体研究生产力的倍数。

Berman 认为，即使仍由人类选择方向，模型也可以加快实验执行。他设想在资源无限时，大规模并行搜索可以减少对研究判断力的需求，随后也承认现实中的算力、能源和基础设施有限。这类搜索的效果还取决于哪些内容可以测试和验证。

Anthropic 还重新考察了 129 个研究会话中的决策点，选取这些案例是因为人类的下一步选择有改进空间。一名知晓最终结果的评审将模型提出的下一步与人类选择进行比较；公司报告称，在这组筛选案例中，Haiku 3 的比例为 22%，Mythos Preview 为 64%。Anthropic 提醒，这不是对人类与模型一般判断能力的同条件比较。

公司将这些例子视为研究判断能力改善的早期信号，同时认为人类在确定方向和把握全局方面仍有优势。Berman 认为，如果代码生成速度超过人们理解代码的速度，人工审查可能成为瓶颈。这让提高速度和维持监督之间产生张力。

Berman 重新讨论创业圈中“想法便宜，执行困难”的说法。他认为，随着编程更容易委派，选对问题可能变得更有价值；不过，经营企业仍涉及招聘、销售、分销等工作。报告同样强调对问题、结果和死胡同作出判断的重要性。

Anthropic 承认，现有架构和训练方法可能无法实现端到端的自我改进。即使无法实现，公司认为 AI 辅助仍可能带来复合增长，而人类继续设定方向、检查结果。Berman 预计人类的这一作用仍会很重要，并指出硬件和能源会限制可用算力。

Anthropic 提出的第一种情景是进展停滞，但当前能力得到广泛应用。Berman 称之为能力悬置：企业和机构在采用现有系统、改进配套工具的过程中仍可能发生重大变化。这是一种情景，并非技术发展已经停滞的预测。

第二种情景是 AI 实验室的效率持续复合增长，但人类仍然设定研究方向并判断结果。Berman 设想小型组织可以完成多得多的工作，同时指出更快的开发可能将瓶颈转移到部署、验证和其他环节。他给出的数字比较是示意，而非对整个企业产出的实测。

第三种情景是完全递归自我改进：系统在很少人类参与的情况下设计并改进后继模型。其技术可行性和后果都存在不确定性。Berman 认为这一前景既令人兴奋也有危险，并推测资本、算力和能源的获取可能使优势集中，形成长期处于劣势的群体。

Anthropic 表示，无法有把握地预测这样的未来会如何影响社会、市场和治理，并推测机器人技术可能跟随 AI 进步而发展。Berman 质疑报告中关于智能本身无法确定药物长期效果的观点，认为模拟可能有所帮助。仅靠模拟可靠预测药物数十年的效果仍是未经证实的假设。

Anthropic 认为，有效减速或暂时暂停可以给社会机构和对齐研究更多时间，但警告单方面暂停可能让不够谨慎的参与者迎头赶上。Berman 同意竞争压力使暂停变得复杂，同时认为这一提议会使领先的公司受益；公司相对地位和动机属于存在争议的判断。

报告称，有意义的协调需要多个国家的多家前沿实验室就条件达成一致，并核查各方是否遵守。报告指出，模型训练可能比导弹发射井更难被发现，过去的核查机制也需要时间建立。Berman 最后表示，他预计人类还会参与一段时间，并提到自己另一期关于就业的讨论。