ASI-Arch：自动搜索神经网络架构

摘要

30 秒看懂

Matthew Berman 回顾了 2025 年 ASI-Arch 论文原版及其对 AlphaGo 的类比。该系统利用研究员、工程师和分析师角色提出架构、测试实现，并保留经验供未来实验使用。论文报告了 1,773 次初步实验和约 20,000 GPU 小时，并根据其评估标准筛选出 106 个线性注意力架构。这些是有范围限定的研究结果，并不能证明已经实现人工超级智能、无限自我改进或指数级进步。

1AlphaGo 类比Berman 回顾了对阵 Lee Sedol 时令人意外的一步棋；这一类比不能证明通用超级智能。
2迭代研究循环ASI-Arch 将研究员、工程师和分析师角色与外部工具及保存的结果结合起来。
3提出方案与调试研究员利用文献和先前候选方案提出设计；工程师训练并评估实现。
4实验范围论文原版报告了 1,773 次探索、约 20,000 GPU 小时，以及 106 个入选的线性注意力架构。
5算力与未来应用增加算力和拓展到其他科学领域是可能方向，但视频没有证明指数级进步，也没有证明算力是唯一限制。

要点建议

ASI-Arch 使用语言模型和工具提出、实现、训练并评估候选架构。
搜索过程使用人工设计的提示词、评估、研究文献和基础设施。
论文原版根据特定评估标准报告了 106 个线性注意力架构，并非 106 个在所有方面都更优的模型。
与 AlphaGo 的比较是类比；最初的 AlphaGo 训练也使用了人类棋局记录。
扩大算力和将方法应用于医学是 Berman 讨论的可能性，而非实验已确立的结果。

主题Machine Learning Agent orchestration Experimentation Neural Networks

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

AlphaGo 类比

Berman 描述了他对自动化研究的期望，并回顾 AlphaGo 令人意外的一步棋。这一类比不能确立 AI 创新将指数级增长。

一篇 2025 年论文介绍了 ASI-Arch，这是一个用于提出、实现和测试神经网络架构的系统。作为 AI 帮助研究 AI 本身的例子，我觉得它令人兴奋。论文提到了“AlphaGo 时刻”，但这只是类比和作者的表述，并非已经实现通用人工超级智能的证据。

我认为人类的研究时间可能限制新 AI 想法出现的速度，并设想智能体以更大规模提出假设、运行实验。这是对未来的假设，不能证明人类主导的研究只会线性增长，也不能证明自动化进展会指数级增长。

AlphaGo 与李世石的对局为这个类比提供了背景。它的第 37 手令评论员意外，随着棋局发展，这一步的价值才更加清晰。AlphaGo 使用了训练和搜索，包括自我对弈；最初的系统也从人类棋局记录中学习。它在围棋中的成功本身不能确立架构搜索系统的能力。

幻灯片 1 / 3AlphaGo 的第 37 手围棋棋盘展示了视频类比中使用的那一步棋。

研究员、工程师与分析师

系统利用文献、过去的实验和工具提出并测试设计。分析师保留经验供后续迭代使用。

拟议的 ASI-Arch 循环使用语言模型智能体和工具提出设计假设、实现代码、训练候选模型并分析结果。我质疑其名称中使用“ASI”，因为人工超级智能是一个含义很重的术语。该系统运行在人工设计的研究设置中，包括选定的领域、模型、评估程序和外部知识。

幻灯片 2 / 3ASI-Arch 研究循环论文图示展示了研究、工程和分析角色及其共享知识。

研究员角色利用先前实验和人类文献提出新设计，并将表现优秀的候选方案作为父代和参考。工程师角色实现并测试候选方案，尽可能处理代码错误。这种自动调试可以避免一些有希望的实验仅因实现错误而失败，但不能保证修复每个错误。

分析师检查训练日志、基准结果和其他证据，然后记录经验供后续提案使用。研究者描述了候选方案和经验的共享记忆。这形成了一个迭代搜索循环，让过去的结果影响下一代架构。

结果与可能的扩展

Berman 回顾报告中的实验数量，并考虑更大的算力预算。论文测试的是神经网络架构，他则进一步推测其他科学领域的可能性。

幻灯片 3 / 3两阶段架构搜索论文介绍了小规模探索、更大规模的候选测试和所报告结果的范围。

论文原版报告了 1,773 次初步实验，搜索与验证阶段合计使用约 20,000 GPU 小时。论文按照自身评估标准筛选出 106 个表现出色的线性注意力架构。这些结果涉及特定架构家族、训练预算和所选基线；它们不意味着 106 个模型在所有任务中都胜过所有现有架构。

论文描述了两阶段流程：先进行小规模探索，再以 3.4 亿参数训练选定的候选方案，随后将其中五种设计与所选基线进行更充分的验证。这些细节有助于界定实际测试的内容，但不能证明这些发现可以原样迁移到前沿规模模型。

我设想大幅增加算力预算并并行运行实验。更多资源可能允许更多试验，但论文没有证明算力是唯一限制，也没有证明创新会指数级增长。数据、评估质量、实现方式、可用方法及所选基准的有效性同样会限制这类系统。

我也想知道类似循环是否能促进生物学或医学研究。这是一种可能方向，并非这项神经架构实验已经确立的结果。作者发布了框架和发现的架构；在我看来，AlphaEvolve、Darwin Gödel Machine 和 Sakana AI 的 AI Scientist 等相关工作，都是更广泛的研究自动化努力的一部分。