嵌套学习与模型内省：两项早期 AI 研究结果

2025 年 11 月，AI Explained 认为应区分 AI 公司估值争论与研究进展。视频讨论嵌套学习、模型内省和图像生成，既涉及已发表研究，也包含讲述者的预测与推测。

讲述者询问人们认为语言模型仍缺少哪些能力，包括随时间学习和检查内部状态。研究某个局限的论文，本身并不证明部署产品已经解决了该局限。

第一个话题是持续学习：获得新信息或技能，同时不丢失旧能力。讲述者介绍 Google 的研究提案，并指出工作及报告结果仍处于早期。

[Google Research 的说明](https://research.google/blog/introducing-nested-learning-a-new-ml-paradigm-for-continual-learning/)将其描述为以不同更新速率运行的嵌套优化问题，并介绍概念验证架构 Hope。这些实验不能证明任意已部署聊天机器人如今都能安全、永久地从每次对话中学习。

讲述者用短期与长期模式作类比，解释以不同速度更新的组件。这只是说明性类比；系统究竟保留什么取决于架构、训练与评估。

他将嵌套学习描述为在模型内设计学习过程的方法。受控任务中的改进不自动等于递归自我改进，这项工作也没有确立无上限的智能爆炸。

视频指出持续学习不会自动消除幻觉。它还推测将学习与强化学习及安全措施结合；这些组合是提议，不是所引论文已经证明的结果。

讲述者设想快速更新项目特定的编程知识，同时提出反面问题：持续的错误信息或对抗性输入可能影响系统学习。实际部署需要决定信任并保留哪些更新。

他提醒，约十亿参数规模的实验不能确立大得多规模下的表现。在这段历史讨论中，对未发布产品及其规模的说法属于推测。

第二个研究话题是 Anthropic 的概念注入实验。研究人员引入选定的激活模式，然后询问模型是否注意到并能识别该概念。

在一个例子中，模型在生成相关文本之前识别出注入的全大写相关模式。这是特定实验中的行为证据，并不能证明模型具有人类式思维或主观体验。

讲述者指出检测并不可靠。[Anthropic 的报告](https://www.anthropic.com/research/introspection)说，在测试的最佳设置中相关行为只出现约 20% 的时间，并强调结果范围有限。

他认为，即使在新架构出现之前，研究人员对现有模型仍有很多需要了解。他自己的基准和体验可以作为个人视角，但不是通用智能的决定性测量。

视频转向图像生成系统，以及讲述者对竞争模型的主观体验。他还提到疑似未发布产品的泄露；这一部分明确属于传闻，而非经过证实的公告。

最后，他认为估值泡沫与技术研究进展可以同时存在。他对未来研究人员数量和产品的判断仍是预测，并非实测结果。