Sparsh Jain：为 AI 智能体构建经验性记忆

我是 CentralAgent AI 的 AI 负责人 Sparsh Jain。团队与智能体合作会积累经验，但智能体在新会话或与另一位同事合作时可能重复同样的错误。一位高管把反复纠正描述为实际问题：错误太多，不可能每次都靠人工修正。

最初的反应往往是把所有可用上下文和记忆都交给智能体。根据我们的经验，在企业规模下这样做可能适得其反：更多材料会增加成本、工作量和延迟，还可能使检索与表现变差。更多上下文不总是更好的上下文。

我们回头思考，人如何通过经验、错误和纠正不断进步。问题变成了：如何保存互动中有用的教训，而不只是存下更多事实。我把形成的架构称为经验性记忆。

我区分短期工作记忆与长期记忆。长期记忆既包括事实，也包括经验——从智能体工作过程中发生的事情中提炼出的教训。我的团队称系统带来了显著改善，但演讲没有提供足够的实验细节，不能把这个数字直接推广。

我们把经验分为案例、策略和技能。案例保留特定情境的细节；策略记录在某种情境下有效的方法；技能则是更通用、可供智能体复用的过程。它们代表不同的抽象层次，不能简单互换。

建立第一层记忆后，我们发现另一个挑战：数据、系统和环境都会变化。今天有用的笔记将来可能过时。因此，记忆基础设施需要持续演进，不能建好一次就放任不管。

我把记忆生命周期分为形成、更新和检索。形成阶段提取潜在经验；更新阶段加入新观察、修改旧笔记、停用过时内容，并提供遗忘不再有帮助的信息的机制。

只保存最新判断并不总是足够。我们保留已停用的笔记，记录判断如何变化：浅层查询可以使用有效笔记，深入调查时还可以查看旧历史。这样系统能够检查先前结论为何被替换。

我用一位记忆力异常强的人的故事说明遗忘为何可能有用。对智能体系统而言，能从这个类比得到的启示更有限：如果每条旧信息都平等争夺注意力，保留一切可能压垮处理过程，而不是改善决策。

加入记忆之后，维护工作仍有很多需要人工完成。我认为模型可以帮助验证拟议更新，让循环更加自主。这是一种设计主张，并不能证明模型验证总是正确，也不能证明永远不需要人类监督。

检索与存储同样重要。假设智能体知道你在两个城市都有家，而你要求它导航回家；如果它为当前位置检索到了错误的地址，即使事实本身正确也不够。形成和更新无法弥补持续不相关的检索结果。

在一个例子中，我的团队称复用先前收集的上下文，使某项任务从约 20 分钟降到约 2 分钟，也节省了工作量和 token。这是团队报告的案例，结果取决于任务和评估条件。

我们把下一部分称为“做梦循环”：一个定期清理和评估的循环，用来移除或降低过时信息的优先级、更新重点并重组记忆。睡眠只是描述这个循环作用的类比；实际实现是维护存储信息的过程。

我的三条规则是：逐步提供上下文，而不是一次倾倒全部信息；随着条件变化持续改进系统；建立反馈循环，而不只依赖固定提示词。可观测性和评估贯穿记忆生命周期，使拟议变更在使用前能够被测试。

我预计，当不同用户的经验能够供同一个智能体使用时，团队会受益。我也预测人类与智能体之间会出现更自主的协作。十倍或百倍团队、指数级改善等说法是我的预测，并非已经普遍证明的结果。

我的结论是，要为智能体建立从纠正中学习的方法，避免它反复犯同样的错误。这需要选择性记忆、更新、检索、评估和防护共同发挥作用。