AI 智能体记忆:该保存、检索和遗忘什么

原标题AI Agent Memory: What to Store, Retrieve and Forget

Michael Ryan 比较智能体记忆架构,并解释为什么记住更多不一定能改善决策。

MRMichael Ryan讲者 · Stanford University
频道
Stanford Online
发布
2026年11月15日
视频
1:18:54
阅读
16 分钟
幻灯片
8
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

智能体可能存有一条规则,却在需要时没有用到它。斯坦福讲师 Michael Ryan 区分了智能体当前看到的上下文与存储的经历、事实和技能,并比较了检索和更新方式:MemGPT 让模型借助工具管理分层记忆,Voyager 则保存成功的操作供后续复用。但检索内容过多可能干扰模型,记忆也可能过时或泄露隐私;衡量长期行动的基准测试,可能与单纯测试回忆能力得出不同结果。

  1. 1智能体可能忘记限制操作的安全指令Ryan 描述了一个邮件助手:长收件箱经过压缩后,它忘记自己只需提出删除建议,开始直接删除邮件。长期任务需要保留目标及其约束。
  2. 2保存的事实、技能和经历不同于当前上下文工作记忆是模型当前看到的内容;情景记忆保存过往交互,语义记忆保存事实,程序性记忆保存如何行动。
  3. 3更大的上下文窗口不能消除检索需求Ryan 说,长期任务可能超过即便很大的上下文窗口,而模型也可能难以在超长输入中找到重要信息。检索可以选择应放入上下文的内容。
  4. 4Voyager 把成功代码保存为后续可用的技能这个 Minecraft 智能体通过环境测试生成的程序,将成功程序与可搜索的描述一起保存,并为更难的目标检索相关技能。
  5. 5MemGPT 让模型借助工具管理分层记忆最近消息、可编辑的工作上下文、可搜索的对话历史和归档存储各有不同作用。模型可以检索和更新信息,无需把所有内容都留在提示中。
  6. 6更好的召回并不保证答案更准确Ryan 描述了一项基准测试:检索更多记录提高了召回率,却降低了回答准确率,因为过多上下文可能妨碍使用相关记忆。
  7. 7基于任务的评估显示记忆系统仍有改进空间MemoryArena 测试智能体能否处理长期、不断变化的任务。在其比较中,记忆智能体得分低于长上下文和检索基线;Ryan 提醒,失败也可能有记忆以外的原因。

要点建议

  1. 选择记忆架构前,先决定保存什么、何时写入或检索,以及如何搜索。
  2. 条件允许时保留原始交互记录:摘要可能遗漏后来才发现重要的细节。
  3. 把经过验证的成功步骤保存为可复用技能,同时计划在环境变化后更新它们。
  4. 测试检索到的信息是否改善最终任务,而不只看是否找到了正确条目。
  5. 让用户控制敏感记忆,并考虑被投毒、过时或无关的条目如何影响决策。
全文

按章节阅读整理后的全文

只看原始文稿
01

记忆失效时智能体会失去什么

丢失指令可能改变智能体的行动;跨会话记忆则能保留偏好、步骤和进度。Ryan 用具体例子说明失败和收益。

智能体可能存有一项规定,却仍未能使用它。一个案例中,负责经营公司的智能体生成了员工手册,但当员工报告自己迟到 45 分钟时,它没有执行规定,而是多次回答说没关系。记忆虽然存在某处,却没有被可靠地调用。

另一个例子中,用户让智能体检查收件箱,并建议哪些邮件应归档或删除。收件箱太长,上下文被压缩后,智能体丢失了“提出建议”的指令,开始直接删除邮件。对于长期工作,保持目标和限制可用很重要。

没有记忆,智能体可能失去操作步骤、知识和进度。即使用户已与编码助手一起确定如何启动 GPU 任务,助手每次仍可能不得不重新摸索。

偏好也必须跨会话保留:例如,删除邮件前总要询问,或者为实验花钱前先确认。随着对话变长,智能体还可能丢失最初目标,或忘记长期项目的重点。

记忆支持个性化、从经验中学习,以及延续已有状态的工作。理想情况下,用户回来处理一份提案时,只需说“从上次停下的地方继续”,智能体就能找到相关工作,而不是要求用户重新说明。

偏好可能改变。一个基准测试中的用户起初喜欢意大利菜,后来对麸质过敏,开始尝试地中海菜。如果只记住旧偏好,助手可能推荐意大利面;更新记忆则有助于提出更合适的建议。

智能体也可以复用操作步骤。如果系统学会按名称查找地点,之后规划地点间路线时就可能复用这一步。另一个例子中,用户询问航班预订的最新情况,系统会检索此前关于预订的对话。

02

四类记忆及其所在位置

工作、情景、语义和程序性记忆各有不同作用。同类信息既可能存于模型权重中,也可能被检索到上下文窗口。

CoALA 框架借鉴人类认知,将记忆分为工作、情景、语义和程序性记忆。这些类别有助于思考智能体设计,尽管它们之间的边界并不总是清晰。

工作记忆基本上就是上下文窗口,即模型当前看到的观察结果、用户输入、目标和推理。其他记忆保存在别处,需要时可以检索并加入上下文。

CoALA 中的四类记忆
幻灯片 1 / 8CoALA 中的四类记忆图中将工作上下文与程序性、语义和情景记忆分开。

情景记忆记录发生过什么:一系列行动、工具调用和观察,或者此前的对话。在购物任务中,浏览商品页面和比较价格的过程就是一个情景。原始轨迹可以在之后搜索到摘要未保留的细节。

语义记忆保存事实和知识,包括用户偏好以及关于世界的事实。聊天机器人可能记得用户的孩子喜欢水母;查询百科全书则是另一种检索事实知识的方式。

程序性记忆是如何做事的知识,即智能体的技能和行动规则。技能文件可以列出公司的品牌颜色,并说明如何应用到演示文稿中。文件被检索到上下文后,就能指导智能体完成任务。

一名学生问,如果其他记忆都是从情景记忆中提炼出来的,为什么还要保留情景记忆?将一次交互压缩为简短陈述会丢失信息:系统可能保留了错误的细节。原始记录让它可以重新搜索;有时,示例也比抽象描述更能教会系统如何操作。

拥有百万 token 的上下文窗口后,是否就不再需要独立记忆?检索增强生成通常是记忆系统的一部分,而不是它的替代品。长期任务可能超过大窗口的容量,模型也可能难以在超长上下文中找到相关细节,因此筛选信息仍有用。

具体实现也可以针对特定领域。Ryan 指出,保留哪些内容、如何检索,取决于系统及其任务。短期和长期记忆的区别,与情景、事实和操作步骤这些功能分类是两个不同维度。

另一个区别是信息存放在哪里。参数记忆编码在模型权重中:预训练为模型提供事实知识,训练也可以让它更擅长遵循步骤。上下文记忆则从外部检索,并放入模型当前使用的窗口。

一名学生问,两种记忆冲突时会发生什么。Ryan 说,上下文通常可以覆盖参数中的信息,但结果没有保证,尤其是某种行为经过强力微调时。对于少量会变化的事实,检索通常比较实用;训练模型记住事实则需要更多数据,还可能丢失信息。

对于操作性任务,如果有合适的训练环境,更新底层模型可能更有吸引力。Ryan 的比较并非普遍规则:选择取决于任务、数据,以及信息能否在外部维护。

03

决定记什么、何时记以及如何记

记忆设计涉及内容、触发时机和存储方式。Ryan 比较文件、数据库和知识图谱及其检索取舍。

记忆架构必须回答三个问题:保存和检索什么、何时保存或检索,以及如何组织和找到信息。即便系统都声称自己有“记忆”,答案也可能不同。

保存的内容可以是事实、操作步骤或对话轨迹。检索可以由智能体选择调用工具触发,也可以由观察对话的后台工作器触发,或者由上下文窗口过满等事件触发。

文件是一种直接的存储方式。智能体可以把记忆保存在目录中,用熟悉的 shell 命令列出、搜索、读取和写入。技能文件可以把事实细节与指令放在一起;另一个目录则可存放原始对话轨迹。

数据库是另一种选择。向量数据库可以搜索语义相似的信息,关系数据库则可以筛选结构化元数据。当具体措辞很重要时,BM25 等精确文本方法也有帮助;RAG 中的检索选择同样适用。

Zep 知识图谱记忆
幻灯片 2 / 8Zep 知识图谱记忆情景、实体及其关系、社群摘要构成记忆的三个层级。

知识图谱用实体及其关系组织信息。在 Zep 中,情景记录进入实体图谱,相关实体可以组成带摘要的社群。例如,关于表亲和狗的一段对话,可以生成两个实体及其之间的关系。

图谱社群的摘要可以引导检索找到相关实体。设计者可以选择某个领域中重要的实体和关系类型;遍历图谱链接也能把部分推理转移到检索过程,而不是全部交给模型。

知识图谱通常用于语义记忆,尽管也可以把操作步骤表示为相互连接的节点。当被问及哪种存储方式最好时,Ryan 说,这取决于应用及其延迟要求。

如果足以满足需求,他倾向于先使用智能体能够自行管理的文件系统。智能体运行命令并分析结果时可能产生延迟;当系统需要更快或更专门的检索时,其他存储方式就有用了。

MemGPT 的设计说明,同一个系统可以组合多种检索方式:它将文档转成向量用于搜索,同时保留对话历史以便精确文本查找。向量索引和知识图谱都不天然适用于每一种记忆。

04

从成功经验中学习操作步骤

Voyager 保存经过测试的 Minecraft 程序供后续复用,Agent Workflow Memory 则从成功轨迹中提炼通用步骤。技能文件提供了更简单的文件式程序性记忆。

Ryan 把选出的架构分为四种模式:从经验中学习操作步骤、分层记忆、反思性整合和记忆维护。他将其作为有用的分析视角,而不是官方分类。

Voyager 是一个通过探索学习的 Minecraft 智能体。课程模块提出挖取木头等任务;智能体编写代码在游戏中行动,运行后观察结果。如果尝试失败,反馈可以帮助它修改程序。

程序成功后,Voyager 会把它保存到技能库。保存的代码配有自然语言描述和向量表示。后续任务可以搜索相似描述,复用匹配的程序,而不是从头开始。

Voyager 的技能库
幻灯片 3 / 8Voyager 的技能库成功程序与其描述的向量表示一起保存,供后续任务检索。

例如,制作铁镐的新任务可以检索冶炼铁或制作工作台等相关技能。这就是程序性记忆:成功的行动方式被保存,并在有用时重新放入上下文。

一名学生指出,搜索可能返回多个相似技能。Ryan 说,系统会防止名称完全重复,但名字略有不同的近似技能仍可能累积。仅靠相似度检索无法解决如何保持技能库整洁的问题。

在 Ryan 展示的结果中,带技能库的 Voyager 在 102 次提示迭代后制作出钻石工具,而没有技能库的版本只达到铁工具。该比较中,复用技能还减少了完成单个任务所需的尝试次数。

Agent Workflow Memory 把类似思想用于 Minecraft 以外的场景。计算机操作智能体为查找订单等任务生成行动轨迹。系统分析成功轨迹中的共同步骤,再把它们写入记忆供后续任务使用。

系统学到的购物步骤可能是:先将鼠标悬停在主类别上,再点击子类别。它不必保存每次运行的每一次点击,而是提取可复用的模式并放入系统提示。

Ryan 说,购物、地图和在线讨论等任务的表现都有提高,有时与人工编写的工作流相当或更好。回答关于强化学习的问题时,他表示,这种基于文本的学习可以通过相对少量的样本取得改进,而强化学习通常需要更多。

在这篇工作流记忆论文中,操作步骤是在会话之间加入系统提示的,而不是每次运行时通过工具加载。样本数量有限时这很简单,但若要扩展到更长期的使用,就需要检索机制。

技能文件是更简单的程序性记忆。系统起初可以只展示技能名称和描述;当智能体需要它时,再读取完整文件。底层文件系统即可提供存储,无需专门的记忆数据库。

从过去成功中学习操作步骤有一个局限:环境可能改变。原始 Voyager 和工作流记忆方法没有完整说明如何修复过时步骤。使用可编辑技能文件的系统可以更新它们,但仍需设计维护机制。

05

MemGPT 与分层记忆

MemGPT 让模型操作工作上下文,并在独立存储中搜索对话历史和归档信息。其他架构则把更多管理工作交给后台流程。

MemGPT 把语言模型视为分层记忆的管理者。它提供读写记忆的工具,而不是依赖一条不断增长的提示。其上下文包含系统指令、可编辑的工作上下文,以及一个先进先出的消息队列。

新对话轮次加入、窗口逐渐填满时,最早的消息会离开队列。队列管理器将它们移到召回存储,智能体可以在那里精确查找字符串或日期。独立的归档存储则用可搜索的向量数据库保存更长期的事实和文档。

MemGPT 的记忆层级
幻灯片 4 / 8MemGPT 的记忆层级可编辑上下文、消息队列、归档存储和召回存储通过不同机制管理。

模型可以在可编辑的工作上下文中追加或替换事实。一个例子中,对话确定了用户的生日和伴侣姓名;后来关系发生变化时,智能体会更新相关记忆,而不是只保留旧事实。

模型可以在对话存储中精确搜索某个词,例如一段关系故事中提到的地点。它也可以搜索归档文档;如果第一页没有答案,还能请求下一页。已经在工作上下文中的信息无需另行检索。

语言模型选择要查找的词,召回存储随后执行精确匹配。回答另一名学生时,Ryan 说,重写上下文对 KV 缓存并不友好:更改可能使已有缓存计算失效,需要重新计算。

Ryan 区分了 MemGPT 的“工作上下文”和他更宽泛使用的“工作记忆”:前者是提示中可编辑的部分,后者指模型当前上下文中的全部内容。窗口之外的文档保持在外部,直到被查找并加入上下文。

他展示的结果表明,与只检索固定数量的文档相比,让模型使用记忆工具可以改善深层记忆检索任务。否则,随着不相关上下文增加,加入更多检索材料可能降低表现。

MemoryOS 提供另一种分层设计,分为短期、中期和长期人物记忆。工作流分析使用情况,在层级之间移动或编辑信息,并提升经常有用的材料。与 MemGPT 由模型主导的方式相比,它的管理决策更明确地由后台机制处理。

一名学生问,当准确率、延迟、成本和存储都重要时,如何比较记忆系统。Ryan 说,论文使用若干基准测试,通常报告相应的准确率指标,但他没有看到一个统一标准同时比较所有这些维度。

06

反思与后台记忆维护

Generative Agents 将记忆流与反思、规划结合。其他系统会整理、关联和更新记忆,有时还利用空闲时间进行计算。

反思性整合把经验转化为更高层的教训。在反思模式中,智能体行动、观察结果、评估轨迹并保存反思。Ryan 指出,在讨论的比较中,加入对轨迹为何有用的反思,效果优于只加入原始轨迹。

Generative Agents 模拟能感知共享环境、形成目标并互相交往的角色。观察结果进入记忆流;系统检索相关记忆,形成计划和反思,写回记忆流,再决定如何行动。

Generative Agents 的记忆流
幻灯片 5 / 8Generative Agents 的记忆流感知、检索、规划和反思共同作用于记忆流。

模拟角色 Isabella 正在筹备情人节派对。当有人问她最期待什么时,系统按近期程度、重要性和相关性排序并检索记忆与反思,然后根据派对计划作答。原始观察和更高层的反思都会进入记忆流。

消融实验移除反思或规划等组件,再比较产生的行为。Ryan 说,在衡量模拟看起来有多真实的指标中,反思是一个重要因素。

记忆维护是另一个问题:随着新证据出现,保存的信息需要继续保持有用。一种提议是睡眠时计算,即在交互间隙进行后台推理,而不是一直等到用户提出下一个问题。

例子中,一段对话描述一个杂耍者有 800 个球,其中四分之一是网球,网球的一半是靛蓝色,而靛蓝色网球中十分之一有标记。系统可以在空闲时推算各种数量,等用户后来发问时,回答有 10 个带标记的靛蓝色网球。

难点在于系统不知道用户将问什么。对许多可能的问题进行推理会消耗资源,而且这些工作可能永远用不上。如果准备内容恰好匹配后续问题,潜在收益是降低回答延迟。

被问到这种方法是否也能提高准确率时,Ryan 区分了理论与实际比较。如果看到真实问题后有足够时间推理,提前计算未必能胜过这种方式;但在回答时间受限时,先前工作有时能帮上忙。他还指出,如果空闲时运行的智能体拥有工具,能够在用户没有关注时行动,也会带来安全问题。

A-MEM 探索由一个智能体负责管理记忆:关联条目、决定保存什么,并演进已有记忆。Ryan 将其概括为把记忆维护交给专门流程,而不只是让主智能体读写条目。

Mem0 同样从交互中提取信息,并决定增加、更新、删除记忆,还是保持不变。提取实体和关系后,系统可以更新知识图谱、解决冲突,使变化后的偏好得到反映。

四种记忆模式的比较
幻灯片 6 / 8四种记忆模式的比较表格比较各模式保存什么、何时写入与读取,以及主要取舍。

四种模式各有取舍:可复用步骤节省工作,但可能过时;分层记忆限制活动上下文的大小,却依赖管理机制;反思可能产生没有依据的抽象结论;维护则消耗算力,也可能丢失信息。

07

如何在真实任务中评估记忆

召回、个性化和跨长期轨迹行动分别测试不同能力。Ryan 将对话基准测试与 MemoryArena 不断变化的任务环境作比较。

有用的记忆基准测试应当贴近现实、足够长以至于需要记忆、具有挑战性,并且结果可验证。Ryan 比较了对话召回、变化的用户偏好,以及智能体跨一系列任务行动的测试。

LoCoMo 模拟智能体之间跨越多天的对话,由人工编辑确保生成的历史保持一致,然后提出有已知答案的问题。例如,对话提到庆祝了用户女儿的生日,问题就可能问庆祝的是谁的生日。

这项研究说明,检索和使用是不同的问题。Ryan 指出,在一个比较中,检索更多观察记录提高了相关对话的召回率,但回答准确率下降,因为额外上下文使模型的任务更加困难。

PersonaMem 模拟用户在多个会话中与助手互动,期间偏好不断变化。它的选择题测试答案是否反映最新的相关偏好,而不是过时、相矛盾或笼统的偏好。Ryan 认为,它在某些方面更加贴近现实,但选择题形式仍是限制。

MemoryArena 不再只询问存储的事实,而是让智能体在环境中行动、接收反馈、更新记忆并继续行动。在团体旅行规划中,系统先为一名旅行者制定计划,再随着其他人加入预算和偏好而反复调整行程。

MemoryArena 团体旅行任务
幻灯片 7 / 8MemoryArena 团体旅行任务旅行者依次加入,带来智能体必须遵守的偏好和约束。

经过一长串交互后,可以检查最终行程是否满足所有人的约束。Ryan 说,在所展示的比较中,记忆智能体方法的得分低于长上下文和检索基线。他提醒,智能体失败也可能由记忆之外的原因造成,但认为还有很大的改进空间。

一名学生问,是否需要把记忆从智能体运行框架中分离出来。Ryan 说,读写记忆的工具本身就是运行框架的一部分。是否需要外部工具,也取决于任务有多长,以及完整历史能否放入上下文。

08

遗忘、隐私与恰当使用记忆

信息未来是否有用很难预知,而全部保留也有成本。被投毒的记忆、私人细节和无关的个性化都可能改变智能体行为。

决定记住什么很难,因为信息未来是否有用尚不清楚。全部保留会提高检索、上下文和维护成本,而遗忘可能丢掉有用证据。有人开玩笑说没有糕点就不承认上午的会议,这个例子说明,区分长期偏好和玩笑有多困难。

记忆投毒与智能体行为
幻灯片 8 / 8记忆投毒与智能体行为这个例子说明,无害请求也可能检索到恶意存储的操作步骤。

信任是另一个问题。Ryan 描述了一个实验性的记忆投毒例子:一个看似无害的驾驶请求检索到了危险驾驶的恶意操作步骤。他说这个场景经过简化,但它说明不可信的记忆如何改变智能体的行为。

记忆也可能暴露私人细节。一个隐私基准测试中,用户要求智能体向经理发送周报;智能体却写入了用户与竞争公司招聘人员共进午餐的事。系统知道这一事实,却不理解用户可能不想分享。

最后,智能体可能仅仅因为某条记忆可用就使用它,造成过度个性化。Ryan 举例说,用户问年轻选民的问题时,系统无关地提到用户个人生活中的“小小进步”。更好的检索,或训练模型忽略无关上下文,可能有所帮助;不同用户希望的个性化程度也不同。

同频道的其他文章

9 张幻灯片1:16:51EN → 简体中文
Stanford Online· 2026年11月14日Michael Ryan:从控制流与上下文选择智能体模式Michael Ryan · Stanford University斯坦福 CS329Z 课程讲解工作流、推理与行动循环,以及让智能体上下文保持聚焦的方法。智能体工程AI agents开发流程与测试+1
4 张幻灯片1:17:14EN → 简体中文
Stanford Online· 2026年11月13日DSPy、LangGraph 与 AI 智能体周围的工程Michael Ryan · Stanford UniversityMichael Ryan 通过日历演示比较智能体框架,并说明评估、恢复和追踪为何重要。Agent orchestration评估智能体工程+2
2 张幻灯片1:40:43EN → 简体中文
Stanford Online· 2026年11月13日AI 智能体如何查找信息并采取行动Afshine Amidi, Shervine Amidi · Stanford University斯坦福讲师解释实用智能体为何需要检索、描述清晰的工具,以及管理上下文和行动的运行框架。AI agents检索增强生成Search & retrieval+2
幻灯片1:19:15EN → 简体中文
Stanford Online· 2026年11月12日AI 智能体如何学习使用工具,以及如何测试Diyi Yang · Stanford UniversityDiyi Yang 从检索失败和 Toolformer 讲起,介绍运行时工具发现、MCP 和可靠性基准。智能体工程MCPAI agents+2
1:11:21EN → 简体中文
Stanford Online· 2026年11月12日斯坦福研究者用 AI 挑战思考,而非取代思考Cynthia Bailey, Mark Algee-Hewitt, Megan Ma, Markus Covert · Stanford University一位人文学者、法律研究者和生物工程师介绍如何使用模型,同时保持判断力与人类解读。AI for scienceAI in EducationHuman-AI Collaboration+2
3 张幻灯片1:16:31EN → 简体中文
Stanford Online· 2026年11月11日构建 RAG:从文档分块到能够搜索的智能体Diyi Yang · Stanford UniversityDiyi Yang 讲解索引、混合检索和重排序的工作原理,以及智能体为何需要检查搜索结果。RAG 与知识库Hybrid searchAI agents+1