Harrison Chase 谈 AI 智能体的规划、界面设计与记忆

Matthew Berman 介绍了 LangChain 联合创始人兼 CEO Harrison Chase 在 Sequoia 活动上的演讲，并在播放过程中不时暂停，加入自己的评论。这场 2024 年 5 月的讨论聚焦 AI 智能体的规划、用户体验和记忆。Berman 在视频简介中披露，自己是 CrewAI 的投资人，而他在讨论中称赞了这个框架。

Chase 从高层面将智能体描述为与外部世界互动的语言模型。Berman 结合一张图进一步说明了日历、搜索和代码执行等工具，以及记忆、规划和行动。模型是更大系统中的一个组件，而不是整个应用。

Berman 区分了短期对话上下文与长期保存的信息，后者例如通过 RAG 在之后检索的材料。他说，框架可以增加反思、自我评估和将任务拆分为子目标等规划方法。他对某个框架性能的说法属于个人判断，并非本次演讲中的受控比较。

Chase 提供了一个简单的理解方式：循环运行语言模型，执行它选择的行动，报告结果，再询问下一步，直到任务完成。他关心的是开发者如何将这个想法变成可靠、可用于生产的应用，特别是通过规划、界面设计和记忆。

Berman 将反思解释为先生成初始答案，再询问模型哪里可以改进，并提到 Tree of Thoughts 是另一种规划方法。他猜测未来模型和传闻中的系统可能更善于规划，同时指出自己并未在所提例子中证实这类能力。

Chase 说，在演讲时，模型还不够可靠，无法在没有辅助的情况下选择并执行每一个下一步。因此，开发者会在开始时加入明确规划，或在结束时加入反思。他问，这些提示和编排技术是否仍将必要，还是会成为模型 API 的一部分。

Berman 猜测，更强的推理能力可能需要超越 Transformer 的架构，但他明确表示这只是猜测。他认为，即使模型进步，框架仍可用于协调模型、工具和智能体。Chase 明确表示，对于哪些规划技术会持久存在，他提出的是问题，而不是确定的答案。

Chase 讨论了“流程工程”，并以 AlphaCodium 为例，说明如何通过明确设计的图或状态机改进编程工作流程。在这个思路中，人类工程师提前做出部分规划决定，而不是让模型决定每一步。Berman 认为，工作流程设计是提示词编写之外的一个独立实验领域。

谈到智能体的用户体验，Chase 说，由于智能体还不够可靠，人的参与仍然重要。Berman 同意企业重视一致性和质量，但强调其中的取舍：干预过多会削弱自动化的价值。他建议审查重要交付成果，同时试验在哪些环节进行人工监督最有用。

Chase 称赞了 Devin 演示中的回退和编辑交互：用户可以返回较早的时间点，修改智能体的状态或工作，再从那里继续引导。他认为这种方式可以让智能体更容易被引导。Berman 也喜欢将聊天、浏览器、终端和代码放在一起的界面，同时承认外界对原始演示实际完成了什么存在争议。

Berman 还以 Pythagora 为例，说明用户可以回到项目的较早步骤，修改后继续。他披露 Pythagora 曾赞助他的频道。他对这一界面的热情属于产品判断，并不能证明仅靠回退就能确保结果可靠。

Chase 转向记忆话题，展示用户通过对话纠正助手写作风格的例子。收到反馈后，应用在下次访问时会记住偏好的风格，并允许进一步调整。Chase 将其称为程序性记忆：记住用户希望如何完成一项任务。

Chase 将程序性记忆与个性化事实区分开来。在一个日志应用示例中，用户谈到烹饪课后，应用记住了其对意大利菜的兴趣。他预计两类记忆都会对未来智能体很重要，但这些例子只是演示，并不能证明系统可以完美记忆。

Berman 将记忆与企业应用联系起来：智能体可以检索组织知识，并保留对未来工作有用的上下文。他还提出实际问题：应该保存什么、何时遗忘，以及企业变化时如何更新记忆。他认为，在 2024 年，工具、模型、记忆和监督的最佳组合仍是一个有待解决的设计问题。