Anthropic 如何看待长时间运行的 AI 智能体

Anthropic 产品负责人 Jess Yan 与 Peter Yang 讨论能够访问工具和数据、执行较长任务的智能体。Jess 从产品团队的角度介绍 Claude Managed Agents。节目另有 Riverside 的付费赞助环节。

Jess 认为，智能体正从简单的提示与回复循环，发展为可以使用工具、与外部系统交互并运行更长任务的系统。框架是围绕模型的基础结构，使其能够使用工具和记忆，并决定何时请求人工输入。她说，随着能力和访问范围扩大，权限、可观察性与人工引导也更加重要。

她将 Claude Managed Agents 描述为用于委派复杂任务的预构建框架及配套基础设施。她认为不能只把模型当作整个系统，而要结合模型实际运行的环境与框架进行评估。这是她作为产品负责人的观点。

演示中，Jess 打开一个预先配置的数据分析智能体：它选择了模型，设置行为指令和文件系统工具及可配置权限，也可以添加技能。在这个示例中，她提供大型杂货数据集的数据结构和分析指令，然后让智能体调用工具并生成 HTML 报告。

输出包括商品模式、购物者分析和客户回访预测模型示例。Jess 说，提供数据结构和分步指令有助于得到更可预测的结果。控制台展示动作和会话历史，她还介绍了能检查轨迹的调试智能体。生成图表或预测本身并不能证明准确性：数据质量、方法和表现仍需另行验证。

随着任务越来越复杂，评估也变得更加困难。Jess 讨论固定测试案例、多步骤交互回放、版本比较、二元检查、评分，以及技能或动作是否在预期时触发。她还介绍在运行过程中由智能体检查输出。自动审查可能有帮助，但不能保证结果正确，也不能取代独立测试。

两位嘉宾探讨了用户指定期望结果、而不是每个中间格式时，指令会如何变化。Jess 建议提供质量示例或目标分数，让智能体迭代。清晰的成功标准仍然重要，也需要限制智能体可以访问和执行的内容。

在自己的产品管理工作中，Jess 说代码库访问帮助她跟踪已经合并和部署的拉取请求、理解实现、制作原型和支持客户。她使用定时活动摘要及临时研究，并让智能体总结客户 Slack 频道的信息。她认为及时更新的上下文和主动触发机制很重要，同时仍会直接与客户交谈。

Jess 介绍了为某项功能的等候名单创建的临时智能体：它清理无效或重复条目，并帮助确定哪些组织更适合提供反馈和接受邀请。由于预计只需要数周，她选择任务专用智能体，而非打造精致的永久产品。此类工作流仍需要恰当的访问控制和对筛选标准的审查。

对于企业采用，Jess 建议先从员工个人入手：提供示例或模板，让他们自行调整智能体以扩展能力。组织可以先从这些实践中学习，再尝试大型跨团队自动化。她与 Peter 还讨论了早期用户反馈，以及规模扩大后更正式的评估。

展望未来，Jess 预计长期运行的智能体将增加人们能够委派的工作，并出现越来越细分的产品。Peter 则质疑，当用户可以自行创建技能时，独立应用能否保持差异化。两人都认为智能体需要融入人们实际工作的场景和流程。这些是预测和产品观点，并非保证。