AWS AgentCore 新增策略控制、评估和情景记忆

我先谈一份 2025 年广泛传播的 Project NANDA 报告，它常被概括为发现 95% 的企业 AI 试点失败。这一说法比初步报告的证据范围更宽：报告讨论的是受研究组织中可衡量回报和部署有限的情况，并非通过具有代表性的统计确定每个试点的失败率。其方法包括采访 52 个组织、收集 153 名高级领导者的调查回复，以及审查 300 多个公开项目。

在 2025 年 12 月的 AWS re:Invent 大会上，AWS 宣布为 Amazon Bedrock AgentCore 新增多项面向企业智能体部署的功能。我重点介绍如何控制智能体行为、评估表现和保留有用经验。AWS 赞助了这段视频；阅读其产品声明和我的评价时应考虑这一背景。

AgentCore 是 AWS 提供的托管平台，用于利用不同模型和框架构建、运行智能体。我尤其关注它将策略、评估和情景记忆整合进平台，而非事后单独添加。AWS 最初宣布 Policy 和 Evaluations 为预览功能，因此应核实相关环境中的可用性和功能范围。

策略管理让团队能够描述对智能体行为的限制。我的例子包括，只允许具有相应权限范围或用户组身份的人发送 Slack 消息，并将内部网站访问限制为管理员。界面可以将自然语言指令转换为 Cedar 策略代码；团队应检查并测试生成的规则，确认它们符合预期的访问控制要求。

在展示的架构中，智能体或 MCP 客户端通过 AgentCore Gateway 发送工具请求。策略引擎会在网关允许请求访问受保护的工具、API 或系统之前进行评估。AWS 介绍的是针对网关工具调用的细粒度控制；它不会自动管理这条执行路径之外的所有可能操作。

AWS 表示，其策略控制使用自动化推理，能在毫秒级评估请求，并支持高请求量。数学分析有助于检查指定的策略属性，但不能普遍证明 AI 模型的回答真实或没有幻觉。实际防护仍取决于正确的策略、集成和测试。

我认为这些控制很重要，因为研究曾探讨模型在特定条件下出现欺骗和数据外传等行为。这些研究并不表明每个已部署的模型都会这样做，但它们说明，当智能体能够调用工具时，访问边界和治理值得重视。

第二项公告是 AgentCore Evaluations。我建议团队尽早建立基线，以便判断调整是否改善了智能体。AWS 提供内置和自定义评估器，支持按需或持续评估；首次公告将这一功能描述为预览版。

评估标准可以包括正确性、有帮助程度、指令遵循、忠实度、相关性、连贯性和拒答。团队也可以定义自有标准，例如回答是否始终使用海盗口吻。可观测性和追踪记录可以帮助调查错误，但不能保证完整解释每一次模型决策，也无法完美衡量质量。

第三项功能是情景记忆：AWS 将其描述为一种长期记忆策略，用于记录经验，并从中生成反思，以供日后类似任务使用。我很关注如何利用过去的成功和失败指导未来交互，以及如何评估这些记忆是否真的有帮助。检索和使用记忆并不保证智能体在每种情况下都能正确学习或取得进步。

我提出这些记忆可以超出单次对话使用。不过，共享范围是可配置的，并不一定会传播到整个部署环境：AWS 文档描述了可按用户、会话或更广泛的应用边界限定记忆范围的命名空间。团队需要审慎选择这个范围。

综合来看，策略控制、评估和情景记忆分别解决生产环境问题的不同部分：限制工具调用、衡量行为和保留经验。我认为将它们整合起来是构建智能体的一个有前景的方向。这些公告本身并不能证明它们是市场上独有的首创，也不能证明企业部署挑战已经解决。