Emil Chetty:让支付智能体在客户授权的范围内行动

原标题Emil Chetty on Letting Payment Agents Act Within Customer-Approved Boundaries

Wise 数据与 AI 产品负责人介绍如何用不可变的任务协议,让智能体选择执行步骤,同时由可信支付服务执行客户授权。

ECEmil Chetty讲者 · Wise
频道
AI Engineer
发布
2026年11月5日
视频
15:32
阅读
4 分钟
幻灯片
4
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Emil Chetty 介绍 Wise 如何考虑减少重复审批,同时避免让 AI 模型自行决定支付权限。客户确认有版本的任务,可信服务授予有限权限,下游支付系统负责执行约定的条款,即使智能体受到误导也不例外。

  1. 1安全不等于授权付款需要证明客户批准了收款人和支付条款。
  2. 2不可变的协议客户确认任务,智能体则可以自由选择执行步骤。
  3. 3权限受限的工作进程可信代码只授予任务、平台能力和客户权利三者允许的权限。
  4. 4重试和报价变化共享状态防止重复付款;条款变化则交还客户决定。
  5. 5抵御提示注入的边界即使智能体相信恶意指令,支付服务也会拒绝未经批准的收款人。

要点建议

  1. 一笔付款需要客户针对特定收款人和条款作出授权,不能仅凭模型判断其安全。
  2. 可信软件可以将拟议任务转化为客户确认的版本化协议。
  3. 权限配置取已确认任务、平台能力和客户当前权利三者的交集。
  4. 共享支付状态可以支持重试,避免产生第二笔付款。
  5. 条款变化需要客户重新决定;即使智能体受到误导,下游服务仍应执行协议。
全文

按章节阅读整理后的全文

只看原始文稿
01

审批队列

Chetty 解释反复的确认提示如何让承诺中的助手变成用户的额外工作。

你是否厌倦了反复为编码智能体点击批准,或多次授予助手权限?Emil Chetty 说,行业承诺为用户减少复杂性,却常常交付了一串审批请求。结果是客户盯着流程,而不是让助手真正完成工作。

Chetty 负责 Wise 的数据与 AI 产品。他介绍了面向个人的 Wise 账户、面向企业的 Wise Business,以及供金融机构使用的 Wise Platform。其支付网络连接多个国家的本地银行和国内支付系统。

02

支付与问责

Wise 必须满足不同的监管要求,并清楚客户授权了什么。

Chetty 说,Wise 上一年处理了 2430 亿美元的跨境交易,服务近 1900 万活跃客户,并持有 80 多张牌照。国家、货币和受监管实体各有不同要求;在前面加一个聊天机器人并不会让这些义务消失。

监管机构仍要求 Wise 知道客户授权了什么、控制资金流向并解释结果。Chetty 问,如何既让智能体拥有有用的自主权,又让金融机构对其行为负责?

设想一位小企业主要求智能体处理本周已批准的供应商付款、核对结果并报告例外情况。企业主希望任务完成,而不是逐一批准每次查询、读取文件和状态检查。

一长串审批提示让人变成了 API。Chetty 说,编码智能体已通过权限规则、分类器和沙箱减少类似摩擦。这些控制措施很重要,但金融交易提出了更具体的授权问题。

03

从意图到协议

客户确认有版本的任务,可信服务执行其权限边界。

对于付款,问题不仅是某个行为看起来是否安全,而是客户是否授权按这些条款向这个收款人付款。评估和智能体运行框架仍然有用,却不能替代客户同意这项任务的证据。

Chetty 提议将客户意图转化为不可变的协议。可信软件准备具体方案,客户审核并确认权限范围,服务负责执行已确认的版本。智能体可以选择如何完成任务,但不能改变授权内容。

从意图到受约束的任务
幻灯片 1 / 4从意图到受约束的任务图示展示客户意图、智能体探索、可信软件准备和客户确认。

当执行路径变化但不影响约定的支付条款时,智能体可以重新规划。如果基本条款改变,服务就向客户提交修订方案并请其决定。客户批准任务,智能体选择步骤,可信软件执行协议。

04

供应商付款示例

Sarah 审核任务草稿、确认条款,并委托权限受限的工作进程执行。

在一个假设示例中,企业主 Sarah 让智能体处理供应商付款。智能体先取得有限的只读权限来收集上下文;可信软件从记录中确定供应商、银行信息和金额。准备工作本身并不授权转账。

供应商付款任务草稿
幻灯片 2 / 4供应商付款任务草稿示例展示授权前拟定的收款人、金额、费用上限和权限限制。

Sarah 看到一份草稿,列出三家供应商、总计 775 美元的付款、费用额度以及智能体可以作出的决定。缺失或冲突的信息必须在确认前解决。示例幻灯片列出的上限为 780 美元,包含约定费用。

Chetty 将同一任务分为两个视图:供人阅读的承诺,以及服务可以校验的机器可读记录。Sarah 确认并验证某个具体版本;该版本成为不可变的授权任务,而不是由智能体推测她可能想要什么。

可信权限配置服务只授予已确认任务、Wise 批准的能力以及 Sarah 当前权利三者的交集。支付工作进程可以请求许可范围内的付款,对账工作进程则可以读取发票和结果。智能体可以调整计划,但不能扩大自身权限。

配置工作进程权限
幻灯片 3 / 4配置工作进程权限可信代码只授予已确认任务、平台能力和客户权利的交集。
05

重试、变化与攻击防护

共享状态避免重复付款;条款变化和未经批准的收款人超出模型自身权限。

重试不应产生重复付款。Chetty 介绍了共享支付状态:崩溃或重启后,工作进程查询已有的支付任务,而不是创建第二笔付款。如果报价过期或发生变化,智能体可以准备替代方案,但必须请 Sarah 批准新条款。

Chetty 概述了用于配置智能体、检查不可变任务、控制模型访问以及注册并记录工具的网关。工作进程检查自己能使用哪些工具,再调用支付服务,始终受原有边界约束。他将其描述为 Wise 的思路和架构草图,并未证明每个细节都已投入生产。

当智能体相信恶意指令
幻灯片 4 / 4当智能体相信恶意指令服务检查和受保护的任务状态拒绝超出协议的行为。

假设发票中有提示注入,声称银行账户已变更,而智能体相信了它。这种判断无法修改已确认的任务。下游支付服务会拒绝未经批准的收款人,模型也不能重写协议或为自己扩大权限。

06

证据链

Chetty 总结解释授权、执行与责任所需的记录。

最终的证据链应能回答谁授权了任务、智能体能做什么、付款发生了什么、哪些行为可以停止以及谁负责。Chetty 最后的原则是:让客户授权任务,让智能体选择步骤,由服务执行协议。

同频道的其他文章

20:45EN → 简体中文
AI Engineer· 2026年11月5日John Stecher 与 Scott Worland:构建能够随 AI 模型进步而改变的系统Scott Worland, John Stecher · Norm AIBlackstone 和 Norm AI 的技术负责人讨论数据战略、评估、生产控制,以及何时值得等待更好的模型。企业 AI评估智能体工程+1
13:22EN → 简体中文
AI Engineer· 2026年11月5日Brainbase 如何将竞品价格采集智能体的准确率从 41% 提升至 97%Milind Sunil Shah · BrainbaseMilind Sunil Shah 介绍一个通过迭代采集并评估竞品价格的后台智能体工作流程。智能体工程评估Workflow automation
3 张幻灯片14:15EN → 简体中文
AI Engineer· 2026年11月4日Ramp 如何结合小模型、KV 缓存 Cartridge 和智能体集群Alexander Shevchenko · RampAlexander Shevchenko 介绍三个应用研究项目,讨论针对特定任务如何权衡延迟、成本、准确率和运维复杂度。AI agents模型与训练AI cost & performance+1
15:12EN → 简体中文
AI Engineer· 2026年11月4日Dillon Rolnick:AI 供应商锁定与开放智能体基础Dillon Rolnick · Nous ResearchNous Research 首席执行官主张企业保留对智能体技术栈的控制,并将自家 Hermes Agent 作为一种选择。AI agentsOpen-weight models企业与战略+1
3 张幻灯片18:50EN → 简体中文
AI Engineer· 2026年11月4日Pim de Witte:用电子游戏训练视觉行动模型Pim de Witte · General IntuitionGeneral Intuition 创始人介绍如何利用游戏录制和手柄动作训练面向计算机操作与机器人的系统。AI research模型与训练AI agents
5 张幻灯片19:12EN → 简体中文
AI Engineer· 2026年11月4日AI 智能体为什么需要可靠流程才能在公司内推广Mitchell Troyanovsky · BasisBasis 联合创始人 Mitchell Troyanovsky 介绍行为规范、轨迹分叉和生产智能体模拟。智能体工程评估企业 AI+2