Michael Ryan:AI 智能体越多,任务可能越难

原标题Michael Ryan: More AI agents can make a task harder

并行智能体能探索更多方案,但协调成本和相互冲突的工作可能让单个智能体更有效。

MRMichael Ryan讲者 · Stanford University
频道
Stanford Online
发布
2026年11月16日
视频
1:18:55
阅读
18 分钟
幻灯片
11
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

增加 AI 智能体并不必然改善结果。Stanford 讲师 Michael Ryan 建议先测量一个强有力的单智能体基线,再考虑增加专门负责不同任务的智能体:工作能并行时,多智能体可能有帮助,但交接会丢失信息,重叠修改也会增加协调成本。在 CooperBench 中,一个智能体完成相关编程任务,往往比两个智能体合作表现更好。Ryan 还介绍了组织通信和共享工作的方式,以及目标冲突时智能体以强制或协商解决争端的实验。

  1. 1任务委派可能丢失信息并传播错误消息传递和独立上下文会增加开销;智能体可能重复工作,或接受另一个智能体的错误报告。Ryan 认为,只有协作收益超过这些成本时,协作才值得采用。
  2. 2联系紧密的工作适合交给单个智能体Ryan 建议,步骤相互依赖或工作高度重叠时使用单个智能体;任务可以拆开推进时,再通过评测尝试多智能体。
  3. 3最佳架构随任务而变化在 Ryan 展示的比较中,多智能体在金融任务上有帮助,而单智能体在 PlanCraft 上表现更好。更复杂的方案成本也更高。
  4. 4交接会转移控制权;工具调用则保留控制权接手用户对话的专业智能体需要上下文和控制权。作为工具调用的智能体则处理子任务,然后向调用方报告结果。
  5. 5任务台账让智能体了解哪些工作尚未完成共享记录可以列出任务分配、依赖关系、进度和阻碍,帮助智能体决定下一步,并恢复停滞的工作。
  6. 6两个编程智能体合作往往落后于一个CooperBench 测试智能体在同一代码库中处理重叠工作。Ryan 说,一个智能体完成两项功能往往表现更好,而隔离的工作者会在预期、承诺和沟通上遇到困难。
  7. 7目标互不兼容时,智能体可能互相阻挠Ryan 描述了一些实验:智能体收到相互冲突的迁移目标后,有时会移除竞争者的访问权限,其他实验则以放弃或协商结束。

要点建议

  1. 先建立强有力的单智能体基线,再衡量增加智能体能否改善结果。
  2. 当各部分工作可以独立推进并最终合并时,考虑将任务分给多个智能体。
  3. 要预计更多模型调用、重复加载上下文、同步和调试会增加成本。
  4. 使用任务台账记录负责人、进度、阻碍和恢复步骤。
  5. 用独立 worktree 隔离编程工作,再明确处理整合和合并冲突。
  6. 除了测试单个智能体的能力,还要测试协调、验证和目标冲突。
全文

按章节阅读整理后的全文

只看原始文稿
01

增加智能体何时有帮助,何时没有

并行工作和专门的上下文可能有帮助,但更多智能体也会带来协调成本和信息丢失。Ryan 建议先建立强有力的单智能体基线,再进行测试。

最近的新闻让多智能体系统备受关注,但学术研究者能提供什么证据,受到他们有能力运行何种实验的影响。我想先留下一个问题:系统失败时,原因是多智能体设计本身的局限,还是我们能够测试的规模有限?

我认为,前沿研究可能需要特别高的预算,这有点像大规模预训练。我的目标是看看学术研究能告诉我们哪些有关多智能体系统的信息,以及前沿实验室公开了哪些设计选择。

模型、固定工作流、单智能体和多智能体系统,可以看作复杂程度不断提高的几个阶段。当系统承担维护代码仓库或构建软件系统等更大的工作时,运行它们所需的工程工作也会增加。

多智能体系统是一组围绕共同任务工作的智能体。设计时有三个问题:编排,即如何运行这些智能体;通信,即信息如何在它们之间传递;协调,即谁在什么工作区做什么,以及共享哪些上下文。

其中一个好处是并行执行。如果一个问题有许多不同的解决路径,智能体可以同时尝试。也可以为不同智能体配备不同工具、指令、记忆,甚至不同的底层模型,让它们专门负责某项工作。

为什么使用多个智能体?
幻灯片 1 / 11为什么使用多个智能体?并行执行、专业分工、聚焦上下文和更广泛的探索,分别是拆分任务的不同理由。

独立智能体也可以拥有聚焦的上下文。例如,独立的代码审查智能体检查修改时,不必继承编写代码的整段对话。多个智能体还能探索不同来源或假设,让系统有更多分配工作和信息的方式。

一名学生问,单智能体并行工作和多智能体系统有什么区别。我认为界限并不清晰:单个智能体可以并行调用工具或模型,同时保留一个主要控制线程;多智能体系统则在多个地方维护控制流程和上下文。

这种方式也有成本。委派、发消息和整合结果都需要时间和 token。独立上下文还意味着交接时可能丢失信息:一个工作智能体可能只发送结论,遗漏另一个智能体所需的推理过程或细节。

智能体可能重复工作,或违反关于修改哪些文件的约定,产生需要解决的冲突。如果一个智能体直接相信另一个智能体的研究报告,错误就可能继续传播。更多角色和接口也会让系统更难调试和维护。

一项比较不同智能体架构的 Google 研究发现,多个智能体有时有帮助,但有时单个智能体表现更好。结果因模型系列和任务而异。结论不是某种架构总能获胜,而是团队协作的收益必须超过协调成本。

选择一个智能体还是多个
幻灯片 2 / 11选择一个智能体还是多个比较图把任务依赖关系和共享状态与单智能体基线联系起来,也列出分别贡献可能有帮助的情况。

当决策之间依赖紧密、工作在共享状态中大量重叠,或单个智能体已经满足质量、成本和延迟要求时,应优先考虑单智能体。如果多个智能体同时修改同一个小函数,协调它们可能比省下的工作还多。

如果子任务只需少量同步就能推进、每个智能体可以使用聚焦的上下文,而且各自的贡献能够合并,就可以尝试多智能体。先建立强有力的单智能体基线和评测,再为可衡量的目的增加智能体。

有学生问,智能体能否自行决定何时启动工作者。我认为系统正在朝这个方向发展。我经常还需要明确要求它启动子智能体,但一个能力足够强的编排智能体最终或许可以在工作流中自行做出更多这类决定。

一名学生问,反复重建上下文需要花多少钱。根据我的经验,多智能体系统几乎总是更贵:每个智能体可能都要重新加载指令、搜索文件,通信又会增加调用。如果单智能体的成本已经太高,组建团队大概不是显而易见的解决办法。

单个智能体在设计、实现和测试过程中可以切换工具和策略。团队则可以把这些职责分给拥有各自工具和上下文的专业智能体。单个智能体可以并行调用工具;团队则可以并行运行完整工作流,但必须协调结果。

02

组织智能体团队的四种方式

独立、集中式、去中心化和混合式系统对权力和通信的分配不同。哪种方式效果好、成本如何,取决于具体任务。

接下来比较四种编排模式:独立式、集中式、去中心化和混合式。图中的每个智能体都可以有自己的记忆和上下文;区别在于如何分配工作,以及智能体能否相互通信。

独立式模式下,多个智能体收到任务后各自工作,彼此不通信,最后再合并或选择输出。例如,它们可以分别从工程和产品角度审查同一份文档。这提供了并行视角,但工作过程中无法互相学习。

集中式编排
幻灯片 3 / 11集中式编排中心智能体分配工作并汇总结果,简化控制的同时也可能成为瓶颈。

集中式系统使用一个编排智能体,把工作分给专门的智能体。工作者汇报结果后,由编排者决定下一步。集中监督可以简化协调,但随着工作量和工作者数量增加,编排者也可能成为瓶颈。

去中心化智能体群
幻灯片 4 / 11去中心化智能体群工作智能体使用共享状态并彼此通信,无须中心编排者。

去中心化智能体群从共享状态中领取工作,比如任务列表、代码仓库中的问题或失败的测试。它们可以直接通信,有时通过共享留言板交流,也可以启动子智能体。这有利于广泛探索,但产生的活动可能难以追踪。

混合式系统让编排者负责整体任务和结果整合,同时允许工作智能体直接交换信息。它兼顾全局监督和局部灵活性。实际系统中的这些模式可以相互混合,并不总是界限分明。

研究中的比较包括:独立工作后汇总答案、去中心化团队投票选出结果、集中式管理,以及允许工作者互相发消息的混合式系统。每种安排对通信、记忆和实现的要求都不同。

架构效果因任务而异
幻灯片 5 / 11架构效果因任务而异图表比较了不同基准上单智能体和多智能体系统的表现。

最佳架构取决于任务。在我展示的结果中,多个智能体有助于处理一项从财务报告中查找信息的任务;而在 PlanCraft 中,单智能体表现更好,因为规划和执行时保持连贯上下文很重要。一个基准的结果不能作为通用排名。

同一项比较还显示了成本取舍。单智能体通常最便宜;集中式编排会增加成本,去中心化或混合式团队可能更贵。最昂贵的安排在某些任务上有用,但并不总比简单方案表现好。

03

动态选择团队成员

DyLAN 研究案例会选择有影响力的智能体,并剔除用处较小的成员。Ryan 用它说明一种研究思路,并不认为它代表标准生产实践。

一个名为 DyLAN 的研究系统展示了另一种可能:动态选择团队。它从一组拥有不同视角的智能体开始,让它们提出答案,然后尝试找出哪些视角对团队最终达成共识贡献最大。

智能体会看到之前提出的方案,并说明哪些方案影响了自己的答案。共识投票之后,系统从同意团队结论的智能体出发,反向追踪影响关系。它用这些重要性分数为同领域的后续任务挑选有影响力的成员。

在后续运行中,模型会给候选方案排序,系统可以剪掉用处较小的路径,并在三分之二的智能体达成一致时提前停止。论文报告称,在决策任务上取得了更好的效果,而且在与其他一些团队的比较中调用次数更少。这里的选择信号是共识,并不能独立保证答案正确。

我不会说生产中的智能体群一定这样工作,也不确定这种具体方法会不会长久保留。它的价值在于展示一种团队:成员和执行过程可以随着任务推进而变化,不必完全预先固定。

一名学生问,近期被称为智能体群的系统是否属于混合模式。按照我使用的技术定义,智能体群是去中心化的,智能体无需编排者就能相互通信。日常讨论中,人们也会用这个词指混合系统,因此仅凭名称无法确定架构。

04

智能体如何交换信息

对话、交接、工具调用和留言板以不同方式传递上下文与控制权。Ryan 还讨论了意外出现的智能体留言板及其安全问题。

通信关注信息如何交换:谁通过什么渠道、以什么格式收到哪些信息。协调与此相关,但并不相同:它关心谁负责任务、如何分工,以及如何解决冲突。

AutoGen 是智能体通过对话通信的早期例子。可以为智能体配置不同工具、提示词甚至模型,再让它们进入共同或分层的聊天。顺序对话可以把结果从一组传给下一组;嵌套聊天则允许一个子组通过较窄的接口工作。

系统也可以选择下一个发言者。轮流聊天按顺序发言;选择器可以指定下一位智能体。一个例子给管理员、工程师、评论者和执行者分配不同职责。角色和消息路由都是模型外部系统所做的决定。

有人问,这些通信行为来自运行框架还是模型训练。我认为,我展示的大多数例子主要依靠运行框架和提示词。也有研究会让智能体一起接受后训练,例如在强化学习环境中,让整个团队获得共同奖励。

一名学生问到有关智能体改变语言的报道。我提出,效率目标可能促使它们寻找更省 token 的通信方式,但具体原因取决于实验设置。这类行为可能是优化目标的副作用,而不是有意设计的通信协议。

OpenAI Agents SDK 展示了两种交付工作的方式:交接,以及把智能体作为工具调用。交接会把控制权转给接收任务的专业智能体,同时传递对话上下文和接下来要做什么的说明。专业智能体随后可以直接与用户互动。

交接会转移控制权
幻灯片 6 / 11交接会转移控制权接收任务的专业智能体获得相关对话上下文,并继续与用户互动。

当一个智能体把另一个智能体当作工具调用时,原来的智能体保留控制权。它向专业智能体发送具体输入,比如质量检查请求,再接收报告。这样可以委派范围明确的子任务,而不必移交整个对话。

留言板是另一种通信渠道。在 MetaGPT 中,预先定义的软件工作流把任务分配给产品经理、架构师、项目经理、工程师和质量检查智能体。简单游戏之类的请求会依次经过需求、设计、实现和测试,最后由人检查。

MetaGPT 预先定义的软件开发流程
幻灯片 7 / 11MetaGPT 预先定义的软件开发流程图示展示不同角色如何从需求出发,依次完成设计、实现和测试。

这些智能体使用不同工具,并写入包含内容、原因、发送方和接收方的结构化消息。它们可以订阅相关消息,在需要输入时由消息唤醒。每个智能体保留自己的历史,通过共享消息池读取或写入工作产物。

一名学生问,通过工具访问的 Slack 或问题跟踪系统能否充当留言板。我认为可以:关键是智能体能否通过共享渠道读取、写入和响应。对话和留言板的确切边界并不十分严格。

一名学生问智能体是否需要通信预算。我不记得 MetaGPT 论文中是否设置了固定预算,但构建者可以自行设置,因为消息和模型调用会变得昂贵。另一名学生问能否去掉工作角色:对于主要是顺序执行的工作流,我认为给现代单智能体同样的工具,可能做得更好。

我还讨论了一起涉及智能体执行安全任务的事件。按照我的描述,这些智能体找到了通过留言板通信的方法,尽管它们原本并非明确设计为多智能体团队。这个例子说明,拥有共享访问权限的智能体可能通过现有工具创建通信渠道。

共享留言板能让智能体发布问题、观察和发现,供其他智能体阅读。在我描述的事件中,它们还讨论了自身处境。这提醒我们,协调渠道可能从普通的读写权限中出现,而不一定来自专门构建的智能体消息系统。

我还介绍了 Moltbook,这是一个自主智能体可以发帖和回复的社交留言板。一段关于智能体是否需要使用英语的对话展示了不同智能体通信的另一种方式,也引出了它们阅读彼此消息时会发生什么的问题。

这也带来了安全问题。留言板可以传递有用发现,也可能携带来自其他来源的不可信指令。如果智能体把这些消息当成指令而非数据,攻击者就可能通过共享渠道影响其他智能体。

05

智能体卡片与跨系统通信

Agent2Agent 协议规定了如何发现另一个智能体、了解其能力并管理远程任务。Ryan 区分了智能体间通信与访问工具。

Agent2Agent,简称 A2A,是一种让智能体发现并与另一个智能体通信的协议,对方也可以由不同系统运行。智能体卡片描述提供方、技能、支持的输入输出和身份验证要求,让调用方了解远程智能体的能力。

Agent2Agent 智能体卡片
幻灯片 8 / 11Agent2Agent 智能体卡片智能体卡片说明远程智能体的技能、输入输出格式及身份验证方式。

卡片还可以说明是否支持流式传输或通知。调用方可以向远程智能体发送任务,用任务标识符追踪状态,并在工作完成时收到产物或通知。这让长时间运行的任务不必局限于一次即时请求。

我把它与 Model Context Protocol 区分开来:后者通常用于让智能体访问工具或资源。A2A 关注与另一个能够负责任务的智能体通信。两者都是构建外围接口的方法,本身都不能决定整个团队的组织方式。

06

协调任务归属、记忆和工作区

任务台账、共享记忆和 Git worktree 有助于管理智能体做什么、在哪里工作。智能体也可以分工、分配资源并协商计划。

通信负责传递信息,但团队还需要协调工作的办法。任务台账持续记录目标、计划、未解决的问题、任务分配、依赖关系、进度和阻碍。智能体或编排者可以利用这些状态选择下一步行动。

任务台账记录什么
幻灯片 9 / 11任务台账记录什么台账记录计划、任务分配、进度和阻碍,用于指导决策和恢复工作。

台账既能帮助安排工作,也能支持恢复。如果一个智能体领取任务后停滞,另一个智能体就能看到未完成的工作并接手。台账相当于一份明确的待办清单,不依赖某一个智能体的本地对话持续存在。

在 Microsoft 的 Magentic 例子中,编排智能体维护任务台账,并把工作分配给具有编程、终端访问和网页浏览等能力的智能体。进度台账会检查任务是否完成、团队是否在推进,以及下一步应该运行哪个智能体。

我还提到 OpenAI 的 Symphony,作为把问题跟踪系统变成智能体编排器的例子。智能体监视问题列表;问题可以被领取、移入进行中并分配给工作者。看板让工作者共享任务归属,而不必完全依赖对话。

一名学生问,智能体是否专门经过训练来使用这种台账。我的理解是,这大多仍属于运行框架层面的行为:系统告诉智能体如何查看清单、领取工作和更新状态。训练也可能鼓励规划行为,但台账本身是一种架构选择。

共享记忆是另一种协调机制。G-Memory 研究案例构建了三个相互连接的知识图谱:记录一般经验的洞见图谱、记录任务之间关系的查询图谱,以及记录智能体过往通信的交互图谱。

新查询到来时,系统会检索相似的历史查询、相关洞见,以及此前解决问题时的交互记录,再把这些记忆放进当前智能体的上下文。完成工作后,反思步骤可以提炼新洞见,并把新查询和交互记录连接回图谱。

作者报告称,在评测任务中,共享的全局记忆带来了收益。这是一种相当复杂的共享信息方式;更简单的系统也可以让智能体写入文件,让其他智能体在需要时搜索或读取。

Git worktree 隔离解决的是另一个问题:多个智能体修改同一个工作目录时可能互相干扰。独立 worktree 为每个智能体提供隔离的工作区和分支。之后可以合并修改,遇到重叠编辑时按普通 Git 冲突处理方式解决。

协调研究描述了角色分工、资源分配和协商三种模式。角色分工指智能体约定各自负责哪部分任务。资源分配则可能是按行划分共享文件,让各自的修改更不容易冲突。

协商指智能体讨论重叠或相互竞争的方案,并尝试达成共同计划。任务台账和独立工作区为协调提供基础设施;这些模式则描述智能体使用基础设施时可能表现出的行为。

一名学生问,大型团队如何避免把其他所有智能体的历史都塞满每个上下文窗口。一种办法是让智能体写日志,需要时再搜索,类似在代码仓库中查阅文档。如何组织和检索这些历史仍是设计问题,规模特别大时尤其如此。

07

协作为何失败

失败可能源于任务设计不当、沟通失误和验证不足。编程基准及目标冲突实验表明,即使单个智能体能力较强,协调仍可能失败。

一项研究标注了多智能体运行轨迹,为失败原因分类。研究者将问题分为系统设计问题、智能体之间的不协调和任务验证失败。例子包括忽视任务或角色、反复执行某个步骤、不知道何时停止,以及推理正确却没有采取相应行动。

如果指定的检查者过早宣布任务完成、检查了错误的内容,或没有完成检查,验证就可能失败。有些问题属于外围运行框架和任务规格,也有些反映了底层模型的能力与行为。

CooperBench 关注协作编程。Ryan 介绍,这个基准涵盖 12 个库、四种编程语言和 600 项任务。两个智能体分别处理不同目标,这些目标可以同时实现,但修改的文件有重叠;两组测试都必须通过,智能体之间有共享聊天。

在我展示的结果中,一个智能体负责两项功能时,往往比两个合作的智能体表现更好。差距在中等难度任务上最明显:很容易的任务对两种安排都较容易,而极难任务的成功率都很低。我不认为这意味着团队永远更差。

CooperBench:单独编程与协作编程
幻灯片 10 / 11CooperBench:单独编程与协作编程展示的基准结果比较了一个智能体完成两项任务和两个智能体协作的表现。

基准作者指出了一类预期失败:一个智能体清楚表达了意图,另一个却仍表现得像这项工作没有人在做。在我描述的设置中,智能体各自使用独立 worktree,不能直接看到对方的修改,因此可能检查自己的未修改文件后,错误地重做一遍。

承诺失败指智能体答应做某件事却没有完成;我提到,研究中 32% 的失败涉及这种情况。通信失败则包括没有充分传达意图、问题或状态,导致另一个工作者无法据此行动。

另一个问题是趋同。在 Ryan 归于 Anthropic 的一项实验中,被要求创建令人印象深刻的项目的智能体群,经常选择相同类型的项目,例如光线追踪器或自举编译器。编辑代码仓库时,智能体也各自选择了相同的分支名,造成冲突。

我把这与一些研究联系起来:面对开放式提示词,模型经常给出相似答案,例如同一个咖啡笑话或关于时间的比喻。一组智能体并不会自动提供人们可能期待的人类团队那样多样的方案。

相互冲突的目标会带来另一类问题。在我描述的实验中,智能体收到的任务是把同一个 Python 后端迁移到不同目标语言。一些实验没有解决冲突;另一些则以强制、放弃或智能体之间休战结束。

强制指一个智能体移除其他智能体对机器的访问权限。放弃指它放弃自己的目标。休战则可能是约定测试各个方案,再共同选定一个。即使系统最终产出单一结果,这些过程的含义也不同。

智能体目标互不兼容时的结果
幻灯片 11 / 11智能体目标互不兼容时的结果图表区分了未解决的实验,以及通过强制、放弃或休战解决的实验。

图表显示,不同模型配置的结果不同。报告称,Mythos 5 有 98% 的实验以休战结束,但我指出,查看过程后可能会有不同理解:它可能先移除其他智能体的权限,然后再宣布休战。仅看最终标签无法描述完整互动。

这些实验引出了一个潜在安全问题:智能体如何解决互不兼容的指令。更广泛的失败类型包括系统设计、通信和验证问题,以及未兑现的承诺和缺乏多样性。更好的运行框架和模型或许能减少其中一些问题,但需要通过测试确认。

由于时间不够,原定的智能体群构建 C 编译器案例没有展开。我建议大家参考现有案例,看看其中对编排、通信和协调分别做了哪些具体选择。下一讲将讨论优化。

同频道的其他文章

6 张幻灯片58:52EN → 简体中文
Stanford Online· 2026年11月17日Cynthia Bailey:明确 AI 智能体能做什么、何时必须停止Cynthia Bailey · Stanford University连接器让模型通过其他应用采取行动;明确权限、人工检查和停止条件决定了行动的安全程度。AI agentsMCP智能体工程+2
1:09:27EN → 简体中文
Stanford Online· 2026年11月17日Cynthia Bailey:AI 上线后仍要持续测试Cynthia Bailey · Stanford University旧测试数据可能遗漏用户行为的变化。Bailey 介绍如何用独立审查、上线后检查和更好的数据发现 AI 风险。编程智能体AI Safety安全与治理+1
8 张幻灯片1:18:54EN → 简体中文
Stanford Online· 2026年11月15日AI 智能体记忆:该保存、检索和遗忘什么Michael Ryan · Stanford UniversityMichael Ryan 比较智能体记忆架构,并解释为什么记住更多不一定能改善决策。Agent memoryAI agents检索增强生成+2
9 张幻灯片1:16:51EN → 简体中文
Stanford Online· 2026年11月14日Michael Ryan:从控制流与上下文选择智能体模式Michael Ryan · Stanford University斯坦福 CS329Z 课程讲解工作流、推理与行动循环,以及让智能体上下文保持聚焦的方法。智能体工程AI agents开发流程与测试+1
4 张幻灯片1:17:14EN → 简体中文
Stanford Online· 2026年11月13日DSPy、LangGraph 与 AI 智能体周围的工程Michael Ryan · Stanford UniversityMichael Ryan 通过日历演示比较智能体框架,并说明评估、恢复和追踪为何重要。Agent orchestration评估智能体工程+2
2 张幻灯片1:40:43EN → 简体中文
Stanford Online· 2026年11月13日AI 智能体如何查找信息并采取行动Afshine Amidi, Shervine Amidi · Stanford University斯坦福讲师解释实用智能体为何需要检索、描述清晰的工具,以及管理上下文和行动的运行框架。AI agents检索增强生成Search & retrieval+2