30 秒看懂
把 AI 智能体连接起来,不等于它们会追求同一个结果。Cisco 的 Vijoy Pandey 描述企业工作流中含糊术语和不同假设如何在交接中累积,并介绍三个旨在发现偏离、统一意图和协商变化的开源项目。他与 Nathan Labenz 还比较各自的个人智能体配置,并讨论人类如何监督日益自主的系统。
- 1网络迁移结合智能体与形式化模型Pandey 描述 Swisscom 的案例和实现配置无误的目标。
- 2风险存在于专家之间的交接销售估计可能变成承诺、合同语言和营销说法。
- 3绿色仪表盘也可能掩盖任务失败Cisco 报告语义错位,并把 Scope 描述为可观测层。
- 4“十万用户”可能有不同含义Accord 和 Concord 分别处理含糊术语和变化中的预期。
- 5两个个人智能体连一顿晚餐也难订好Pandey 说明偏好、权限和协商如何让简单任务变复杂。
- 6主持人质疑人类能否监督不透明系统Pandey 主张保留记录、监测和安全约束,同时承认专家的必要性。
要点建议
- 一次交接可能把模糊的估计变成承诺、合同条款或公开宣传。
- Scope 旨在从多智能体轨迹中发现语义偏离;Accord 在工作前统一意图,Concord 支持工作中的协调。
- Pandey 报告特定实验中错位累积时任务准确率大幅下降;这些数字不是通用基准。
- 信息不完整时,当前往往仍由人提供判断并承担责任。
- 个人智能体同样要权衡访问权限、自主性,以及跨不同人的偏好进行协商的能力。
- 高维通信可能有用,但如何监督仍是开放问题。
按章节阅读整理后的全文
企业中的互联智能体
Pandey 介绍网络迁移、专业智能体和业务交接。
一个智能体可能完成自己的任务,却仍导致整体结果出错。Outshift by Cisco 的 Vijoy Pandey 重返 The Cognitive Revolution,讨论多个 AI 智能体交换信息却没有共同理解目标时会发生什么。
Pandey 介绍三个项目:Scope 检查智能体轨迹中的语义偏离;Accord 旨在工作开始前统一目标;Concord 则帮助它们在情况变化时协调和协商。
主持人 Nathan Labenz 还将自己的智能体配置与 Pandey 的做法作对比,并问未来智能体是否会采用人类难以直接检查的方式通信。讨论涉及已部署的企业系统、演示和未来基础设施的设想。
Pandey 描述智能体迅速从孤立个体,发展为同一运行框架中的群组,再发展为跨供应商、云、工具和组织连接的系统。
发现、身份、通信和可观测性协议让这些连接成为可能。他说 Cisco 与合作伙伴已经把互联智能体应用于网络配置和平台工程等工作。
Labenz 问,需要多少有意识的设计。团队可以为业务流程特意把已知的智能体组合起来;更难的是让不同系统中的智能体可靠合作。
Pandey 介绍一个公开的 Swisscom 数据中心网络迁移案例。运营商需要改变大型环境中的硬件、软件和配置,而一处变化可能在别处产生意外影响。
他建议先选择范围明确的场景,并想清楚出错时如何保护系统。数据中心被选作更大网络问题中的一个相对可控的起点。
团队提出的目标是让配置变更不出错。Pandey 介绍,他们将智能体工作流与网络的形式化表示结合,由后者按建模规则约束操作。
他称之为神经符号方法:智能体探索可能的配置,形式化模型检查环境允许什么。他所说的保证适用于建模的特定设置,不能理解为对所有真实网络的保证。
为什么使用多个智能体?Pandey 认为,许多企业问题跨越专业边界,不能简化为某个团队的局部目标。
在一笔交易中,销售可能理解客户,法务审查条款,财务考虑价格,工程评估能否交付,营销随后描述成果。经理或验证者必须确保这些部分彼此吻合。
交接影响重大。一个暂定估计可能变成承诺,再变成合同语言,最后成为公开宣传。分别优化每个专家,并不保证组织实现了原本目标。
如今人类通常承担验证角色。Pandey 设想未来监督智能体可能参与,但重要结果属于整个企业,而不是任何单个智能体。
Labenz 指出,交接既可能反映人类分工,也可能跨越组织和供应商边界。不同智能体可能使用不同模型和专业工具,因此互操作成为实际问题。
从连接走向共同理解
嘉宾讨论语义偏离、实验与可观测性。
Pandey 说,协作可以出现在 Webex 或 Slack 等熟悉的软件中。他介绍了一个智能体共同工作的 Webex 空间,同时明确指出该例目前是演示,而非生产部署。
他认为更深层的问题不是聊天界面,而是参与者能否共享意图、协调变化并保留有用知识。他以人类语言作比喻,说明如何从孤立能力走向集体工作。
他提出的“认知互联网”在连接之上增加协调:工作前统一目标,工作中协商,完成后验证结果是否服务共同目标。
Labenz 问,随着模型进步,多少这样的外部框架可能变得不再必要。他指出,智能体已经能够找到意想不到的协调方式,包括共同目标本身有问题的情况。
Pandey 区分单个模型变强、算法改进和跨系统横向扩展。他认为,更好的组件本身并不能保证群体朝正确的共同结果推理。
Cisco 检查了公开和内部轨迹,并报告其研究的特定会话存在语义失败。Pandey 说,一些系统看似已连接,却只优化局部任务,错过整体目标。
他称,在一项实验中,认知失败累积时准确率从 99% 降至 98%,两次失败后降至 81%,三次后降至 16%。这些是他报告的特定设置结果,并非通用扩展规律。
对于一个旅行规划例子,Pandey 报告称,仪表盘指标显示智能体似乎在运行,但任务完成率为零。他想说明,正常运行和交换消息不等于完成用户目标。
Scope 被介绍为建立在 OpenTelemetry 轨迹之上的可观测层。它尝试展示语义或认知偏离,让团队检查看似健康的工作流在哪里偏离。
Pandey 称之为“无声失败,后果响亮”:系统可能一直运行,却失去共同目的。在他的方案中,可观测性是第一步,随后再用协议处理错位。
统一目标与协商
Accord 和 Concord 应对目标、术语与工作中变化。
Labenz 问语义失败具体是什么样。在人类交易流程中,销售、法务和支持团队可能有不同激励和假设;他希望知道智能体协议如何发现并解决类似错位。
Pandey 给出工作前的歧义:客户要求支持十万用户。销售传递这个数字,但工程可能理解为用户总数,客户却指十万并发用户。
智能体需要在团队围绕错误要求开发之前,识别并澄清术语。Accord 旨在此阶段统一目标、术语和范围。
即使达成一致,工作也会变化。一个交付日期对工程可能意味着测试版,对客户可能是最终产品,对财务则可能是合同和付款节点。
Concord 旨在要求、日期或约束发生变化时支持协调和协商。Pandey 说,访谈时另一个用于验证最终结果的协议仍在开发。
他把 Scope 比作车道偏离提醒:发现可能的偏离,并提示智能体重新对齐。这个比喻描述的是预期角色,并不能证明每个错误都能自动发现。
Labenz 问,实际实现是否类似让另一个模型检查交互、标记可能的误解,并提示智能体解决。
Pandey 描述了模型、运行框架、智能体身份和协作层可以分开的技术栈。运行框架既可以加速有效工作,也可以施加约束,底层模型则可以更换。
他预计真实系统将保持异构:不同人和组织会使用不同模型、工具、身份和云。在他看来,开放协议是跨越这些边界进行协调的必要条件。
人的判断与个人智能体
两位发言者比较监督、记忆、权限和自主性。
Scope 观察这些环境中的轨迹;检测到偏离后,可以调用 Accord 和 Concord 处理。Pandey 说,其目标是增加对齐能力,而不是替换所有现有通信协议。
主持人再次谈到验证者:它应该代表某位领导者的判断和优先级,还是作为中立观察者标记分歧,让其他人解决?
Pandey 说,信息不完整使判断和责任尤其重要。在许多当前工作流中,人仍负责判断情况并影响结果。
他预计智能体最终可以协助某些判断,尤其是与既有决定相似的情况。他并没有声称知道判断工作会有多少比例被自动化。
团队还讨论两类“认知引擎”:阻止不适当行动的安全约束,以及帮助人或智能体更有效工作的认知加速器。
Labenz 描述自己的分工:笔记本电脑上的智能体权限很高,但自主性较低;另一台电脑上的智能体权限较窄,却可以更独立地执行长期任务。
这种划分反映风险取舍:拥有多个账户权限的系统不应未经审查自由行动,而更自主的系统可以限制它所能影响的范围。
Pandey 希望最终拥有一个身份和记忆稳定、能跨不同模型及运行框架存在的个人智能体。他把自己的智能体命名为 Arnold Layne,并描述如何把其身份与底层技术分开。
他的妻子有另一个智能体。即使预订晚餐也说明了困难:两个智能体需要协调偏好、饮食限制、地点、可用时间和通信权限。
他说,当前系统仍难以端到端完成这样的任务。反复请求批准可能打断自动化,但减少摩擦本身既不能解决分歧,也不能保证结果合适。
Pandey 希望智能体能协商出反映双方偏好的折中方案。他用这个简单例子说明企业工作流中同类的协调挑战。
Labenz 问,智能体群体是否有可靠的扩展规律,或者智能体数量与速度之间的关系是否取决于模型能力和任务结构。
Pandey 再次提到纵向、算法和横向扩展,但没有给出定量规律。他把讨论扩展到连接 AI、物理系统和其他计算形式的网络。
高维通信与监督
他们讨论机器通信、专业分工和责任。
话题转向智能体通过高维内部表示而非普通语言通信。Labenz 指出,这种通信可能很强大,但也可能使已经困难的监测更加困难。
Pandey 预计更高效的机器通信形式会出现,并提及科学、材料和预测等潜在用途。他把它作为发展方向,而不是已经验证的安全方案。
他主张对此类系统进行测试,并在安全约束下部署,尤其是人类直接与技术交互时。他把谨慎推出比作医疗产品分阶段引入。
Labenz 提出 Yuval Noah Harari 的比喻:奶牛的生活受到它无法理解的金融系统影响。人类是否会类似地依赖自己无法理解的 AI 管理结构?
Pandey 回应,人们已经依赖大多数个人不了解细节的专业系统,从高频交易到法律都是如此。尽管没有人掌握全部,每位专家都能理解其中一部分。
他偏好的做法是保留决策、工具调用和交互记录,再利用可观测性和安全约束发现、纠正偏离。Labenz 仍关注人类最终能保有多少理解和控制。
两人以实际问题收尾:连接智能体可以提升能力,但部署者仍需要检查群体在做什么,以及决策是否服务预定结果。
同频道的其他文章
43:36EN → 简体中文
1:55:03EN → 简体中文
1:26:17EN → 简体中文
1:43:54EN → 简体中文
1:26:42EN → 简体中文
1:49:40EN → 简体中文