高可靠自动化的第一步:把难处理的案例分流出去

原标题A high-reliability automation starts by routing the hard cases away

Matthew Jewkes 介绍如何在生物医药文档索引流程中区分关键错误、模糊判断和异常情况。

MJMatthew Jewkes讲者 · Standard Cybernetics
频道
AI Engineer
发布
2026年11月9日
视频
19:41
阅读
4 分钟
幻灯片
7
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

一个早期文档索引智能体的准确率约为 80% 至 83%,但失败案例混合了模型错误、组织尚未定论的问题和真正新颖的情况。Matthew Jewkes 说,团队分别为它们设计处理路径,经过大量评估后,在选定的业务关键任务上达到 99.95% 的准确率。常规路径自动运行,不确定案例交给专家。他认为,汇总这些异常还能帮助专家发现未满足的需求并决定投资方向。

  1. 1为常规工作流设置退出机制Jewkes 用 AI 识别需要其他处理方式的输入,而不是让所有案例强行经过同一条路径。
  2. 2具体案例帮助专家发现三种不同类型的问题团队审阅约 1000 个评估,区分关键错误、模糊判断和异常情况。
  3. 3案例分流投入的精力不亚于提升关键路径准确率不确定或新颖的案例可以交给人,业务关键案例则进入经过大量测试的路径。
  4. 4经过大量迭代,选定的关键路径达到 99.95%Jewkes 说,排除模糊和异常情况后,团队将准确率从约 95% 提高,并用随机样本与历史工作比较。
  5. 5汇总异常可以揭示零散案例掩盖的决策或需求专家可以决定是否明确规则、停止低价值工作或调查潜在机会。
  6. 6流程和价值明确时,这项投资更有意义高可靠性需要工程、评估、信任和组织变革;Jewkes 倾向于解决持续且重要的业务问题。

要点建议

  1. 优化单一准确率之前,先区分关键错误、尚未定论的问题和异常情况。
  2. 为自动化设置明确的停止和分流方式,处理超出常规路径的案例。
  3. 使用具体案例与领域专家共同评估,并投入时间检查失败原因。
  4. 汇总异常案例,让专家发现模式并选择值得关注的问题。
  5. 将昂贵的高可靠自动化用于成熟、有价值且客户痛点明确的流程。
全文

按章节阅读整理后的全文

只看原始文稿
01

通过常规路径保护专家注意力

Jewkes 主张使用自动化处理常规工作,并为超出预期范围的案例设置停止和升级机制。

Matthew Jewkes 请领导者想一想团队中最强的领域专家:这些人经常被紧急客户问题和决策打断。他认为,随着常规执行成本下降,决定什么值得关注会变得更有价值。

他主张将定义清楚的常规路径完全自动化,把人的注意力留给异常情况。在他看来,自主智能体有助于开发,但可能难以维护,也可能给专家制造更多需要处理的决策。

自动化应有退出机制。AI 可以检查输入是否适合常规路径,识别不寻常或业务关键情况,并将其分流,而不是强行让所有案例通过同一个工作流。

02

区分生物医药流程中的不同失败

团队与专家审阅具体评估,区分关键错误、模糊判断和异常情况。

Jewkes 介绍 Clarivate 的生物医药文档索引系统。他说,该系统每月处理数万项任务,在选定的业务关键任务上达到 99.95% 的准确率,但开发投入很大。

生物医药索引案例
幻灯片 1 / 7生物医药索引案例Jewkes 报告选定业务关键任务的规模和准确率。

最初类似智能体的方法在几个冲刺后达到约 80% 至 83%。团队收集约 1000 个评估案例,与领域专家共同审阅;他们给专家看具体案例,而不是要求专家填写空白表格。

三类困难案例
幻灯片 2 / 7三类困难案例评估区分模糊判断、关键错误和异常情况。

审阅揭示了三类问题:真正的关键错误、专家或组织尚未形成统一答案的模糊案例,以及需要额外人工判断的异常情况。这些问题不应都被当成同一种模型失败。

Jewkes 用一个简化药物靶点案例解释模糊性:专家可能对间接生物作用是否算作靶点有不同判断。他将其与需要人更新索引体系的新药物机制区分开。

03

分流案例并改进关键路径

团队报告,经过大量测试和分流,选定关键任务的准确率达到 99.95%。

团队在案例分流上投入了大量精力。令人困惑或不寻常的输入可以被描述并暂存;可能的关键案例进入经过大量评估的路径;仍无法确定的结果交给人。常规案例继续走普通流程。

按业务优先级分流
幻灯片 3 / 7按业务优先级分流工作流以不同方式处理不确定、关键和尚未定论的案例。
改进关键路径
幻灯片 4 / 7改进关键路径报告的准确率适用于分离模糊和异常案例之后的路径。

排除模糊和异常案例后,团队用常规方法在关键路径上达到约 95% 的准确率。Jewkes 说,经过大量评估和迭代,准确率升至 99.95%;部署前又用随机样本与历史工作比较。

他认为,自动化流程在大规模处理时优于历史专家工作,同时承认博士专家仔细研究单个案例时可能做得更好。他将差异部分归因于工作量、时间压力和人的疲劳。

04

将异常转化为有组织的决策

汇总剩余工作有助于引导专家注意力并发现潜在需求。Jewkes 解释这项投资何时可能值得。

除了节省时间,系统还把剩余工作分为关键审核、模糊案例和异常情况。Jewkes 说,这让专家更容易决定如何分配有限的注意力。

组织专家注意力
幻灯片 5 / 7组织专家注意力剩余案例被分类供专家审核,而不是混在常规工作中。

一批模糊且价值有限的案例可以促使组织决定是否明确规则,或者停止这类工作。汇总异常案例也可能显现单个零散案例难以暴露的模式。

他描述了一位专家利用整理好的异常案例,在一位重要客户提出相关需求之前就形成投资判断。Jewkes 认为,这类汇总后的异常可能成为市场需求的领先信号。

高可靠自动化的建设成本很高:工程时间、评估审阅、组织信任和职责变化都需要投入。他建议选择价值可观且客户痛点明确的成熟流程。

在哪里投入
幻灯片 6 / 7在哪里投入讲者倾向于选择成熟、有价值且客户痛点可见的流程。

Jewkes 更偏向处理流程大致可以明确规定的细节工作,而不是依赖开放式主观判断的工作。对于仍在探索业务的初创公司,他会保留人的灵活性,而不急于完全自动化。

技术方法与评估
幻灯片 7 / 7技术方法与评估幻灯片列出改进高可靠工作流的一些实践。

他的实践建议包括编写并阅读评估、提供退出路径、对输入和提示词进行版本管理、拆分任务以及记录失败。他强调,审阅大量评估案例是一项耗费精力的工作。

Jewkes 最后预测,竞争优势可能较少来自选择某一种编排框架,更多来自组织如何管理集体注意力和判断力。

同频道的其他文章

7 张幻灯片22:01EN → 简体中文
AI Engineer· 2026年11月9日Zach Lloyd:让软件工厂可以衡量和修改Zach Lloyd · WarpWarp CEO 建议记录智能体运行、评估失败原因,并用真实任务测试工作流的改动。软件工厂编程智能体评估+2
12 张幻灯片27:35EN → 简体中文
AI Engineer· 2026年11月9日Uber 为加快 AI 时代的代码合并,放弃主干始终通过测试Preetam Dwivedi, Manjari Akella · Uber合并队列放宽部分冲突限制,合并后再验证组合状态,并保留已验证的可用版本。开发流程与测试编程智能体基础设施与部署+2
3 张幻灯片15:25EN → 简体中文
AI Engineer· 2026年11月9日Hassan 与 Omar El Mghari:AI 财务预测为何会“结果对了,理由错了”Hassan El Mghari, Omar El Mghari · Together AI一个 Costco 会员费模型通过了基础检查,结果也接近实际数据,但审计发现了相互抵消的错误假设。金融 AI评估智能体工程
3 张幻灯片14:38EN → 简体中文
AI Engineer· 2026年11月9日Jemima Abu:从一开始就给编程代理无障碍规则Jemima Abu · CAIS一位产品工程师介绍如何利用语义化 HTML、可复用组件和明确的代理技能,帮助团队构建更易用的界面。编程智能体产品与体验Agent skills
4 张幻灯片21:12EN → 简体中文
AI Engineer· 2026年11月9日Tom Moor:给编程代理补上代码看不到的产品背景Tom Moor · LinearLinear 的工作流将客户请求、历史决策、审查记录和人工反馈贯穿于接收、实现与审查。编程智能体产品与体验智能体工程
2 张幻灯片15:35EN → 简体中文
AI Engineer· 2026年11月9日Mislav Ivanda:先选执行边界,再选智能体框架Mislav Ivanda · DaytonaDaytona 工程师比较了运行智能体生成代码时的本机审批、嵌入式运行时和沙箱机器。Sandboxes & isolation智能体工程基础设施与部署