30 秒看懂
一个早期文档索引智能体的准确率约为 80% 至 83%,但失败案例混合了模型错误、组织尚未定论的问题和真正新颖的情况。Matthew Jewkes 说,团队分别为它们设计处理路径,经过大量评估后,在选定的业务关键任务上达到 99.95% 的准确率。常规路径自动运行,不确定案例交给专家。他认为,汇总这些异常还能帮助专家发现未满足的需求并决定投资方向。
- 1为常规工作流设置退出机制Jewkes 用 AI 识别需要其他处理方式的输入,而不是让所有案例强行经过同一条路径。
- 2具体案例帮助专家发现三种不同类型的问题团队审阅约 1000 个评估,区分关键错误、模糊判断和异常情况。
- 3案例分流投入的精力不亚于提升关键路径准确率不确定或新颖的案例可以交给人,业务关键案例则进入经过大量测试的路径。
- 4经过大量迭代,选定的关键路径达到 99.95%Jewkes 说,排除模糊和异常情况后,团队将准确率从约 95% 提高,并用随机样本与历史工作比较。
- 5汇总异常可以揭示零散案例掩盖的决策或需求专家可以决定是否明确规则、停止低价值工作或调查潜在机会。
- 6流程和价值明确时,这项投资更有意义高可靠性需要工程、评估、信任和组织变革;Jewkes 倾向于解决持续且重要的业务问题。
要点建议
- 优化单一准确率之前,先区分关键错误、尚未定论的问题和异常情况。
- 为自动化设置明确的停止和分流方式,处理超出常规路径的案例。
- 使用具体案例与领域专家共同评估,并投入时间检查失败原因。
- 汇总异常案例,让专家发现模式并选择值得关注的问题。
- 将昂贵的高可靠自动化用于成熟、有价值且客户痛点明确的流程。
按章节阅读整理后的全文
通过常规路径保护专家注意力
Jewkes 主张使用自动化处理常规工作,并为超出预期范围的案例设置停止和升级机制。
Matthew Jewkes 请领导者想一想团队中最强的领域专家:这些人经常被紧急客户问题和决策打断。他认为,随着常规执行成本下降,决定什么值得关注会变得更有价值。
他主张将定义清楚的常规路径完全自动化,把人的注意力留给异常情况。在他看来,自主智能体有助于开发,但可能难以维护,也可能给专家制造更多需要处理的决策。
自动化应有退出机制。AI 可以检查输入是否适合常规路径,识别不寻常或业务关键情况,并将其分流,而不是强行让所有案例通过同一个工作流。
区分生物医药流程中的不同失败
团队与专家审阅具体评估,区分关键错误、模糊判断和异常情况。
Jewkes 介绍 Clarivate 的生物医药文档索引系统。他说,该系统每月处理数万项任务,在选定的业务关键任务上达到 99.95% 的准确率,但开发投入很大。

最初类似智能体的方法在几个冲刺后达到约 80% 至 83%。团队收集约 1000 个评估案例,与领域专家共同审阅;他们给专家看具体案例,而不是要求专家填写空白表格。

审阅揭示了三类问题:真正的关键错误、专家或组织尚未形成统一答案的模糊案例,以及需要额外人工判断的异常情况。这些问题不应都被当成同一种模型失败。
Jewkes 用一个简化药物靶点案例解释模糊性:专家可能对间接生物作用是否算作靶点有不同判断。他将其与需要人更新索引体系的新药物机制区分开。
分流案例并改进关键路径
团队报告,经过大量测试和分流,选定关键任务的准确率达到 99.95%。
团队在案例分流上投入了大量精力。令人困惑或不寻常的输入可以被描述并暂存;可能的关键案例进入经过大量评估的路径;仍无法确定的结果交给人。常规案例继续走普通流程。


排除模糊和异常案例后,团队用常规方法在关键路径上达到约 95% 的准确率。Jewkes 说,经过大量评估和迭代,准确率升至 99.95%;部署前又用随机样本与历史工作比较。
他认为,自动化流程在大规模处理时优于历史专家工作,同时承认博士专家仔细研究单个案例时可能做得更好。他将差异部分归因于工作量、时间压力和人的疲劳。
将异常转化为有组织的决策
汇总剩余工作有助于引导专家注意力并发现潜在需求。Jewkes 解释这项投资何时可能值得。
除了节省时间,系统还把剩余工作分为关键审核、模糊案例和异常情况。Jewkes 说,这让专家更容易决定如何分配有限的注意力。

一批模糊且价值有限的案例可以促使组织决定是否明确规则,或者停止这类工作。汇总异常案例也可能显现单个零散案例难以暴露的模式。
他描述了一位专家利用整理好的异常案例,在一位重要客户提出相关需求之前就形成投资判断。Jewkes 认为,这类汇总后的异常可能成为市场需求的领先信号。
高可靠自动化的建设成本很高:工程时间、评估审阅、组织信任和职责变化都需要投入。他建议选择价值可观且客户痛点明确的成熟流程。

Jewkes 更偏向处理流程大致可以明确规定的细节工作,而不是依赖开放式主观判断的工作。对于仍在探索业务的初创公司,他会保留人的灵活性,而不急于完全自动化。

他的实践建议包括编写并阅读评估、提供退出路径、对输入和提示词进行版本管理、拆分任务以及记录失败。他强调,审阅大量评估案例是一项耗费精力的工作。
Jewkes 最后预测,竞争优势可能较少来自选择某一种编排框架,更多来自组织如何管理集体注意力和判断力。
同频道的其他文章
22:01EN → 简体中文
27:35EN → 简体中文
15:25EN → 简体中文
14:38EN → 简体中文
21:12EN → 简体中文
15:35EN → 简体中文