30 秒看懂
Datasite 首席技术官 Raj Bakhru 回顾了他的垂直 AI 初创公司 BlueFlame 如何加入 Datasite,并为敏感交易数据室引入 AI。他与 Reducto CEO Adit Abraham 讨论了文档解析为何会遇到层出不穷的特殊情况。 Bakhru 说,Datasite 选择 Reducto,让工程师能够专注于智能体、Graph RAG 和创造收入的产品。他还谈到内部评估、模型取舍,以及 AI 编程时代的招聘思路。
- 1解析充满特殊情况图表、合并单元格、宏和模板都会带来不同的内容提取问题。
- 2让工程师专注业务价值Bakhru 选择专业解析工具,让团队专注于面向客户的智能体和 Graph RAG。
- 3专有数据影响收购决定Datasite 的虚拟数据室和 Grata 数据库为 BlueFlame 提供了独特的数据资源。
- 4平衡质量、速度与成本Bakhru 说,金融用户最重视质量,但团队仍需优化模型行为和成本。
- 5在虚拟数据室中测试VDR Bench 使用数百份文档及带已知答案的问题,发生变更后重新运行。
要点建议
- 复杂的金融文档会产生大量解析特殊情况,占用工程支持时间。
- Bakhru 选择购买解析能力,让工程师专注于产品和 Graph RAG。
- 引入外部工具处理敏感数据,需要先解决安全与合规问题。
- Datasite 在包含已知问题和答案的虚拟数据室上评估应用。
- Bakhru 表示,团队的基准测试中,改进解析使召回率提高了 22%。
按章节阅读整理后的全文
从 BlueFlame 到 Datasite
Bakhru 回顾自己的经历、收购,以及为敏感交易数据引入 AI 的挑战。
Reducto 联合创始人兼 CEO Adit Abraham 介绍了 Datasite 全球首席技术官 Raj Bakhru。Bakhru 从两个角度观察过垂直 AI:他创立了 BlueFlame,又在公司被 Datasite 收购后加入后者。
Abraham 说,超过 1 亿美元的交易中约有 60% 通过 Datasite 进行;Bakhru 确认了这一数字。Datasite 的虚拟数据室存放交易期间银行家、私募股权公司和尽职调查服务商交换的文件。
Bakhru 职业生涯早期为量化基金开发研究和交易系统,之后创立了一家安全公司。后来,他预见到非结构化数据的重要性,于是创办 BlueFlame,将垂直 AI 应用于并购。
作为一家小型初创公司,BlueFlame 为节省资金,自建了大量解析和文档摄取流程。系统一开始可以运行,但随着客户文档越来越多样,失败案例和支持工单也越来越多。
大约一年半后,Datasite 收购了 BlueFlame。首要任务是把这项技术引入数据室。Bakhru 说,平台处理数十亿页内容,拥有超过 50 万月活跃用户,每年承载约 5.5 万个数据室。
团队需要解析这些内容并将其写入向量数据库,建立 Graph RAG 平台,再大规模回答用户问题。Datasite 过去一直将敏感交易数据留在 Azure 内,因此使用 Reducto 之前,团队必须解决安全和监管合规要求。
文档解析:自建还是购买
图表和金融表格产生了许多特殊情况。Datasite 选择专业工具,让团队专注于面向客户的工作。
Bakhru 说,团队对自建的提取和摄取工具做了基准测试。综合考虑质量、速度、召回率、成本以及快速推进的需要后,他们选择了 Reducto。
解析工作最终变成了接连不断的特殊情况。一个模型误读了饼图图例与颜色之间的对应关系,同样的信息换成柱状图却能读对。金融表格也有自己的难点,包括合并单元格和复杂布局。
自建还是购买,最后变成了一个问题:稀缺的工程时间应该花在哪里?Bakhru 更愿意把提取问题交给专业供应商,让自己的工程师开发面向客户的智能体、界面和 RAG 平台。
这样一来,数据科学团队就可以专注于 Graph RAG,而不是不断修补表格提取问题。Excel 二进制文件、宏和模板等格式都会持续带来新情况。
BlueFlame 为何加入 Datasite
初创公司即将完成风险融资时,Datasite 提出了收购。专有数据和竞争压力影响了这一决定。
Bakhru 回忆了 BlueFlame 的早期经历:此前他很快卖掉了一家公司,这一次创始团队原本打算长期独立经营。他们请来了熟悉且信任的人,起初很大程度上靠自己的资金建设公司。
BlueFlame 即将完成第一轮风险融资时,曾询问 Datasite 是否愿意投资 500 万美元。看过演示、共进晚餐后,Datasite 转而提出收购整家公司。
Bakhru 说,团队预计要在垂直 AI 领域保持竞争力,可能需要融资数亿美元,并承受大幅股权稀释。前沿模型提供商当时也开始推进针对特定行业的策略。
Datasite 提供了独特的数据资源:虚拟数据室,以及私营公司数据库 Grata。Bakhru 说,Grata 覆盖约 2,000 万家私营公司。对 BlueFlame 而言,把这些数据与 AI 产品结合是加入 Datasite 的重要理由。
他说,团队的基准测试显示,让数据更靠近模型提高了质量,也降低了 token 成本和运行时间。随着流入内容持续增长,Reducto 的摄取与处理能力变得愈发重要。
Bakhru 估计,过去一年半里 Datasite 的收入增长约 40%。客户需求也从针对文档提问扩展到让智能体执行尽职调查、生成演示文稿和投资委员会备忘录。
工程精力应该花在哪里
Bakhru 介绍供应商策略、AI 编程,以及他如何在业务项目之间分配工程师。
谈到自建还是购买时,Bakhru 说 Datasite 有意使用许多供应商。他希望最优秀的工程师解决困难的业务问题,而不是维护专业供应商已经能处理的组件。
他认为,具备扎实代码库心智模型的资深工程师能从 AI 编程工具中获得很大收益。他也看到初级工程师的能力得到放大,因此倾向同时招聘很有经验和初级的人才。
Bakhru 说,公司希望在接近 10 亿美元营收规模的基础上每年增长约 20%。按他的计算,这意味着每年需要通过新 AI 产品和扩展服务创造约 2 亿美元的新增收入。
他管理约 250 名工程师,负责五项主要计划,包括新产品、工具整合和商业模式。他希望把工程师分配到这些创造收入的项目,尽可能少地维护可以外包的底层组件。
模型取舍与 VDR Bench
对话最后讨论成本、速度和质量的取舍、数据摄取架构,以及内部虚拟数据室基准。
剩下的挑战是让模型准确完成应用所需的任务。团队仍需比较模型行为、工具调用方式、速度、成本和质量。Bakhru 说,金融用户最看重质量,同时也必须管理另外两个因素。
在现场问答中,Bakhru 说 Reducto 在 Datasite 的环境内运行。大型交易文件可能突然集中上传,数据量最高可达 1 TB;摄取流程处理内容后送入向量数据库,再在其上构建 Graph RAG。
一位听众询问如何评估处理敏感交易文件的智能体。Bakhru 介绍了 VDR Bench:其中一个虚拟数据室包含数百份文档,配有数百个已知答案的问题。团队在发生变更后会重新运行测试。
这个基准目前供内部使用,但 Bakhru 说团队正考虑公开。其目标是超越把同一批文件直接交给前沿模型项目的效果。他表示,团队测试中 Reducto 的解析使召回率提高了 22%,并认为内容提取质量会显著影响后续所有环节。
同频道的其他文章
19:12EN → 简体中文
18:01EN → 简体中文
19:19EN → 简体中文
16:51EN → 简体中文
19:42EN → 简体中文
20:35EN → 简体中文