Karan Singhal：AI、信任与医疗的未来

负责 OpenAI 健康 AI 研究的 Karan Singhal 与 a16z 合伙人 Jay Rughani 对谈，讨论 AI 可能如何支持患者和临床医生。Singhal 将目标概括为让更多人获得健康信息，同时拓展未来医学的可能性。这些是公司的目标和研究主张，并不能证明 AI 可以取代医生。

Singhal 说，每周有超过 3 亿人使用 ChatGPT 询问健康和保健问题。他认为，需求与就医过程中的困难有关：预约专科可能需要数周或数月，短暂的问诊可能留下疑问，患者也可能需要帮助，弄清该问什么或如何跟进。

他认为，就诊间隙存在帮助患者的机会：整理担忧、准备问题、回顾问诊信息。Rughani 讲到自己看皮肤科时忘记问一个问题，再次预约又要等很久。两人讨论的是围绕医疗服务的支持，而不是取代检查或治疗。

Singhal 提到播客主持人 Nathan Labenz 公开分享的经历：据 Labenz 所述，AI 帮助家人意识到孩子的症状值得检查，医生随后诊断出白血病。Singhal 说，这家人也用 AI 协助理解治疗期间的信息。个案不能证明工具对不同患者的诊断准确率或可靠性。

Rughani 问，为什么 OpenAI 将医疗能力融入通用模型，而不是使用完全独立的医疗模型。Singhal 说，团队在不同训练阶段加入专业健康数据和医生反馈，让健康能力也能受益于通用模型的进步。这是一项设计选择，并不保证临床表现。

凭借此前开发专用模型的经验，Singhal 认为，当通用系统快速进步时，较小的独立模型可能很快落后。他的团队把通用能力与健康领域专门评估和训练结合起来，希望保留规模优势，同时应对具体医疗任务。

Rughani 设想一种个人助手：记住一个人的病史和偏好，解释信息，并帮助其遵循医生制定的方案。Singhal 看好主动式助手，但明确表示，他并不认为它可以取代获得医生服务的机会。

Singhal 介绍了通过 ChatGPT 健康功能连接的信息所受的隐私保护。OpenAI 的[当前帮助文档](https://help.openai.com/en/articles/20001036-health-in-chatgpt)区分了连接的健康记录及使用它们的对话与其他对话：前者不用于训练基础模型或定向广告，其他聊天则遵循用户的常规数据控制设置。

主持人讲述另一个个案：一名患者核查拟使用的药物后，向医生提出可能存在相互作用。Singhal 设想为患者和医生提供一种安全网：发现潜在问题后提示专业人员核查，而不是默默假定建议的行动安全。

他提到与 Panda Health 合作的一项研究：AI 副驾驶在医生工作时提出建议，例如提示潜在的药物相互作用。他还设想，未来当慢病患者的化验指标变化时，系统可以提醒医生复核用药。这些是研究例子和设想，并非针对个人的医疗建议。

Rughani 问，个人智能体能否帮助处理预约、保险覆盖、出院指导和账单争议。Singhal 说，分散的病历和工作流程给患者及医生带来阻力。他预计，即使旧软件缺少现代化接口，智能体和计算机操作能力也可能有用。

可信不只是回答听起来准确。Rughani 问，同一个模型如何既向患者解释化验结果，又帮助专科医生理解复杂病例。Singhal 说，团队会针对不同使用者评估并训练回答，包括普通用户、经验丰富的患者和临床医生。

他提到 HealthBench 对沟通的评估，包括专业术语是否适合回答对象。[已发表的 HealthBench 论文](https://cdn.openai.com/pdf/bd7a39d5-9e9f-47b3-903c-8b847ca650c7/healthbench_paper.pdf)介绍了由医生编写的健康对话评分标准，也讨论了评估的局限。基准得分不等同于在日常医疗中已证明对患者有益。

一个棘手情形是：用户希望得到安慰，但症状可能需要不同的回应。Rughani 问，产品如何平衡用户满意度和医疗质量。Singhal 说，安全必须优先，评估也包含这样的情境：即使用户不愿听到，模型仍应建议寻求适当的医疗帮助。

他说，OpenAI 与来自不同专科、语言和国家的数百名医生合作，而不是只依赖少数医生裁定不确定病例。专家之间也会有分歧，因此团队寻找汇总判断的方法，并衡量模型在重要情境中的表现。

如果医生不同意 AI 的回答怎么办？Singhal 说，患者可以讨论分歧，并寻求另一位医生的意见，就像处理其他医疗分歧一样。模型回答只是讨论的一项输入，并不是独立的医学检查。

话题接着转向医学中的不确定性。新论文为指南提供依据，指南还要转化为实际操作；某些领域证据尚不明确，专业人员也可能意见不同。Singhal 认为，信息不足时，AI 系统应该表达不确定性，而不是制造确定感。

Singhal 引用了一些估计，称证据进入临床实践可能需要多年，并希望 AI 在诊疗时提供文献，缩短部分延迟。具体时间取决于证据、干预措施和场景；他提到的 5 至 17 年范围不应视为适用于每条指南或每位患者的统一数值。

Rughani 问，产品如何同时服务患者、个体医生和医疗机构。Singhal 描述了三个层次：改进底层模型、围绕它构建可用产品，以及与合作伙伴共同部署。如果人们无法在实际工作流程中使用系统，仅有优秀的模型表现也无济于事。

他说，安全、隐私和合规是医疗机构采用产品的重要障碍，OpenAI 因此投入企业产品。不同产品和使用场景的要求并不相同：一种医疗产品的承诺不能自动套用于普通消费者聊天或所有连接服务。

Singhal 介绍了与 Epic 的合作，目标是连接医疗工作流程，让医生能够结合病历使用 ChatGPT。他说，这种集成旨在减少反复切换不相连系统的需要。具体访问权限和可用性取决于实际产品和机构。

心理健康带来尤其复杂的问题：用户究竟表达了什么，需要什么样的帮助。Singhal 说，团队与持证心理健康专家合作，制定保护措施和评估复杂情境中模型行为的基准。他承认专家也会有分歧，并把形成共识视为工作的一部分。

Rughani 区分健康信息与实际医疗服务。一个人可能需要处方、检查、化验、影像或专科医生；医疗关系还包含共情和专业责任。Singhal 同意 AI 无法提供这一切，并说 OpenAI 预计会与医疗服务提供者和其他伙伴合作。

他设想 AI 帮助人们安排就医流程，包括预约和其他事务，而医疗服务仍由其他机构提供。他不认为这会在短期内解决所有就医难题，也不认为 OpenAI 会自行管理患者治疗的所有环节。

谈到合作伙伴时，Singhal 提到 UCSF 探索让医生结合电子病历进行病历审阅。他还引用 AdventHealth 在部分行政工作流程中报告的成本下降。这个数字来自合作方的个案报告，并非对整个医疗体系节省金额的独立估计。

主持人问，如果患者看到医生使用 ChatGPT，应如何看待。Singhal 预计随着人们积累使用经验，态度会发生变化，但这个转变尚未完成。关键在于工具如何被使用、核查并纳入临床责任，而不是屏幕上是否出现了模型。

Rughani 问，如果患者和医生都借助 AI 做了准备，问诊时还需要讨论什么。Singhal 强调不确定性、共情、询问病史和身体检查。模型可能缺少关键资料，因此就诊也是收集证据的过程，而不只是确认预先写好的答案。

对于就诊间隙，Singhal 设想通过提醒或提示，帮助人们在情况变化时寻求专业复核。他说，OpenAI 关注健康信息，并不打算独自管理医疗服务的所有环节。任何拟议干预能否改善结果，仍需要评估。

Rughani 提到 AI 在游戏中发现的出人意料的策略，问医学是否也出现过类似时刻。Singhal 以 AlphaGo 对阵李世石时著名的第 37 手作比喻：一个起初意外、后来被发现有意义的洞见。他说医疗 AI 仍处于早期，讨论的是潜力，而不是声称同等突破已经确立。

作为较小的例子，他说一项临床支持研究提示了可能存在的抗生素过度使用。他希望未来系统能分析长期病历，发现人们难以跨多年察觉的风险。这类预测在采取行动前，需要经过验证、恰当的数据处理和临床评估。

Rughani 问，已有数据能否帮助回答补充剂等证据尚不完整的话题。Singhal 看好分析病历及其他数据、帮助科学家筛选并验证想法的潜力。对话并没有证明任何特定补充剂安全或有效。

话题转向医疗智能的成本，以及规模大得多的医疗服务成本。Singhal 称，一个更新、更便宜的模型在专业基准测试中优于此前的模型。他预计达到一定模型能力水平的成本会下降，但基准和模型价格不能衡量整体医疗成本或临床结果。

他明确表示，AI 尚未产生降低整体医疗支出的宏观效果。他认为慢病管理、文书和行政工作可能节省成本，但这取决于集成、部署和实际经济价值，而不仅仅是让模型回答更便宜。

Rughani 提到有关支付方和医疗服务方使用 AI 系统、造成行政军备竞赛的报道。Singhal 希望共享信息和 AI 辅助裁定最终能减少摩擦。这是他对未来的设想，访谈并未证明这类系统在实践中一定公平或能降低支出。

对医疗创业者，Singhal 建议围绕可能迅速进步的模型构建产品，并关注优质医疗服务的最后一公里。他预计合作伙伴会把模型能力与服务、工作流程及患者遇到的实际障碍连接起来。

手术、检查和其他实体干预仍是医疗支出的重要部分。Singhal 认为，更好的信息和预防措施有时可能帮助人们更早获得适当医疗；他把医疗机器人视为更长期的挑战，涉及技术、报销和系统集成。这些是预测，而非已证实的全系统结果。

展望未来，他再次强调两个目标：让可靠信息更加普及，并利用 AI 发掘此前难以获得的洞见或能力。他特别提到主动式助手的可能性，同时表示，除了模型评估，良好的部署和信任同样重要。

被问到五至十年的预测时，Singhal 提到 AI 辅助寻找药物靶点或分子，然后筛选并验证。他指出，临床试验的容量有限。更好的想法本身不能证明治疗有效；建立证据仍需要研究和临床试验。