Alex Lebrun 谈医生 AI 助手、模型局限与 Nabla 的创建

Harry Stebbings 欢迎 Nabla 联合创始人兼首席执行官 Alex Lebrun 做客，讨论 AI、创业和医疗。对于 AI 是否会取代医生，Lebrun 的简短回答是，会使用 AI 的医生可能取代不会使用 AI 的医生：这是一项预测，而非已经确立的结果。

Lebrun 说，二十多年前巴黎的一个夏夜，他开始对聊天机器人着迷。他创立 VirtuOz 制作客服机器人，起初相信它们很快就会足够聪明，能够取代呼叫中心员工。做得越久，他越意识到这项任务的难度。

2004 年为法国铁路公司部署的机器人显示了其中的差距。一名客户说预订上的名字有误，机器人却把“预订上有误”当成了她的名字。Lebrun 说，技术和公众的熟悉程度后来都有提升，他认为市场或许终于准备好了。

Facebook 收购他的第二家公司 Wit.ai 后，Lebrun 在那里工作了四年。坐在总部露台上时，他发现自己的舒适处境与电视剧《Silicon Valley》中的员工相似，于是决定重新创业。他希望把在 AI 研究中学到的东西应用到现实世界。

Facebook 兼具规模和速度，让他感到惊讶。2015 年，他提议招聘 200 名人工服务人员帮助训练机器人，尽管这项计划没有预算。他回忆说，Mark Zuckerberg 在一次简短会议上质疑了这个想法，并在一周内批准。

Lebrun 说，Zuckerberg 为连续的短会做准备时，会要求对方提前提交一份说明所需决定的简报。如果没有在 24 小时前送达，会议就会取消。Zuckerberg 会在会前审阅材料、收集信息，从而迅速作出决定。

为了服务人员的提案，Lebrun 准备好回答各种反对意见。Zuckerberg 却说，如果这个想法可行，他们应该招聘 10 万人，于是 Lebrun 反过来解释为什么团队需要谨慎。不论这是否有意为之，颠倒前提都帮助他更坦诚地审视自己的项目。

Lebrun 说，第三次创业并没有变得更容易：过去的经验能避免一些错误，却也会出现新的风险。他描述了一种“随从陷阱”：两次退出后，投资人和员工过于倾向于赞同他，导致早期决策缺乏足够的挑战。

在 Nabla，这支工程团队最初开设了一家虚拟初级保健诊所，以学习医疗行业。Lebrun 认为这个决定有用但代价高昂；在他看来，公司后来花了太长时间才意识到需要回到企业客户模式。他寻求没有那么强烈迎合动机的外部人士提出批评，也鼓励内部提出不同意见。

Stebbings 问，近期对 AI 的热情源于技术突破，还是多年累积的成果。Lebrun 说，外界看进步似乎是跳跃式的，研究人员看来却更连续：每一波都建立在此前的模型和技术之上。他对具体模型和论文日期的回忆是近似的。

经历过多轮融资周期后，Lebrun 开玩笑说，创业者必须知道什么时候该在融资材料中加上或去掉“AI”。自他在 2000 年代初首次融资以来，投资人的热情已经反复起落；他欢迎关注，也认识到这种周期性。

他不认同建立在基础模型上的应用必然只是没有价值的薄层。LLM 和早期编程语言、数据库一样是一种基础设施，但开发者仍需构建有用的产品，并应对幻觉、非确定性和快速变化的模型。

Lebrun 说，专业知识有助于选择模型、理解其失效之处，并构建配套的机器学习系统。公司需要评估新模型，在不破坏现有用户产品的情况下切换。他对频繁切换模型的预期是 2023 年的一项预测。

谈到 Emad Mostaque 将幻觉称为一种特性，Lebrun 猜测他的意思可能是，语言模型即使缺少事实答案，也会生成看似合理的续写。Lebrun 同意当时使用的模型可能在一年内被替换的预测；这是他当时的判断。

投资人常常强调专有数据，但 Lebrun 认为随着预训练模型改进，它的重要性已经发生变化。他说，Nabla 在患者同意下收集了 3 万次医疗咨询，并付费请医生建立产品所需的数据集；数字和收集过程来自公司的描述。

他解释说，预训练是利用大量文本预测下一个 token，之后再通过微调塑造模型完成某项任务的行为。他以当时近期的 LIMA 研究为例，说明高质量、相对小规模的微调数据集可能发挥的作用。他提醒，研究人员仍在学习这些系统如何运作。

被问及有用的数据集最小能小到什么程度时，Lebrun 说这取决于领域，他不知道极限在哪里。他认为仍需要一些信息来说明期望的行为；他提出的下限是猜测，而非确定的门槛。

谈到新的基础模型公司，他举出当时刚成立的 Mistral，认为极其优秀的研究人员、专注和大规模资金可以让另一家初创公司参与竞争。他说的资金规模以数十亿美元计，这只是投资估计，并非成功保证。

Lebrun 说，在位公司拥有分发优势，初创公司则可能更容易追求全新的产品范式。Stebbings 反驳说，Adobe 和 Notion 等公司行动很快。Lebrun 承认部分在位公司确实迅速，但认为在现有流程中添加 AI 功能，仍可能为更根本的重新设计留出空间。

他对大型公司为何没有更早推出类似 ChatGPT 的产品给出一种解释：巨额投入大型模型的收益尚不确定，个人激励和法律顾虑使项目难以得到优先安排。这是他对这些公司决策的解读。

Lebrun 预测，开放的基础模型最终会作为基础设施胜出，但他提醒，开放权重并不意味着模型透明或可预测。即使训练数据和参数可用，大模型仍可能很难解释。他说，医疗应用需要额外工作来管理这些局限。

Stebbings 问及国家数据集。Lebrun 不确定这是否是正确的组织方式，而认为医疗文本等特定领域数据有其价值。但经过筛选的输入不能保证输出正确：模型可能把不同内容组合成流畅却不符合事实的陈述。

他把 LLM 描述为概率性的自动补全系统。答案自信的形式可能掩盖事实或推理错误，即便模型使用可信材料训练也是如此。他认为，仅移除一个嘈杂的数据源无法消除错误答案。

谈到生存风险，Lebrun 同意 Yann LeCun 的观点，即智能不会自动带来支配欲。他说自己不知道 Geoffrey Hinton 为什么持不同看法。他还猜测了一些呼吁暂停开发者的动机；这些是他的观点，而非已证实的动机。

在 AI 领域工作数十年后，Lebrun 对公众的兴趣既感到自己的判断得到印证，也对有说服力的叙事跑在技术理解之前感到沮丧。他承认一些提出担忧的人有可信度，尽管他不同意许多关于灾难性风险的说法。

他认为，应用已经来到一个重要时刻：人们正在使用 ChatGPT 改变工作方式。但这不意味着聊天机器人已准备好取代所有员工。他说，多年来他先是试图说服客户技术已经成熟，后来又不得不提醒他们不要高估它。

谈到医疗，Lebrun 预测 AI 会改变临床工作，拥抱它的医生将拥有优势。他认为，计算机化往往给临床医生增加了行政义务，而不是让他们有更多时间照顾患者。

他引用估计称，医生有 49% 的时间花在行政工作上，四分之三的人经历过职业倦怠症状。他把文书负担与报销和法律保护联系起来，但访谈没有确立这些数字的来源、涉及的人群或因果依据。

Lebrun 形容电子健康记录系统操作繁琐，并举例称一项临床操作需要点击 227 次，有些临床医生报告更多。他提出的助手会跟随诊疗过程并协助记录，使医生能够专注于患者。

他说，Nabla 捕获诊疗音频以获取上下文，但不保存音频；他设想让助手连接患者记录。他描述了记录系统之间不同程度的互操作性，并说没有 API 时可以通过浏览器扩展程序提供入口。这些是公司的说法，并非独立的隐私或安全审计。

Stebbings 问，提高生产率是否会威胁工作岗位并引发政治反对。Lebrun 回应称，临床人员短缺意味着存在对帮助的需求，并引用了世界卫生组织的一项预测。这段对话没有确立每种职业或医疗体系会如何受到影响。

Lebrun 认为，包括早期 Nabla 在内的许多医疗初创公司，过早追求面向患者的自动化医生。在他看来，技术局限、数据缺失、监管和医疗体系的复杂性使这种跨越为时过早。他更愿意先在现有流程中帮助临床人员，与他们一起学习。

他回忆认识法国急救医生 Patrick Pelloux，后者邀请他整夜观察急救电话中心。在那里，他看到接线人员从焦急的来电者处收集地址和情况描述，然后由医生评估应采取何种响应。他提出的电话数量属于回忆，而非独立核实的统计。

Lebrun 说，接线人员的专长在于安抚来电者并理解复杂情况。他设想让助手一同听取电话并起草记录，让他们专注于来电者。他称早期试用效果很好，这只是公司的个案描述，并非临床效果的证据。

被问到有多少通电话会派出急救人员时，他根据几个晚上的观察估计约为五分之一，并明确表示这不是官方数字。他区分了不同的响应团队和最危急的病例。

Lebrun 说，随着医疗体系面临越来越大的压力，医生对新技术变得更开放。他将医疗服务获取问题归因于临床人员短缺和需求上升，包括慢性疾病与人口老龄化。这是他的总体观察，并非对各国的逐一评估。

Stebbings 介绍自己曾投资一款面向医护人员的通信产品，并问当受益者不掌握预算时如何建立业务。Lebrun 说，支付方、服务提供方和患者的激励往往不同，所以即便产品创造了价值，推广也很困难。

一个小幅改进可能适合现有流程，而雄心勃勃的重构可能因过于颠覆而难以销售。Lebrun 建议医疗创业者寻找平衡：产品要足够贴合现实以便获得采用，同时不能放弃更大的抱负。

他对医疗初创公司的第一个问题是谁付钱。他说，Nabla 的急救电话助手愿景面临困难的公共部门采购流程，而文书记录是美国医疗服务提供方的一个重大问题。他提醒，无休止的试点可能耗尽初创公司资源，却无法带来实际部署。

Lebrun 说，当时美国已有数千名医生每天使用 Nabla。公司提供网页应用和浏览器扩展程序，让医生个人可以试用，再向诊所推荐。使用人数和市场进入方式都来自创始人的描述。

被问到 AI 创始人是否必须身处硅谷时，他回忆在那里认识了 Siri 联合创始人 Adam Cheyer，并获得信心拒绝针对 Wit.ai 的早期收购报价。他认为人才现在更加分散，建议创始人靠近客户；早期建立人脉的经历对他仍然很重要。

Lebrun 称赞法国的数学教育和 AI 工程人才，但认为法国历来不擅长把公司做大。拒绝一个足以改变人生的收购报价很难，首次创业者尤其如此。他希望更多成功的成长型企业为下一代提供榜样。

在这场 2023 年的访谈中，他严厉批评一项拟议的欧洲 AI 监管措施，认为有关训练数据的要求可能使模型开发难以进行。他明确指出该措施当时尚未最终确定。他对提议及其潜在法律影响的理解是个人观点，并非当前法律的说明。

Lebrun 不赞成立即监管，主张先等待一两年，从实际应用中学习，并让模型开发者、用户和公众参与。他说有必要监管并关注真实风险，但认为时机和与实践的联系很重要。

谈到中国，他猜测获取大量数据可能是一项优势，而更加封闭的环境和研究激励可能带来不利影响。他对中国医疗数据获取情况的说法属于推测。他认为美国处于有利位置，但移民限制可能妨碍吸引分布各地的人才。

在快速问答中，Lebrun 预测 AI 会让新进入者挑战现有企业，并给出五年的时间范围。他还希望 AI 研究领域更加多元。这些是他当时的预测和观点，并非企业会按这一时间表被取代的证据。

他回忆 Facebook 曾有一个图像模型看似识别出网球，实际上依赖周围环境；改变图中人物的特征可能改变其分类。他说一位塞内加尔研究员发现了这一问题，并认为不同视角有助于揭示模型偏差。这个例子来自他的回忆。

Lebrun 预期 AI 对媒体内容生成的冲击会大于对调查报道的冲击。在个人层面，他说人可以成长并改正弱点，但他学会了不要假设人的基本特质一定会改变。两者都是他的判断，而非普遍规则。

他认为，人们误以为聊天机器人有意识是常见误解：流畅的回答可能让人推断系统具有理解能力或感知。他以早期的模式匹配聊天机器人 ELIZA 为例，说明呈现方式如何造成这种印象。这是他对历史和技术的解读。

被问到怎样才是好的风险投资人时，Lebrun 说这取决于创始人和所处阶段。在 Wit.ai，他重视 Andreessen Horowitz 在需要时迅速提供帮助，同时让他掌握主动权。在职业生涯更早期，他则希望投资人更主动地指导战略和市场进入上的错误。

他说欧洲风险投资已经改变，并比较了他在欧洲遇到的投资人的金融背景和许多美国投资人的创业背景。这是他个人经历中的比较，并不代表两个地区的所有投资人。

展望 2033 年，Lebrun 希望每位医生都有一名 AI 助手，并设想 AI 帮助在城市规模上分配急救资源。他提出医生的效率可能提高十倍，这是一种愿景和预测，而非测量结果。

他的梦想是从零开始建立一个医疗体系，涵盖患者体验、服务提供者、医院和数据驱动的预防。他说自己仍需学习大量医疗知识，也需要可观的资金。Stebbings 向他致谢，对话结束。