算法已经更好，诊所却还在用 1967 年的标准

Regina Barzilay 对 Lex Fridman 说，她的大部分时间都在 MIT 里度过，所以她对世界的很多了解来自书，而不是来自广泛的人际交往。被问到计算机科学之外，有什么东西改变了她，她提到《万病之王》，一本讲癌症治疗和药物是如何研发出来的历史书。虽然她已经身处科学行当，这本书还是让她看到：发现的过程有多不精确，现有的解决方案有多不完善，一个想法究竟靠什么才能成功并被用上。她说，有时候，“起作用的往往是那个想让它落地的人的执着，想法本身的优点反倒次要”。

她补充说，这份执着在局部上有用，即便从长远看未必如此。在自然语言处理领域，统计方法之所以花了很长时间才成为主流，部分原因是一些有名望的人不相信它们，并拖慢了工作的进展。Fridman 把话题拉回那本癌症史的书，她讲述了一条大多数计算机科学家从未见过的脉络：十九世纪德国和英国的染料化学，研究者注意到某些分子会对细胞产生作用，而后这条线索一路通向了药物研发。

化疗相关的章节就没那么鼓舞人心了。其中一些药物是在波士顿研发的，涉及 Farber 博士和 Dana-Farber 相关的工作，而实验中出现了“一些计算失误，可以这么说”。他们在患白血病的儿童身上试用疗法，孩子死了；团队随后又尝试了另一种改良方案。回望六七十年前，她能理解这种混乱。真正让她震惊的，是同一本书里那些只发生在几十年前的事。她说，我们“仍然没有一种载体”，能让这个过程“快得多、也有效得多”。

Fridman 从工程师的角度问，我们离真正理解人体、足以操纵它并治愈疾病，还有多远。Barzilay 把问题反过来问。她说，计算机科学之所以能在它成功的那些领域取得成功，一个原因恰恰是它并不真的想去理解。亚马逊推荐一本书时，并不理解你；它只是在匹配你行为中的模式。传统营销则把人切成若干细分群体，给每一类人概括特征，再为每一类设计策略。推荐系统并不做这样的宣称。

在她接触到的传统生物学里，机制层面的理解占据了极大的权重，比她从计算机科学出发时想象的还要多。考虑到系统的复杂性，这些过程能否被确定性地、完整地解释，也许已经超出了人类的能力。人脸识别和推荐都是概率式的匹配。她认为，在某些情况下，“或许我们根本不该试图去理解”；也可以一边尝试理解，一边并行地做匹配，去找到治疗方法或更早的诊断。

她知道，在生物学期刊和医学界，“理解”是一个很重要的词。她仍然想弄清楚，这个词在这里究竟应该指什么。Fridman 提出了老式符号 AI 的梦想：把人类知识压缩成逻辑，并以人能解释的方式去摆弄这套逻辑。Barzilay 明白这个梦想的美妙之处。双方都认同，今天看起来有效的做法，是把你关心的问题化约为数据，再运用统计方法。

Barzilay 在 2014 年被诊断出乳腺癌。Fridman 问，直面死亡改变了她什么。她说，自己已经接受过很多次采访，但从没有人问过这个问题。那时她 43 岁。那是“我这辈子第一次意识到，我可能会死”，而在此之前她从未想过这件事。大约两个半月里，她不知道自己处于什么位置。检查结果一个接一个地来，一个看起来很糟，下一个又不那么糟。在弄清实际情况之前，她把每一种可能的结果都想了一遍。

她记不清乐观和恐惧之间是否有过一条清晰的界线，用她的话说，那是“很多成分”混在一起。每一个结果都会带来一阵希望，又带来一阵绝望。治疗结束后，她回到 MIT 时，脑子“还不太在状态”，但仍在授课。她看了看自己团队在做的事，也看了看其他团队在做什么，发现很多都是琐碎的东西：有人靠两三个百分点的提升来建立自己的职业生涯。她当时还在研究真核生物的一种“没人会说的语言”。走出 MIT 的时候，遇到的人会问她下一篇论文写什么，而她看到了那些痛苦，那些她过去每天都被“完全屏蔽”在外的痛苦。

这种转变不只是情绪上的，也是务实的。她的研究生们想要论文，想继续那些已经进展顺利的工作；而她刚刚重新评估了什么才算重要。回想起来，她记得十年前主题模型（topic model）是最热门的东西，出现了“数以百万计的论文”和各种变体，而其中大部分如今已经不相关。你以为重要的东西，会慢慢消退。她认为，因为时间有限，你必须花时间弄清楚什么对你真正重要，而那未必是科学界其他人认为重要的东西，然后去追求那个愿景。

放疗意味着每天都要去医院。她看到一群病友，他们中很多人病得比当时的她还重，却仅仅因为那一天感觉好一点，就能感到开心。在日常生活里，身体舒服是理所当然的：你想去跑步，就去跑；你或多或少能自由地支配自己的身体。她的社群，就变成了这些病人。

朋友 Dina Katabi 带她去波士顿的 Prudential 购物中心买生日礼物，那是几个月来她第一次和别人一起出门。购物的人们快乐地笑着，在她看来却“完全疯了”，把钱花在“愚蠢的礼物”上。他们可能会死；他们可能已经得了癌症却不知道。当然，她一直“知道”自己会死，那只是一个理论概念。一旦致死性变得具体，她就觉得“我们需要把我们在这里拥有的大量才智”，转化成有用的东西。

Fridman 给这个使命列出了数字：美国每年约有 170 万（1.7 million）例新增癌症病例，约 600,000 人因癌症死亡。他说，减轻这些痛苦，是研究生涯一种美好的用途。Barzilay 不愿给出文明何时能够“治愈癌症”的时间表。她无法做出这种评估。她相信，机器学习能做到的，是让多种癌症被更早地预测到，并让现有治疗更有效地使用。

她也希望，AI 加上药物发现，能比现在的研发管线更快地找到相关分子。她不确定的是，医学界和监管机构需要多久才能跟上，并真正把这些东西用起来。她说，这种延迟，是目前还没有解决的拼图中很大的一块。

早期发现很重要，因为对很多癌症来说，越早发现，结局就会大不相同。最残酷的例子是胰腺癌：绝大多数患者是在不可治愈的阶段才被发现的，因此五年生存率只有几个百分点，“基本就是死刑判决”。如果早期发现，就有办法治疗。她认识一些人，因为食物中毒去了急诊，扫描中发现了早期迹象，那次意外救了他们的命。

随着工具越来越好，许多有可能患病的人，就能被及时发现，而不是靠碰运气。深入这个领域，也让她认识到，癌症不是清单上唯一的恐怖。神经退行性疾病和与衰老相关的疾病仍然缺乏好的解决方案；我们之所以盯着癌症，部分原因是它实在太普遍。她说，计算机科学家们一直默认，治疗这些疾病是别人的事，是生物学家、化学家和医生的事。这个假设是错的。“我们所有人都需要加入这场战斗。”

对很多癌症来说，我们仍然不知道某个人患病的可能性有多大。对绝大多数患者，尤其是年轻患者来说，确诊往往是一个意外。在乳腺癌里，“80% 的患者是家族中的第一人”。Barzilay 就是其中之一。她从来没有想过自己的风险会增加，因为家里没有人得过这种病；在她的印象里，这是一种遗传病。

就连临床上使用的那些简单统计模型，也给不了她一个真正的答案。同样的盲区也存在于胰腺癌、不吸烟者的肺癌，以及许多其他疾病中。在她看来，机器学习的任务是利用已经存在的数据：影像、其他检查，以及以后的液体活检，来判断谁更有可能易感。单一信号对人眼来说可能太弱。在大量数据上训练、整合多种来源的模型，则能更早地发现问题。她说，这种规律在乳腺癌中已经能看到，其他团队也在其他疾病中报告了类似结果。

这一切归根结底都是数据，而数据恰恰是这场战役最难看的部分。她决定要研究这个问题之后，拿到访问权限花了两年。她说，在美国，没有一个公开可用的现代乳腺钼靶片数据集，研究者不能直接注册然后下载。它并不存在。医院有自己的收藏，部分数据来自临床试验，但一个只想在影像上跑个模型的计算机科学家，那就只能碰壁了。

她提到的唯一公开资源，是一个 1993 年的胶片乳腺钼靶片数据集，它代表不了现在的设备；在上面学到的东西无法推广。数据在医院手里，由医院决定研究者能不能拿到。虽然有正式的伦理审查（IRB）流程，走完每一步最终也能拿到访问权，但实际上，社区里很少有人能顺利拿到，因为流程实在太难。

这些影像本来就以正确的格式存储在数字系统里，不需要额外的扫描步骤。瓶颈不在技术，而在法律责任。医院在法律上对数据负有责任。如果把数据交给错的人，它要承担很大的损失；而如果交给对的人，作为一个法律实体，它也未必能得到什么好处。

她的具体建议，听上去很像驾照上的器官捐献勾选框。每当有人去医院，都应该能很容易地选择，以某种粒度为研究捐出数据：只要检验结果，只要乳腺钼靶片，或是整份病历。“我们所有人都会从这些洞察中受益。”陷阱是大家都熟悉的：人们希望自己的数据保持私密，同时又希望其他人的数据被用起来。她说，如果病人能自己设定这些权限，那会是一个改变游戏规则的举措。

隐私担忧是真实存在的，要让大型数据集帮助那些心存担忧的人，信任必须先解决。Barzilay 把答案分成技术和社会两方面。在影像上，去标识化（去掉面部和姓名）已经相当有效。自由文本则很难可靠地达到 99.9%。一条更值得关注的技术路线（其中部分在 MIT 研发）是在编码后的数据上学习：在本地编码图像，只用编码训练网络，把结果送回医院，再在那里解码。学习是在编码形式下进行的。这项工作仍处于早期，但她认为这个方向会有进展。

即使在今天，有些数据也可以干净地分享，比如去掉姓名的实验室数字。更大的问题仍然是，医院几乎没有把数据交出去的动力。她记得自己在需要做决定、却没有信息可以依据时的那种感受：你觉得“你的生命攸关，但你就是没有信息”。讲座之后，有女性用同样的处境给她发邮件。几乎每周都有乳腺钼靶片寄到她的办公室，来自那些需要做出改变人生决定的人。她并不开诊所：实验室跑统计，再把结果寄回病人的医生那里。

“我们所有人，在某个时刻，或者我们所爱的人，都会遇到需要信息来做出最好选择的情况。”如果这些信息不存在，你会感到脆弱，无人保护。Fridman 问，病人能否拿着一个 U 盘离开，或者像微软和谷歌健康（Google Health）曾经承诺的那样上传病历。她认为，由病人掌控的数据交换是正确的方向：今天，寄一张乳腺钼靶片，仍然意味着找一个小医院的办公室，使用一种几十年前的机制。他指出，两个面向消费者的健康云项目都已经关停。她无法完全解释，为什么医疗 IT 这么少成功，她觉得从人类学的角度看，这种落地上的失败几乎和模型本身一样值得研究。

即使研究者拿到了数据，通常也不清楚，什么样的证据真正能改变诊疗标准。传统的乳腺癌风险评估使用“密度”：大致就是乳腺钼靶片上看到的白色区域有多少，把它视为致密组织的标志。这一想法可以追溯到 1967 年，当时一位名叫 Wolfe 的放射科医生回看那些已确诊的女性，问哪些影像特征本可以预测这一结果。他把人眼能看到的东西编成了四个类别。这些类别至今仍在使用。

2019 年，这种密度评估被写入联邦法律，由特朗普总统批准，前任 FDA 局长推动：医疗机构必须告知女性，如果乳腺致密，她们就属于高风险类别。在一些州，保险会据此支付额外筛查的费用。这背后有多少生物学或流行病学的科学支撑？40% 到 50% 的女性乳腺致密，因此大约 40% 的患者在筛查后被告知自己是高风险。她问，如果把一半人口都标成高风险，那她自己是不是就不算高风险了？而且，既然系统无法为这么多人提供昂贵的后续检查，她们究竟该怎么办？

密度之所以成为大事，是因为患者们施加了压力。许多女性的乳腺钼靶片“正常”，后来却被发现癌症已经相当发展；她们无从知道谁真的有风险，也不知道医生说的“你没事”究竟意味着什么。十五年前，密度可能是当时能找到的最好科学，而它也花了十五六年才成为联邦法律。如今它已成为标准。而深度学习模型能更准确地预测谁会患乳腺癌，因为它被训练去看影像，并预测一到五年的风险。机器系统性地找到了 Wolfe 的眼睛想要捕捉的那些规律。

替换密度要多久？“这不是算法的问题。算法本身已经好了几个数量级。”真正的问题是：你需要说服谁，需要多少家医院来做实验，推广是怎样发生的，以及如何向全国的女性解释，新的指标确实更好。让模型再进一步，解决不了这些。她正在读的书是 Elisabeth Rosenthal 的《美国病》，是她的临床合作者 Connie Lehman 博士推荐的；Barzilay 原以为自己已经了解美国的医疗体系，而每一页仍让她惊讶。对于进入医学领域的计算机科学家来说，教训在于激励机制，以及要拿出诊疗中实实在在的改变，别靠“杀死癌症”之类的噱头。

检测只是工作的一半：你还需要药物。截至 2019 年的这次对话，Barzilay 说，还没有一种由机器学习模型开发的药物，也没有哪种药物中模型起过很重要的作用。生成具有目标性质的分子，并用于筛选，在她看来仍是一个重大的未解问题。她承认，诊断和影像领域的工作，大多是拿别处的想法稍作调整。药物设计则不同，它在技术上很值得研究。

小分子——仍然是大多数药物——本质上是图：原子是节点，化学键是边。你可以在二维或三维中处理它们。在没有机器学习的情况下，业界用的是高通量筛选：你想要某种生物活性，就在实验室里实际测试数十万种化合物，保留命中的那些。然后化学家凭借专业知识，修改起始分子，以提高溶解性、降低毒性、减少副作用。他们的创造力决定成败，目前获得 FDA 批准的药物，就是这样设计出来的。

从成本看，这个过程高得令人望而却步。从时间看，很多疾病至今仍没有任何药物，特别是神经退行性疾病项目，充斥着晚期失败，在财务上是灾难性的。这是最有效的机制吗？“绝对不是。”但它是目前唯一能用的。她接触过制药行业的人，对他们的敏锐和观察科学的深度印象深刻。她仍然希望改变这个过程，因为即使是最有经验的化学家，也无法记住从数百万个分子和反应中可以学到的东西。

她的团队做出的第一个工具，用于预测给定分子的性质。早期工作使用人工设计的分子指纹（把图拆成子结构）加上前馈网络，但这还不够。你需要能够自己归纳表示的模型，把图映射成嵌入，再进行预测。更雄心勃勃的一步，是像机器翻译那样修改这个嵌入：从一个分子出发，生成一个改进的版本。性质预测已经做得相当不错。他们现在已经在生成分子，并且真的把它们合成了出来。

Barzilay 1997 年开始做自然语言处理，正好赶上统计方法开始进入 ACL。她的英语当时还不太流利。一半的论文是基于规则、重语言学的方法，只用于小领域；另一半是最早的基于语料库的论文，按后来的标准看很简单：收集一些统计数据，然后做预测。她觉得，同一个群体对同一个问题能有如此不同的想法，很令人着迷。她的第一篇论文只有一个公式，没有评估，只有一些输出示例，而这就是当时这个领域的标准。

此后统计方法占据主导，基础任务上的性能都在提升。可惜的是，语言学基本上退出了舞台；你得翻遍论文集，才能找到认真引用语言学文献的论文。这是损失吗？她不这么看。如果系统能完成功能，“可解释”到底意味着什么？计算器的计算方式和你不一样，这没有问题。要求机器必须像我们一样理解，几乎是不公平的，因为训练时缺失了太多其他信息来源。重要的是交付的结果。

1997 年她来到以色列时，机器翻译在她看来和登月、在花园里盖房子、然后从此幸福地生活一样不可能。她无法想象十年内会出现能用的系统。如今，每天使用翻译已经没人觉得奇怪了，这是对其他方法从未解决的问题的巨大进步。语言学家曾试图编写句法树、寻找正确的表示，但进展不大；而使用其他信号的模型却做到了。她并不天真：换一个领域，或者缩小训练集，模型会做出“古怪又可笑”的事。她把这视为泛化问题，是一个技术问题。

真正让她不安的是脆弱性。年复一年，在她的自然语言处理课上，报纸上的希伯来语翻译得很漂亮；而一位朋友发来的芬兰卡累利阿派食谱，却读不懂，因为食谱在训练数据中只占很小的一部分。被问到是否愿意和神经网络聊一个小时，她说：“天哪，不要。”她在中国参观时，看到一个据称能进行四个小时对话的聊天机器人，这让她想起 Joseph Weizenbaum 在 MIT 做的伊莉莎（ELIZA）：靠字符串匹配，几乎没有句法，却有一位秘书坐在它前面聊上好几个小时。Weizenbaum 停下了这项工作，他对“只要有一点理解的迹象，人们就会自己补全其余部分”感到震惊。Barzilay 说，这个教训与其说在于技术有多好，不如说在于“我们有多愿意相信它能交出好成果”。

被问到一个刚好够不着的基准测试时，她提到的是小样本学习（few-shot learning），没有去列举某个更炫的下游任务。在她看来，用寥寥几个例子把结果从 55 提到 65 的论文，并没有做什么现实中真正有用的事。真正的门槛，是能以一种可泛化的方式从少量样本中学习，并且足够自主，能为一个新任务或新语言找到所需的数据集。这一点，领域仍然没有做到。谈到“人类水平的智能”，她区分了两件事：复制人们理解不深的内部机制，以及在许多领域交付人类水平的功能，同时保持持续学习的能力。后者是可以衡量的，这让她感到兴奋：在她的有生之年，她已经看到许多功能上的巨大进步。

另一种框架是：不完美的人脑借助更强的工具被加速。她提到《献给阿尔吉侬的花束》，书中一场“奇迹”改变了主人公的心智，有些能力大幅提升，另一些则大幅下降。她说，计算机增强的认知，就像汽车带我们去到从未去过的地方：我们能不能想得不一样，想得更快？Fridman 提到了 Neuralink 的脑机接口演示。她更感兴趣的是一个更小的事实：人们常常不知道自己的注意力已经飘走了。一个基于视线的辅助工具，可以在你写论文却想着晚上的事情时轻敲你一下。她已经知道测量有多容易让人上瘾。她的健身房会发放积分和等级，她起初笑话这些东西，后来却花了十八个月守着这个等级：受伤了也跑，等能跑了，就把“巨量”的训练压进两天，因为她不肯失去排名。

教学是最后一条职业线索。她在 MIT 开的一门大型机器学习课，原本面向计算机专业的学生，随着这个领域变热，非专业学生涌了进来，其中很多人把机器学习和挣扎、失败联系在一起。她开设了一门新课，名为《机器学习：从算法到建模》，面向计算机专业和非专业学生，她也质疑标准课程是否真的需要讲二十种分类器。障碍不在于 Python，而在于数学符号：大 O 记号、线性代数、概率、多元微积分，这些符号根本不在外来学习者的词汇里。实习生回来后很惊讶，自己可以把机器学习用到她从没想过的问题上；突然之间，一切都成了“奇迹”。

给新人的建议分两部分。如今各种数学水平都有对应的资源，你总能找到用你的语言讲解的老师；更重要的是选一个你真正在乎的领域，比如治愈癌症、自动驾驶之类，那里有数据，你相信存在强烈的规律，而我们还没有把工作做好。至于这一切的意义，她没有一个全局性的答案。每个人内心都有一套重要的东西，而我们忙着顺从，听不到它。年轻时，使命是外在的：达成这个，成为那样。现在，她做的很多事情都与认可无关。“对我来说最重要的，是忠于自己。”虚荣心偶尔还是会冒头。她在独处中找回自己，也在那些提出正确问题的书里找回自己。