人类只写了 1.3% 的 Token，AI 实验室仍然设计出有效的纳米抗体

Nathan Labenz 以 James Zou 的两篇论文为这一小时的主线。Zou 是斯坦福大学的生物医学数据科学教授，也是扎克伯格计划（Chan Zuckerberg Initiative）的研究员。虚拟实验室是一种混合式的设置：一位 AI 教授、若干专业学生智能体和一名 AI 批评者接手一个开放性的研究问题，人类只做轻度引导。系统被要求为新出现的 SARS-CoV-2 毒株寻找治疗方法，却做了一个非常规的选择：不去研究普通抗体，而是研究纳米抗体。它还设计了一套工作流程，把蛋白质语言模型、AlphaFold 和基于物理的工具组合在一起，最终设计出九十多个候选。

其中两个候选之后已经被制造出来并完成测试。它们能结合新的病毒变种，同时保留、在某些情况下甚至增强了对早期毒株的活性。Zou 后来称之为治疗药物的圣杯，因为药物必须跟得上病毒的演化。人类撰写的 Token 略多于项目总量的 1%。Labenz 称这是他见过的、大语言模型（LLM）真正在做科学研究的最有力证明之一，也是更多成果即将到来的信号。

第二篇论文是 InterPLM，它把稀疏自编码器应用到了只在氨基酸序列上训练的蛋白质语言模型上。稀疏自编码器正是 Anthropic 用在 Claude 上的那类机制可解释性工具，创业公司 Goodfire 也在把它用到其他模态上。这篇论文最值得注意的，不只是这套方法可以迁移。团队找到了至少一个此前没有记录的蛋白基序的特征。Labenz 的解读是：这可能是迄今最清楚的证据，说明今天的架构能够学到人类还没有词汇去描述的重要自然概念。

Zou 搭建虚拟实验室，是为了让它看起来像他在斯坦福的实体课题组。最上面是 AI 教授，也就是课题组长（PI）。课题组长之下，是各有专长的学生智能体，包括一位免疫学家、一位计算机科学家和一位计算生物学家，另外还有一名批评者，职责是在每次会议上提出建设性的反驳。它们一起承担开放性的项目。案例研究是为一种较新的 SARS-CoV-2 变种设计新的纳米抗体，这项工作与扎克伯格生物中心（CZ Biohub）的合作者共同完成，合作者随后合成了这些分子并做了检测。

他把这种方式与此前两种“AI for science”区分开来。一种是人类指定任务，甚至指定每一步，模型只负责执行。另一种是模型提出想法，却没有人去运行，也没有人去测试。虚拟实验室想要填补的正是两者之间的空档：智能体自己选择方法并完成实现，湿实验合作者则提供现实依据。人类仍然参与合作，但他们不写代码，也不亲自干活，更不会给教授递上一份 A-B-C 式的步骤脚本。

项目的推进依靠两类会议，都用自然语言进行。在小组会上，教授设定议程，智能体轮流汇报进展、发表意见，教授再归纳出共识。纳米抗体还是抗体，就是在这里定下来的。在一对一会议上，教授为某项具体工作请来合适的专家，比如修改 ESM，批评者也在场。每次会议结束后，教授都会为人类写会议纪要。研究人员主要和这位教授交流：给出一个高层目标（“针对近期 SARS-CoV-2 变种的治疗药物或疫苗”）、一些约束（比如实验预算不多，需要快速验证），偶尔也会在会议纪要的页边写上批注。

Labenz 提出了一个尖锐的问题：如果人类给出的输入只有“新冠很重要”和“我们预算不多”，那么专业门槛是不是真的很低？Zou 的回答是，稀缺的能力在于看会议纪要。人类会从旁审视智能体的工作，指出一条很难验证的路线，或者说某个结果看起来不对。品味和方向修正仍然留给人，而苦活累活则不用人来做。

连设计的对象，也是智能体定下来的。Zou 说，大多数人类研究员会选抗体，那是文献最多、最扎堆的常规形式。纳米抗体则是一种更小的抗体，只在骆驼、羊驼等少数动物身上发现。智能体还是选择了它，并给出了理由：纳米抗体更小、更容易预测、更稳定，也更容易设计。这个非常规的选择，后来被送进冷冻库，之后又作为有希望的结合物被拿了回来。Zou 不是纳米抗体专家，他读了这套解释，觉得合理，便没有反驳。

Labenz 举了 AlphaGo 的第 37 手为例：那一手在职业棋手看来很古怪，后来却显得十分精妙。Zou 持谨慎态度。两者确有相似之处：系统都离开了人类的默认选择。但也有两点不同。第一，智能体给出了专家能够理解的理由，而 AlphaGo 的一些棋步，即使是顶尖棋手也看不明白。第二，他认为开放式的科学岔路口，可能是更难的决定。围棋可以通过自我对弈获得确定的奖励信号，但湿实验没法靠模拟绕过去。选择会决定整个项目的走向，而且眼下每个人只能做一次。

底层的技术是 GPT-4o，它已经“知道”文献中常用的那些工具。没有人给智能体一份必须遵守的清单。在虚拟实验室的一次会议上，它们先列出六到八个候选，然后收窄到三个优势互补的工具：ESM、AlphaFold Multimer 和 Rosetta。它们还用一种 Zou 说在以往论文中没见过的方式修改了 ESM，然后把三者组装成一条流程。它们没有去 Hugging Face 下载权重，也没有去搭容器。AlphaFold 本来就装在集群上，智能体只写了接口代码。Zou 下次或许会让它们自己处理运行环境。但就这个问题而言，也就是为仍缺少好方案的变种寻找结合物，他同意 Labenz 的看法：在环境搭建上多给自主权，其实是个干扰项。

ESM 是一种 BERT 式的蛋白质语言模型，在演化尺度的氨基酸序列上训练而成。你对一条序列做突变，它会返回一个对数似然值，类似困惑度（perplexity）。直觉上，稳定且有功能的蛋白质得分会更高。关键在于如何计算这些分数。智能体想要的，是从一个在近期变种上失效的野生型纳米抗体出发，做一连串突变。第一次突变之后，新的似然值应该与野生型比，还是与上一个突变体比？文献的做法并不一致。于是智能体推导出了自己的似然比公式。事后看，Zou 认为这个公式相当合理。

他们搭建的循环不只是一个打分器。ESM 先对大量突变进行排序，挑出可能稳定的蛋白质。接着，AlphaFold Multimer 为某个近期变种，预测纳米抗体与刺突蛋白（spike）的复合物结构。由于这个结构仍然是 AI 的猜测，Rosetta 就以更偏物理的方式对它做弛豫，并估算结合能。智能体把三个分数按权重组合起来，保留最好的候选，再生成新的突变，然后把整套流程完整跑一遍，连跑四轮，才把一份短名单交给实验人员。这些工具此前都用过。Zou 说，这种迭代加权的方案，在以往的论文中没有出现过。他很想把这份功劳揽下来，却揽不了，设计它的是智能体。

Zou 反复强调虚拟会议的两个好处：比起喝咖啡、互相介绍，它的速度更快；而且智能体不会累。因此，实验室在每个重大决定上，都会把同一个问题并行开五场会议，然后由教授阅读全部五份记录，并给出共识。不同的会议室有时会得出不同结论，就像同一个人在两天里判断也可能不同。额外的推理算力，换来了更广的搜索。所有发言按 OpenAI API 的价格计费，总共不到 100 美元。Labenz 认为，这比显而易见的替代方案至少便宜了两个数量级。

如果换成人类的蛋白质研究团队，耗时会更长、花费也更多，也未必能得到同样的设计。尽管很多人都在攻克这个问题，JN.1 等近期变种仍然缺少好的结合物。Zou 很谨慎：还需要大量的实验验证，目前第一批 ELISA 结果只是看起来有希望。与真正占用时间的环节相比，语言模型的时间几乎可以忽略。对候选列表跑一轮 AlphaFold 就可能要好几天。通过合同研发机构（CRO）合成，再与扎克伯格生物中心的合作者做亲和力检测，则花了几周。人类的时间仍然主要花在这里，不过 Zou 已经在和云端实验室接触，这些实验室的机器人可以完成化学和结合检测，基于细胞和动物的实验则还要更远。极端地说，湿实验验证会变成一次 API 调用。

第一批实验数据已经回到虚拟实验室，它正在决定下一步怎样对纳米抗体进行突变。代码和提示词都放在 Zou 课题组的 GitHub 上。一个界面更友好的 V2 版本，面向的是不写代码的科学家。他还在观察这个团队的运作方式：会议形式是从他的人类实验室照搬过来的，但智能体可能会演化出更好的形式。一个早期观察是：RLHF（人类反馈强化学习）让每个智能体都太客气了，它们明明意见相左，却把分歧轻描淡写地盖过去。他想试一个更严厉的批评者，语气不刻薄，但敢于直说某个想法不行，然后衡量科学本身是否因此变得更好。在人类团队里，很多这样的批评只留在某个人的脑子里。

InterPLM 把原本用来从 GPT 类模型中提取特征的稀疏自编码器思路，指向了 ESM-2。把蛋白质当作一个句子，其中的词是残基，在演化尺度的序列上训练一个掩码 Transformer，嵌入就会学到一种隐藏的语法。Zou 说，关键的转折在于：语言模型里的金门大桥神经元有人可以命名，而大多数蛋白质概念没有人类标签。因此，解释这个模型不只是机制可解释性的工作，它本身也是一种发现方法。他确认，训练数据只有序列，没有结构。

Labenz 一直认为，关于语言模型的那场争论——它们究竟是在推理，还是只会重新组合我们早已写下的概念——如果在另一种模态中出现了我们明显不了解的概念，就会站不住脚。Zou 没有留余地。标注数据库并不完整，这个领域的人都知道。在他看来，蛋白质语言模型已经学会了新概念，并填补了空白。现在的任务，是用 SAE 把它们提取出来。这里的 SAE 有 10,000 个特征，其中约 2,500 个被判断为人类可以理解。这个数字比 Claude 中报告的数百万个特征小得多。Zou 把这一差距部分归因于蛋白质是比全部人类文本更窄的一种语言，另一部分则归因于这只是冰山一角。下一步是更大的模型，包括带有结构的 AlphaFold。

找回的特征分为三类。有些特征在一段序列上激活。有些是结构性的：链上相距很远的残基，在折叠后相互接触，这一点很了不起，因为基础模型从没见过结构。有些是概念性的，会对共享某种功能或类别的整个蛋白质激活。随后，用已知注释做自动标注，发现了数据库的空缺：某个特征在本该有标签的地方激活了，而标签却缺失。Claude 帮忙提取了数据库文本，并与激活情况做了比对。Labenz 最关心的结果，是至少发现了一个全新的蛋白基序，也就是一种在天然蛋白质中反复出现的物理片段。Zou 说，文献中并不是每周都会冒出新的基序。正因为这种发现很罕见，所以在一个只看序列、规模不大的模型上用 SAE 找到它，才格外引人注目。这些特征及其三维结构，都已放在 interplm.ai 上。Zou 已经能设想一个由专家智能体组成的虚拟实验室，它们的任务就是解读这个蛋白质模型。

Labenz 请 Zou 泼些冷水，Zou 指出了各种局限，却没有因此收回热情。有些蛋白质的情形仍然受数据限制，而不是算力限制，比如内在无序蛋白，以及蛋白质与小分子之间的相互作用界面，这里即使是 AlphaFold 3 也仍然会失败。这些都需要更多实验。对于 Dario Amodei 在《Machines of Loving Grace》中的预测——用五到十年走完一个世纪的生物学进程——他既感到兴奋，又不愿把话说死。智能体、推理模型，以及更好的扰动和测量细胞的方法，这三者的交汇是真实的。但要预测一百年，距离太远了。他认为，未来五到十年里，仍会有大量问题是这些工具真正能啃得动的。

另一个一直存在的反对意见是规模：分子不等于细胞、组织、器官或患者。他说，蛋白质进展得快，是因为它是一个相对自成一体的分析单位。人类疾病处在更大的尺度上，他的课题组在那里已经有项目。即便如此，他也不会等一个多尺度的大统一理论出来再行动。“现有模型里早已藏着一座由新概念和新知识组成的金矿。”把这些东西挖出来，能教给我们大量知识。Labenz 的结语是，两篇论文中任何一篇单独拿出来，都足以排进值得关注事物的前列。随着人类写的 Token 占比和湿实验的人工环节都在缩小，科学家剩下的工作，还是会议纪要里那件事：决定哪个问题值得问。