20 原子晶体教会 AI 心跳的物理学

Cognitive Revolution 节目主持人 Nathan Labenz 请来了 Orbital Materials 的创始人兼首席执行官 Jonathan Godwin，以及曾经做过嘉宾、后来已加入公司担任研究员的 Tim Duignan。Labenz 估计，大多数听众都关注 AI 的热潮，却几乎没人关心材料。Godwin 从半导体说起。电路是刻在硅晶圆上的，沟槽窄到一粒灰尘就可能让芯片报废。因此，需要一种既不导电、又足够小、能塞进这些细小结构之间并把碎屑挡在外面的材料。业内称之为低 K 材料（low-K）。他说，这类材料的性能如果不能逐年提升，晶体管就装不下更多，AI 也就无从谈起。

照他的说法，整个硅谷的技术栈都建立在这类工作之上。材料科学就是“最早的科技创业公司”，21 世纪只会比 20 世纪更加如此：更多芯片、飞往火星的飞船、用于虚拟现实的光学材料。材料是科幻未来缺失的那块拼图，而他希望把 AI 对准这块拼图。在这个领域待得更久的 Duignan 补充了气候方面的内容：电池和太阳能电池板，是迄今为止减碳效果最好的工具，它们都来自材料方面的突破。他喜欢玩一种反向游戏：你提出一个问题，他就向你证明，这其实是一个材料问题。他还提到，贝尔实验室和晶体管本身就是材料科学：不断尝试各种元素，直到某一种成功。

实验工作仍然很像碰运气。有假设，但也少不了反复试错，以及多年积累下来的直觉。Duignan 把它类比为一百年前的造桥。布鲁克林大桥被严重过度设计，因为当时没人能算清楚荷载；之后，塔科马海峡大桥因为一种没有人建过模型的共振而倒塌。如今，每一颗螺栓都要在钢材下料之前算好。Orbital 的口号是“在计算机里设计，在现实中做出来”：事先就知道某种材料能否制备、是否会具备想要的性能；而当良率暴跌时，能在分子尺度上看清哪里出了问题，而不是靠猜。

Godwin 原本在 DeepMind 带领一个团队，负责构建大规模材料模型，后来领域的发展速度让他觉得这件事等不了十年。十年前还只能在全球最好的超级计算机上完成的模拟，如今在笔记本电脑上就能跑。他说，公司之所以成立，是因为无论是谷歌还是传统的化工企业，都不会把前沿 AI 团队和一个湿实验室的实验人员放在一起。传统公司 25 年来一直对计算工具说“不”，它们不会突然开始做前沿技术。于是，必须有一家新公司来把这个闭环打通。

Labenz 一直在琢磨一种世界观，如果嘉宾同意，他很想大声说出来。当今的架构似乎能在你交给它的几乎任何空间里学到一种直觉式的物理。人接住一个球，只需要不到一秒钟，他们在接球的过程中并不会去积分牛顿定律。他说，同样的捷径在蛋白质折叠、材料、天气和单细胞转录组中都不断出现。对他来说，这是最清楚的理由，让人相信超人类智能不仅有可能，而且正变得越来越有可能。Duignan 表示同意，并提出了一种解释：降维，也就是物理学家所说的粗粒化。你并不需要系统的每个部分。电解质模拟可以忽略电子，许多生物学问题可以忽略溶剂，飞行中的球就是一个物体。在他看来，Mori-Zwanzig 理论和朗之万动力学，与这些算法的做法有着密切的关联。

他反复说的一句话是：如何高效地保留重要信息、丢掉其余部分，是物理建模的核心问题，而机器学习在这方面非常擅长。Godwin 又从规模角度补充了证据。DeepMind 的 Genie 2 等类似的世界模型，都是只有几十亿个参数的扩散网络，却已经能模拟水、水坑里的倒影和重力，而这些效果在此前需要昂贵的 CGI 才能实现。扩散模型并不依赖大量参数，它们更依赖数据，而且推理所需的算力远少于大语言模型（LLM）。隐含的物理规律被压缩进了一个小得出奇的空间里。他把这些网络比作顶尖运动员：能踢进非凡的球，却不懂数学。

人类材料科学家本来就生活在类似的直觉之中。Godwin 讲了一个半导体的故事：有人花了 30 年，只为研究大约 10000 步的芯片工艺中的某一小步——刻蚀之后用哪种气体清洗晶圆，细微的变化会如何影响硅。这类知识不在教科书里，也很难从第一性原理推导出来，而是在师傅和徒弟之间口耳相传。他认为，这就是为什么钱和间谍手段都没能复制出台积电：这种直觉存在于一群化学家和材料科学家之中。AI 的目标之一，就是打破这种垄断。它终究还是物理。如果模型能把物理算对，它就应该能够把这种近乎预言式的手艺知识变得人人可得。Duignan 觉得这种流失令人惋惜，因为这是一套很美的诀窍，但人脑有其局限，而更有意思的未来，是人类直觉和模型彼此校正。

Duignan 说，化学实验数据曾让他对 AI 十分悲观。就他关心的电解质溶液而言，数据库里每种盐可能只有几个参数。关键的转变在于：第一性原理计算可以“生产”训练数据。一次大规模模拟就能产生上百万个数据点，而主动学习可以在模型不确定的地方生成更多数据。Godwin 提出的进一步主张，关乎泛化。一个把 CO2 转化为可持续航空燃料的催化反应器，可能需要数千甚至数百万个原子，并且要跨越很长的时间尺度。而你可以模拟这个世界的一小片，也许只有一百个原子，学到其中的物理规律，再在推理时把它应用到经典方法根本无法触及的系统上。让他大为震惊的结果是：用 20 原子的无机晶体训练出来的模型，不经调整就能直接拿来模拟蛋白质。他说，这意味着模型在小尺度上学到了某种根本性的东西。也许相互作用的复杂度本身就是有限的，有待捕捉。

Orbital 的技术栈分为两层。底层的基础模型叫 Linus，是一个基于扩散（或基于得分的）的材料生成器。Duignan 把数学根源追溯到非平衡统计力学：在生成结构的过程中，原子所遵循的得分向量场，与分子模拟中推动原子运动的力场类似。Cecilia Clementi 的一篇论文表明，如果在一段模拟“影片”上训练扩散模型，那么得分在数学上就与力场完全相同。Godwin 从操作层面的理解是：扩散是一个极好的预训练步骤，因为噪声扰动几乎能给你无限多的、一种简化物理的样本。接着，在量子计算得出的力上进行微调（fine-tuning），就得到了 ORB，它可以计算原子之间的量子级相互作用。他说，只要把这些力算对，物理就对了：核反应、人体，以及日常材料。

给晶体加噪声，更像是在处理图像，而不是蛋白质：把原子位置晃动到结构变得混乱为止。这里要格外小心，因为盒子里的晶体会首尾相接：离开一个面的原子，会从对面重新出现。离散的原子种类，也就是 0 到 117 的整数，被当作连续的目标来处理，然后再转换回类别。这是 Godwin 所称的“模拟比特”（analog bits）的技巧，出自 2022 年一项与 Hinton 有关的工作。真正关键的架构差异在于距离。两个原子靠近时，作用力增大；相距较远时，作用力消失；在两者之间，则是一个恰到好处的吸引势阱。在三维点云中，距离是一等公民；而对于位于网格上的像素或 token，距离根本不算一回事。因此，Orbital 使用了一种消息传递神经网络，用他的话说，这是“一个以距离作为输入的 Transformer”。因为没有位置编码，模拟规模不会被上下文窗口限制，而是随着芯片数量线性扩展。

科学家找到 Linus 时，带来的是一个数字，而不是一段文字：比如带隙为 X，或者十个候选材料，因为材料要的是一个甜点区间，而不是一段说明文字。公开的 ORB 模型接收原子坐标和原子种类，返回力和能量，这就打开了扩散系数、平衡态计算等经典模拟工具箱的大门。Duignan 介绍了三种用法：一是纳米、纳秒尺度上的“计算显微镜”，化学键在其中形成与断裂；二是“计算机里的实验”，改一改文件里的原子种类，就不必去订购化学品；三是更粗粒度模型的基石，也包括下一代生成器的训练数据。在设计闭环中，生成模型会提出十到二十个多孔、适合配体的框架结构；随后，经过 AI 加速的模拟回答光靠提示词（prompt）答不出来的问题，比如反应动力学、孔道堵塞等，直到 Godwin 所说的，在任何人合成之前，你需要知道的内容中已有 90% 得到了确定。实验室的成功率更高，候选材料也更加超出人类化学的想象。

Duignan 多年来一直想攻克的那座“大山”，就是钾离子通道。人体是一个电学装置。计算机靠金属中的电子传导电流；生物体则利用离子，比如钠离子、氯离子，以及关键的钾离子。细胞内储存着高浓度的钾离子；需要传递信号时，通道打开，离子流动，电压随之变化，下一个过程随即被触发。肌肉收缩、心跳，以及大脑中的每一个神经元，都依赖这种电流。通道的突变是多种心脏疾病的根源，包括长 QT 综合征，以及 Duignan 自己家族中常见的心悸。他把它称为一个关键难题：连一些基本问题至今仍无定论，比如钾离子究竟是单独穿过选择性过滤器，还是与水分子一同穿过。顶级期刊上的论文每隔几个月就会得出相反的结论。如果有一个工具能够解决这个问题，就能证明这个领域目前欠缺的一项能力。

模型发布时，Orbital 还没有聘用他。ORB 不仅准确，更令人兴奋的是速度很快。他用它来模拟电解质溶液，得到了稳定的结果，于是开始琢磨：这会不会就是计算化学家们梦想了几十年的那种通用力场？如果是，钾离子通道就是他要尝试的问题。他原本预计模拟会崩溃，因为他自己以前的模型一旦超出训练分布，就会变得违背物理。结果模拟跑起来了。他开始看到一些有意思的现象，他说自己当时真的跳了起来。训练数据与目标看起来毫不相像：都是小而高度周期性的晶体，从来没有那种歪七扭八的膜蛋白。从这样的错配中，竟然能得到合理的动力学行为，这就是他的“尤里卡”时刻。

这项工作还没有经过同行评议。钾离子通道领域的专家告诉他，这些结果看起来很有意思，也很合理，与实验相符；但他仍然希望得到直接的实验证实。有两个观察尤其突出。水分子确实进入了选择性过滤器，这与经典模拟的结果不同，后者往往只让钾离子单独通过。另外，蛋白质上的一个羟基似乎会伸出去抓住水分子，把它拉进通道。这是一个定性层面的步骤，他还没见过有人报道过。突变研究已经表明，删去这个羟基会使电导率下降近一个数量级，但一直没有人能给出机制解释。如果非要押注，他会押这就是原因。从实际应用看，理解健康的通道，是模拟疾病突变的一步；再往远一点，就是设计能恢复功能的药物。他指出，这听起来像科幻，但 Vertex 已经有能恢复氯离子通道功能的小分子药物。

工程上的做法非常节俭。当时他手上只有一块 V100，那是英伟达 2017 年的显卡。为了让选择性过滤器保持稳定，他把距离约 20 埃之外的原子固定住，大约相当于四五层原子。这是借鉴早期模拟实践的一个取巧办法，切断了“你还需要考虑这些原子周围的原子”这种无穷无尽的追问。如果要带上细胞膜做完整模拟，就需要大得多的体系和更多的 GPU。这里没有 Transformer 式的上下文窗口：Godwin 指出，由于没有位置编码，模拟规模会随着芯片数量扩展。真正的瓶颈在于长程静电相互作用（它像引力一样按 1/r 衰减）以及时间尺度。体系一大就慢，而时间尺度始终很短。Duignan 走向全细胞模拟的路径，是进一步的粗粒化：先跑全原子轨迹，然后训练一个忽略溶剂的模型，预测你所关心的各部分之上的自由能。他说，理论已经有了，剩下的是投入的问题。

Labenz 照例问了一个必问的问题：我们什么时候才能拥有室温超导体？“会实现的，给我们至少五年时间，”Godwin 说，“但它也可能会更早实现。”碳去除，以及扩大 AGI 规模所需的能源成本，会排在前面。Duignan 解释了技术上的制约。超导是一个高度关联的电子体系，它不具备他们的模型所利用的那种局域行为。目前用作训练目标的密度泛函理论（DFT），描述它其实不够好。不过，一旦知道想要诱导哪些电子性质，AI 仍然可以帮忙寻找新的晶体结构。

近期的重点是数据中心材料。Godwin 认为，扩大 AGI 规模是他们能够投入的最重要的事情之一，而随着机架功率密度和芯片功耗不断提高，新材料正是让这种基础设施建设既划算又可持续的途径。去碳化是与之并行的另一条线。目前已经公开的一款产品是碳去除材料，设计用于在数据中心条件下捕获二氧化碳，并计划在今年晚些时候与 AWS 开展试点。它形如海绵，其上的活性位点被设计成优先吸附 CO2，而不是空气中的其他成分，并且利用废热和废气流来工作。Labenz 怀疑，超大规模云服务商不会停止建设 AGI 集群；总得有什么东西，来填补他们与那一堆没兑现的净零承诺之间的落差。

降成本的关键在于循环再生，而不是一次性捕获。如果脱附过程能够借助数据中心的废热，能耗成本就会下降；如果材料能用上十年，就能把这个本身耗能很高的制备过程摊薄。Orbital 没有计划在新泽西建厂。类比是英伟达：自己不建晶圆厂，却依靠授权和供应商，仍然身处芯片行业。Godwin 说，他们比纯软件公司需要更多实物资本，但并不打算为了重资产投入而融资。实验室比 AI 公司所需的 GPU 集群便宜；而把实验人员留在公司内部，正是让反馈闭环快到足以产生价值的关键。他补充说，只融资不到 4000 万美元，也有可能做出世界级的模型和材料研发管线，原因在于这些网络更像图像扩散，而不像大语言模型。MosaicML 曾把 Stable Diffusion 的训练成本压到 50,000 美元以下；如今仍有余地，可以把更多算力投入到质量更高的第一性原理数据上。

Labenz 引用了当时正在流传的一篇 MIT 论文，作者是 Aidan Toner-Rodgers，研究的是材料科学场景中的 AI 应用。主要数字是：新发现的材料多了 44%，专利申请多了 39%，下游产品创新多了 17%。模型承担了大量的创意生成工作，科学家则转向验证，产出确实提高了。但有 82% 的科学家表示工作满意度下降了，因为他们原本希望做的是那个提出想法的人。Labenz 对此看得开：如果这种转变对气候有帮助，他愿意接受一些满足感的损失。但他想听听嘉宾对产出的看法，以及对工作未来的看法。

Duignan 自认属于那少数快乐的一群。他受的是物理学和数学训练，而不是化学，因此他觉得这些工具让他能力大增：它们给了他一种直觉，而他靠多年泡在烧瓶里是得不到这种直觉的。他可以运行模拟、看着化学键形成，并且在没读过钾离子通道相关文献的情况下，也能看出羟基为什么重要。他对那些花了一辈子积累这种直觉、如今却眼睁睁看着别的东西来完成这件事的人，抱有同情。但他的反驳很直接：让材料更快地进入世界，比亲手解开谜题那一刻的火花更重要。“那种乐趣你去解填字游戏就好。”这项工作太重要了，不能只为科学家的快乐去优化。

Godwin 身边的 AI 研究者，其实已经经历过一个温和版本的这种变化。即便这份工作变得更有声望、薪水也更高，工作满意度仍然下降了。以前的人做的是创造性的研究，现在更多是在做工程；而算力太贵，你没法好好地去验证自己的想法。他认为，创造性工作是 AI 最先接手的事情之一；机器人和体力工作则要晚一些，等创意产业被加速之后才会轮到。他并不乐观地认为，人们会喜欢 AI。但他确信，唯一能走向好结局的长期路径必须经由它，因为世界需要以更低的成本生产出更多东西，这意味着科学发现会迎来人类历史上从未有过的加速爆发。用他的话说，这是为了一个大部分经济活动都已自动化的未来，所要付出的短期阵痛。意义将不得不在工作之外去寻找。

Labenz 又补充了一个安全层面的看法。人们对超级智能的一个核心担忧，是它如何获得实验层面的依据。把语言模型和一个可靠的神经网络势函数配对，系统就有了一个物理上的检验者：它可以在计算机里而不是实验室里检验假设，这就像推理模型在数学基准测试中需要一种方式来验证答案一样。两位嘉宾都认为，语言与原子尺度建模共享嵌入空间的可能性很大；Godwin 希望在科学 AGI 的训练中加入原子尺度的数据，并且认为已经有人在尝试了。Labenz 担心的是：在经历了一阵关于欺骗的讨论之后，如果推理转移到了潜空间里，我们就再也无法读懂思维链。Godwin 以一句冷峻的话收尾，引用的是他曾见过的某人的说法：你只能希望道德实在论是真的，并且系统无论如何都会做正确的事。