ChatGPT 联合创造者离开，要把自然放进奖励回路

常压高温超导的纪录仍在 135 开尔文左右，约合零下 138 摄氏度，这些年几乎没怎么动过。2025 年 10 月，Periodic Labs 宣布完成 3 亿美元种子轮融资，由 Andreessen Horowitz 领投。公司约 30 人，两位创始人是 ChatGPT 的联合创造者、前 OpenAI 后训练研究副总裁 Liam Fedus，以及曾负责谷歌 DeepMind 材料科学与化学研究的 Ekin Dogus Cubuk。

a16z 的普通合伙人 Anjney Midha 主持了这场对谈，由 The Cognitive Revolution 转载。值得关注的并不是这轮融资，要看的是一个问题：前沿模型在数学和代码上已经很强，为什么在物理和化学上仍然差一截，要补上这个差距究竟要付出什么代价。Periodic 的北极星目标，是把那个 135K 的数字推向 200K 甚至更高。他们的判断是，走到那里的过程会逼出一连串各自都有价值的子目标。

八年前在谷歌大脑（Google Brain）工作时，Cubuk 想在公司健身房里翻一个巨大的轮胎，一个人搬不动。他去找了一个他能找到的最强的人，那人不是 Fedus 就是 Barret，两人合力把轮胎翻了过去。两位联合创始人就是这样认识的。之后的几年里，他们一直在聊，话题总会滑到量子力学和超导上，尽管 Cubuk 从没想过两人最终会一起做物理。

Cubuk 当时在 DeepMind 做材料研究，同时发现语言模型已经成了他工作流程里绕不开的一部分。他用聊天机器人回忆自己忘掉的化学知识，也用它来写模拟代码。问题于是变成：大语言模型（LLM）能不能成为物理研究里的一等公民，而不只是个辅助工具。Fedus 在语言模型那一侧观察推理能力的提升和高算力强化学习，他发现，材料模拟和实验中也出现了类似的规模化规律。

他们两人，以及该领域的很多人，都把加速科学和物理研发视为这项技术的意义所在。Fedus 谈到离开 OpenAI 的原因时说：“聊天机器人是路上的一个重要里程碑，但我们真正想看到的，是技术走进现实世界。”物理看起来是合适的起点：结果可以验证，奖励反馈比较快，而且大类系统都已经有了模拟器。两人因此坚定了这一判断，创办了 Periodic。

Fedus 讲了 ChatGPT 最初是怎么训练的。先是一个预训练的自动补全模型，再加入监督式的输入输出配对，教它像助手一样行事，然后用一个基于人类偏好建立的奖励模型做 RLHF。早期的奖励函数写的是“做一个友好的助手”，几乎不判断数学对不对、代码有没有效。后来的进步来自把打分器做得更精确：数学有标准答案，代码有单元测试，两者都能用程序检查。这些数据仍然是数字化的，来自互联网、教科书和论文。

Periodic 的做法是，用物理奖励函数替换数学和代码的打分器。模型提出假设，调用模拟工具，然后真的合成材料、测量性质，测量结果再作为学习信号返回来。如果模拟器算错了，实验会把它纠正过来。智能体拿到工具的方式，就像编程智能体能用 Python 和浏览器一样，只不过现在这些工具还包括量子力学模拟，而整个循环最终落在实验室里。

在 AI 行业，“lab”通常指研究机构。在 Periodic，它指的是一个摆着粉末、熔炉和测量设备的房间。第一座设施做的是粉末合成：把现成的粉末混合，加热到设定温度，得到一种新材料。Cubuk 把这种机器人比作旧金山机场的咖啡机器人：这一档的机器人，就足以混合粉末、往炉子里装料。这个方法便宜又简单，但它照样能覆盖超导体、磁体以及其他对技术至关重要的材料。在这一切的底层，是薛定谔方程尺度上的量子力学，生物、化学和材料正是在这个能量尺度上发生的。

那么，今天已经部署的模型为什么还做不到这些？Cubuk 的回答是，科学本身是迭代的。大语言模型再聪明，只要从不迭代，也发现不了科学，就像被关在没有实验的房间里的人，什么重要的东西也发现不了。模型缺的是研究的方法：模拟、计算、做实验、拿到一个很可能有误的结果，再继续迭代。Fedus 还补充了三个理由，说明他们必须自己掌握实验室。同一个性质在文献里的取值可能跨越好几个数量级，用它们训练的模型最多只能复刻噪声。负面结果几乎从不发表，可一个有效的负面结果是很宝贵的学习信号，而且高度依赖语境。另外，科学不只需要阅读论文，还需要行动的能力。

Midha 问了投资人最关心的问题：超导和磁性是因为重要才成为第一批管线，还是只是通往通用 AI 物理学家路上的站点，甚至可能变成岔路？Cubuk 分层回答。高温超导里包含无数子目标。要走到那里，你得先擅长自主合成、自主表征，并且能正确地用大语言模型运行模拟。这有点像 DeepMind 和 OpenAI 嘴上说要做通用人工智能（AGI），实际上得先拿出一大堆各自独立、很有价值的成果。北极星目标的作用，就是逼着这些子目标出现。

科学上的赌注与产品是分开的。Cubuk 说，如果他们真的找到了 200K 的超导体，哪怕还没用它做出任何东西，在那样的温度下看到量子效应，也会改变人们对宇宙的看法。超导还是一种相变，转变温度主要取决于基础的晶体性质，多过取决于模拟器仍然捕捉不了的缺陷和微观结构。其他材料性质也可能存在于晶体中，却被无法模拟的因素遮住。这让超导成为一个相对干净的验证目标。它也能凝聚整个团队：资深的物理教授，和从没学过物理的人，都会对它感到兴奋。

进展很容易打分。今天常压纪录约为 135K，如果超过它，他们就知道自己做得不错。Cubuk 指出，这个信号很难被钻空子：不像许多大语言模型的训练技巧，你在现实世界里测到什么，模型就看到什么。Fedus 补充说，他们的策略是在某处把完整的闭环跑通，而不是泛泛地空谈，然后又滑回 arXiv 上的论文。之后他们希望有一套可重复的流程，能从一个子领域走到另一个子领域，其中还包括一个悬而未决的问题：在超导上训练出的系统，能在多大程度上推广到磁性，或者流体力学。

公司大约一半的人来自机器学习，一半来自物理或化学。Cubuk 融合两种文化的办法，是让两种人挤在一起工作。物理学家和化学家必须决定哪些步骤应该放进中期训练和强化学习里，让模型学会用量子力学来推理。与此同时，大语言模型的研究者也在学习物理、模拟工具和真正的科学目标。每周的教学会是双向的：机器学习的人讲强化学习的循环和数据清洗，科学家讲科学本身，包括科学史。

Fedus 注意到，计算机科学家习惯用 API 的方式思考。科学家说一句话，他们会自动把它映射成输入、输出、目标，以及怎样把结果接回去。这种翻译本身就很有用。团队还会招那些位于机器学习、实验与模拟之间的人，作为桥梁，Cubuk 就是他们举出的例子。团队文化是“不存在蠢问题”。最笨的物理问题和最笨的机器学习问题都可以问，公司里有几位教授，让教学会格外出色。

加入之前，是否需要物理或化学的高学位？Cubuk 的回答是：绝对不需要。他把一句关于 NBA 的俏皮话反过来用。团队里最好的物理学家，不懂的物理也远比懂的多，所以一个没有物理背景的候选人，面前的山也差不多高。十九世纪的物理学家可以同时在好几个方向上站到前沿；今天，一位领先的思想者通常只推进一个狭窄的领域。发现一种好的超导体，需要化学、物理、合成和表征，没有哪个人能全部掌握。合作是必需的，算不上锦上添花。这家公司正是这一困境的缩影。

Fedus 解释，中期训练的出现背景是：预训练模型有知识截止日期，而搜索又还不够好。你拿来模型没有的数据，继续做预训练。这和后训练不同，后训练主要是强化学习和监督学习。中期训练的意义，在于灌入大量过去没有的知识。在 Periodic，这意味着把低层的晶体结构、材料如何制备的高层语义描述、模拟数据和实验数据，全部灌进同一个模型。

把分布 A、B、C 混在一起，并不保证泛化。他们想看到的是，加入一个数据集能提升其他数据集上的表现。这就是要解决的机器学习问题，也是把一个在物理和化学上欠缺的模型，变成专家的办法。目前不少先进制造业公司依赖检索，这是一种轻量的推销方式：有人带着一个神经网络上门，承诺能搜索语料库。预训练和中期训练则把知识编码进权重里，让模型真正理解材料，而不是去翻文档。

权限让这件事更难。检索可以代表用户行事，并继承用户的访问权限。如果你用只有 CEO 能看到的数据做预训练，就得把知识分桶，搭建不同的系统。上午的一次客户电话会议之后，Fedus 的判断是：他们仍然没有好办法把知识蒸馏进一个模型，或一组模型。他们的监督训练也很像早期的 ChatGPT：几组输入输出示例。他们需要转向高算力的强化学习、有效的工具使用，以及针对真正关心的目标做优化。

其他前沿实验室的目标是 AI 研究员，途中撞上了 AI 编程，这是第一个让人们重新评估这些模型在工作中有多大用处的领域。Midha 问，Periodic 的对应物是什么。Fedus 的回答是：为先进产业里的工程师和研究人员提供 copilot。硅谷习惯用比特思考。太空、国防和半导体行业，仍在围绕材料和物理反复迭代，往往既缺好数据，也缺好工具。这些研发预算非常庞大，这就是机会所在。

高温超导依然是一个好的北极星目标，但技术和资本是交织在一起的。Fedus 说得明确：如果公司在商业上取得巨大成功，他们最能加速科学。路径是成为这些行业的智能层，缩短迭代时间，让研究人员和工程师更快找到更好的方案。在他们看来，规模定律在经验上依然成立，真正要争的，是纵轴上的表现。一个用单元测试做奖励的编程模型，可以成为很厉害的软件工程师，但它仍然治不好癌症，因为那种环境里根本没有这方面的知识。你得针对真正关心的分布去优化。

Cubuk 与 Fedus 合写的一篇愿景论文，以及 CLIP 相关文献，都显示域内和域外泛化之间是单调相关但非线性的关系。提升模型后，域内表现按幂律上升；域外表现也按幂律上升，但如果你离训练分布很远，斜率可能小到没有用：要以几个世纪来计算，而不是几年。合成文献中的生成焓标签噪声太大，用它们训练出的模型没有预测力。超导数据集确实存在，但噪声底线太高，帮不上忙。Periodic 的策略，是制造高质量数据，并不断闭环，直到目标落在训练分布之上。

落地的方式是逐步拓展，而不是第一天就重写整条产线。他们会寻找一个范围清晰、又很关键的问题，和客户一起共同起草评测，然后在针对该团队真正关心的目标做优化时，证明技术有多强。接着，他们找到最有力的内部支持者，并把他们和 Periodic 技术能力最强的地方对接。当天上午的一次销售线索会议中，Cubuk 听到模拟训练是一个迫切的痛点：人们花大量时间学习关键的模拟器，还要做格式匹配、把结果送进设计流程，并把数据集中放在一处。这些公司还在流失资深工程师，同时在寻找一种 AI 战略，而这种战略的变化速度，并没有他们想象的那么快。

物理科学里的大部分基础工作，历来发生在大学实验室。Cubuk 说，学术界当然仍有其位置。Periodic 使用的许多模拟工具都是在学术界开发的，其中不少来自欧洲，还有一些新的合成方法也出自那里。其中一些工具用的是复杂的 Fortran，公司自己未必能高效地开发出来。大规模模拟如今常常在微软、DeepMind 和 Meta 运行，但这些工具通常起源于学术界，之后才转移出去。Periodic 也受益于基础大语言模型的改进，以及开源的机器学习性质预测器：他们拿预训练模型，用高算力强化学习做中期训练，而不是从头开始。

Midha 曾在斯坦福的一个物理实验室做过评测，发现模型做科学分析很糟糕。Fedus 的回应是，没有人训练过它们做这件事。学术界可以告诉业界哪些任务重要、分析应该怎么做、模型里应该放入哪些技能，既可以是完整的分析，也可以是其中一个较小的基本操作。Periodic 的一位物理学家看了一个模型的推理过程，直接说它全错了：它应该在更高的层次上思考，从对称性的角度，就像某本书教的那样。强化学习环境需要奖励这类策略，因为一流科学家本来就在用。没有这种合作，业界看不见这种思维风格。

语言并不是大脑的全部。Cubuk 指出，人类还会做视觉和几何方面的处理，所以大语言模型也可能受益于单独的几何推理器，供它调用，比如等变图神经网络，或者天然带有几何结构的扩散模型。语言适合描述合成配方，几何则适合表示原子和设计出来的结构。目前已经有两项具体的学术计划在推进。顾问委员会包括斯坦福的实验物理学家 ZX Shen、理论学家 Steve Kivelson、西北大学的合成化学家 Mercouri Kanatzidis，以及负责高通量 DFT 的 Chris Wolverton。一项资助计划将接受关于大语言模型、合成中的智能体、材料发现和物理建模的提案，包括那些不适合业界做的工作。

他们对招人的要求与前沿实验室高度重合，只多一个筛选标准：你是否真的关心加速科学？Fedus 说，想改进巨头产品的人应该去那里继续迭代；关心发现的人，应该来 Periodic。他们看重的是深度好奇心、与现实接触的能力、务实、严谨的流程、解决问题的导向、达成目标的速度，以及在某个维度上达到世界一流，无论是机器学习、实验还是模拟。Cubuk 还补充了紧迫感：他们不希望大语言模型十年后才开始改进科学，他们要的是尽快。

Periodic 在科学文献上做的实际测试，任何垂直领域的 AI 团队都可以照搬。检查标签是否跨越好几个数量级，负面结果是否缺失，以及目标分布离你手里的数据有多远。只要有一项不过关，再多算力也救不了你。Cubuk 的幂律观察是第二个测试：域内基准表现很强，并不意味着你的真实用例能以可用的斜率上升。如果基准离实际工作很远，你可能需要自己造数据，并把闭环跑起来。

第三个选择是检索还是训练。检索很轻，而且上线快，但知识永远不会进入权重。如果工作需要一个真正理解领域的模型，中期训练是更严肃的路线，代价是权限和数据治理会更加复杂。3 亿美元、30 人，以及从 135K 到 200K 的目标，是一场需要数年才能看出成绩的赌注。它提出的问题，对任何做应用 AI 的人来说都已经迫在眉睫：你的奖励函数，离真实世界还有多远？