40% 的数据中心节能,始于一封以问号结尾的邮件

原标题The 40% data-center save started with an email that ended in a question mark

Phaidra 创始人 Jim Gao 向红杉资本讲述,他在谷歌时受 AlphaGo 启发的一次尝试,如何变成了运行价值数十亿美元工厂的强化学习系统。

频道
Training Data
发布
2024年8月20日
视频
50:33
阅读
16 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

AlphaGo 击败李世石之后,谷歌机械工程师 Jim Gao 给 Mustafa Suleyman 发了一封只有一行字的推销邮件:强化学习加数据中心,等于很棒?那个问号是出于诚实。试点项目在不更换硬件的情况下,仍把能耗降低了 40%。随后 Gao 离开 DeepMind,把这个想法做成了产品 Phaidra,其智能体如今充当虚拟的工厂操作员。在与 Sonya Huang 和 Pat Grady 的《Training Data》对谈中,他梳理了哪些工业问题适合强化学习,为什么谷歌的数据是个例外,以及为什么电网平衡可能是 AI 对气候影响最大的杠杆。

  1. 1应用强化学习需要三样能映射到数据上的东西:要优化的 KPI、可以采取的行动,以及绝不能突破的硬约束。说到底,这就是换了个名字的约束优化。
  2. 2Gao 向 Mustafa Suleyman 的推销之所以以问号结尾,是因为没人知道工业强化学习到底能不能真的很棒。两周后,一支 DeepMind 团队就到了山景城。
  3. 3十台泵、每台十个设定值,就能组合出 100 亿种运行方式,而真实的工厂还在动态变化。人工经验和写死的规则,只探索过行动空间的约 0.00001%。
  4. 4这正是 Demis Hassabis 所说的“AI 创造力”的意义所在:智能体教会了 Gao 他自己参与设计的机械系统里的东西。AlphaGo 之后,李世石的 Elo 等级分在约 2800 分的位置停滞了十年,如今又开始回升。
  5. 5谷歌在数据量、数据质量和数据获取上都是个异类。在谷歌之外,Phaidra 的第一项工作是 AI 就绪化之旅,然后在上面叠加一层云端智能层,运行在 1970 至 1980 年代的楼宇管理系统(BMS)和 SCADA(数据采集与监控系统)之上,无须把它们拆掉。
  6. 6Gao 认为,AI 在电网负荷平衡上的应用,是 AI 对气候能做的最重要的一件事:随着可再生能源让供电变得随机不定,数据中心可以被协调成一组可调负荷。
全文

按章节阅读完整文稿

01

Phaidra 的智能体是价值数十亿美元工厂上的虚拟操作员

Sonya Huang 和 Pat Grady 介绍 Jim Gao 为 Phaidra 的创始人兼 CEO,此前曾担任 DeepMind Energy 的负责人,那是最早投入实际应用的 AlphaGo 式强化学习系统之一。在谷歌,这项工作产出了一个至今仍有人引用的数字:数据中心冷却能耗降低 40%。Gao 用一两句话概括公司,说得很直接:Phaidra 是一家 AI 自动化公司,用强化学习直接控制客户那些大型、关键任务型的工业设施。实际上,智能体扮演的是虚拟的工厂操作员,是运营团队里多出来的成员。

这个定位是整期节目的主线。AI 能不能写邮件,已经不是值得讨论的问题。真正值得问的是:一个学习系统能否坐在价值数十亿美元的实体工厂上,采取行动,同时待在人类操作员早已习惯的安全边界之内。Gao 在剩下的对话里,把这句口号拆成了一份清单:哪些问题适合套用强化学习,数据要准备到什么程度,以及模型绝不能碰哪些旋钮。

02

给 Mustafa 的邮件以问号结尾,因为没人知道它能不能成

Gao 曾经给 Mustafa Suleyman 发过一封邮件,后者后来成了他在 DeepMind 的上司,而那封邮件的标题已经成了公司里的传说:“强化学习加数据中心,等于很棒?” 那个问号可不是随便加的装饰。把强化学习和工业设施结合起来,当时还是个未知数。Gao 的本职工作,是帮谷歌设计和运营超大规模数据中心,这些数据中心的电费高达数十亿美元,效率每提高一个百分点,都是实打实的钱。2013 年,他在吴恩达(Andrew Ng)的 Coursera 机器学习课程上自学编程,那是他记忆中的第二期课程,之后开始摆弄工厂已经产生的海量数据。2016 年 3 月的 AlphaGo 是导火索。他在旧金山湾区时间凌晨 3 点左右看完了李世石的那场比赛,放不下,于是给“Moose”写了封邮件。他在邮件里说,如果 DeepMind 能在围棋上击败最顶尖的人类,那么同样的智能体也能去玩一个 Gao 熟悉的游戏:优化谷歌数据中心的电能使用效率(PUE)。

他向负责谷歌数据中心的 Joe Kava 做内部推销,整套方案一张幻灯片就讲完了:一边是围棋棋盘,另一边是 Xbox 手柄。围棋要最大化一个目标,数据中心要最小化能耗。围棋有合法的落子,工厂有阀门、水泵和设定值。围棋有规则,工厂有温度范围、冷水机组的启停限制,以及变频驱动器(VFD)的最低转速。环境可测量,行动和约束都明确。“强化学习和运营大型复杂工业系统,其实是同一件事。” Grady 问,目标、行动、约束这三样,是不是现实世界强化学习的全部要素。Gao 说:是的,100%。只要能把一个带约束的优化问题定义清楚,并映射到数据上,就可以尝试用强化学习去求解。他补充说,控制和优化两个领域各自发展,最后殊途同归,得出了同一套数学;Phaidra 正处在这两者的交汇点上。

两周后,Suleyman 带着一支 DeepMind 团队飞到山景城,他们开始梳理强化学习可能如何运行谷歌的工厂。这段合作也让 Gao 认识了联合创始人 Veda。Veda 是 AlphaGo 的早期工程师,去过首尔,见过李世石和 Larry Page,当时正在寻找下一个要攻克的问题。Gao 当时完全不知道这事能不能成。他至今还记得第一次启动这套系统的情景。他和操作员们坐在爱荷华州的一片玉米地里(谷歌喜欢把数据中心建在这样的地方),看着 AI 给出的建议操作,心里都觉得它学错了东西。但他们还是试了。能耗下降了。有两件事让他印象深刻。第一,Gao 自己就参与设计过这套机械系统,结果却是智能体在教他认识自己的工厂。第二,那些操作违反直觉。而且没有任何性能上的取舍:温度曲线一样,冷水机组的约束一样,水泵的最低转速也一样。这纯粹是软件带来的收益,并非靠更换江森自控(Johnson Controls)或特灵(Trane)的冷水机组换来的。

一个简化的思想实验,就能说明这个探索空间为什么如此之大。十台泵、每台十个设定值,就已经能组合出 100 亿种情况;而真实的工厂机器要多得多,运行模式也更多,IT 负载和天气不断变化,管道会腐蚀,换热器会结垢。规避风险的心态加上写死的启发式规则,意味着操作员只探索过约 0.00001% 的行动空间,剩下的部分很可能藏着更好的运行点。Gao 强调,这些设施本来就已经实现了自动化,只是不够智能,靠的是一堆“如果……就……”式的逻辑,再加上人工调整。2016 年的试点仍然保留了人在回路中的环节:AI 发邮件给出建议,专家审核,能耗降低了 40%。操作员后来受不了每十五分钟就查一次邮件。Joe Kava 的运营团队随后实现了完全自主运行,进入了 Gao 说从未有人验证过的领域:用云端控制大型工业设备。他和 Veda 站在一个 90 兆瓦的机房里,Veda 用一台 MacBook 合并了一个 pull request,一台大巴车大小的冷水机组轰然启动,整个地面都在震动。第一个数据点是:你可以从云端启动工厂。接下来的问题是:能不能智能地做到这一点。

03

李世石的 Elo 停滞了十年,AlphaGo 之后又涨了起来

爱荷华州的那种感受让 Gao 彻底信服。他引用了 DeepMind 首席执行官 Demis Hassabis 的一个说法:AI 创造力。他说,硅谷把 AI 和自动化混为一谈。AI 确实能自动化日常工作,但这样说低估了它。真正的承诺在于获得以前并不存在的知识。他是帮助设计这套系统的专家,而智能体却在告诉他关于这套系统的新东西。“这种感觉非常、非常强烈。” 他最喜欢举的例子是李世石。十年来,李世石一直稳坐围棋的顶峰,Elo 等级分在 2800 左右,已经没有人能逼他进步。公开比赛之后,DeepMind 允许他私下继续与这套系统对弈。十年来第一次,他的等级分开始回升。

Gao 的判断是,收益会集中在哪里。呼叫中心这类常规自动化,他认为不会出现值得关注的公司。真正的金矿,是那些由数据支撑、排列组合极其复杂、人类直觉已经力不从心的领域,比如蛋白质折叠和工业控制。他从 DeepMind 得到的另一个教训,也是他离开的原因。技术只有被人用起来,才会产生影响;而把实验室成果变成产品,工作量要多出百倍甚至千倍。他、Veda 和第三位联合创始人 Katie Hoffman 一直看着 DeepMind 那些了不起却从未走出大楼的成果。Phaidra 存在的意义,就是把智能虚拟操作员做成一款产品。

04

谷歌的数据体系是个例外,其他人都需要一段 AI 就绪化之旅

Gao 说,从谷歌带出来的,是存在性证明:闭环强化学习确实能大幅改变一座复杂工业设施的运行。没能带过来的,是环境。每座工厂都是独一无二的雪花:设备关系图、产品差异,还有关键冷却数据可能出错的“一百种方式”,都各不相同。谷歌之所以能率先做到这一点,是因为它本身就是一家走在前沿的公司,更重要的是,它还是一家数据分析公司,早已为高质量、高可用的遥测数据付过钱。离开这个“巢”之后,现实给了他们当头一棒。有些客户根本没有采集数据。在制药、区域供冷和数据中心等场景里,现场几乎都装了传感器——一座价值数十亿美元的工厂,花得起 100 万美元买传感器——但很多只保存 90 天、半年或一年的数据。存储“太贵”,更常见的情况是,数据除了在事故后用来取证,根本没人去用。

他把数据需求比作一座马斯洛金字塔:传感器;数据保留;清洗,也就是要知道坏数据长什么样、该怎么修复;然后是访问,既要能处理实时数据流,也要能处理历史批量数据。客户分布在这座金字塔的各个层级上,因此 Phaidra 的第一项工作,通常是一场“AI 就绪化之旅”,先让设施达到智能体能够使用的状态,然后才进入“数据输入、决策、执行、按目标评估”的循环。在执行端,今天的控制系统设计于 1970 年代和 1980 年代,正处在第三次工业革命的阶段:从模拟走向数字,实现第一代自动化。Gao 提出的第四次工业革命口号是:自我改进的基础设施,即能够自主运行、并且越运行越好的工厂。眼下,他们是在把智能硬塞进第三次工业革命的硬件里。

产品上的选择是:不增加任何硬件,也不增加新的传感器。Phaidra 在现有技术栈的顶层插入一层云端智能层,依附在 BMS 或 SCADA 之上,而这些系统里有数以百万计的 if-then 语句。写死的逻辑和十年前的运行方式一样,因为没人愿意重写后端。Gao 用了一个战场上的比喻:AI 是将军,每分钟盯着大约 10,000 条趋势,并下达命令;BMS 和 PLC(可编程逻辑控制器)是士兵。哪台泵运行、以什么速度运行,由将军决定。至于阀门实际开启的速度,则不归它管。他说,系统中约 90% 的部分,用写死的启发式规则就已经足够好了;如果把不确定的智能用在阀门的精细时序上,那将是一场灾难。安全网和护栏是客户项目中很大的一部分工作。知道 AI 不该控制什么,和知道它能控制什么,同样重要。

05

默沙东的疫苗工厂是公开的证明,第一周的节能数字不该作为衡量标准

录制这期节目的那一周,默沙东在使用两年多之后,成为 Phaidra 第一个公开的客户。这座厂区是宾夕法尼亚州一座占地 500 英亩的疫苗生产园区,制冷能力为 62,000 吨,四座大型冷水机房相互连通,还有数百台相互耦合的设备。默沙东自己在一次会议上公布的数据显示,系统在一座冷水机房首次试用时,节能 16%。Gao 说,这正是关键任务型复杂系统的典型特征,也正是智能体最能发挥作用的地方。Phaidra 目前也在为其他客户的数据中心提供自主控制。

他会提醒客户,不要过分看重最初的那个百分比。这类系统具有不确定性;如果他能提前告诉你,哪些收益还留在桌面上没拿到,那你也就不需要 AI 了。真正有价值的是闭环:智能体采取行动,测量结果与预测之间的差距,然后持续改进。起步时的节能幅度,可能是 1%、5% 或 10%;它不会无限攀升,物理规律依然适用,但它会一直往上走,而且一旦达到最优点,就能稳定地保持在那里。写死的调试逻辑做不到这一点。管道会腐蚀,换热器会堵塞,冷却塔会结垢,设备会被拆换。即便客户在机房里塞满 H100,很快又换上 H200,自学习层也能跟着一起调整。Gao 把这称为自我改进的基础设施。

06

电网平衡是更大的棋局,Transformer 仍需要因果闭环

被问到强化学习在现实中还用在哪些地方,Gao 承认他的地图主要是在谷歌和 DeepMind 的范围内画出来的:一个邻近团队用强化学习延长 Android 的电池续航,还有 YouTube 的推荐系统,当然还有 AlphaZero 用同一套学习框架,自学围棋、国际象棋和将棋。大型科技公司之外,能投入生产的强化学习很少见,但他并不认为这是因为所需要素稀缺。应用空间“大得离谱”,缺的是数据基础设施。他列举了物流和运筹学领域,比如航运、航空公司、联邦快递的路线规划,涉及的业务规模以数万亿美元计,然后又提到他最关心的一个应用。他说,电网平衡可能是 AI 对抗气候变化最重要的途径。

数据中心约占美国用电量的 1.5%–2%,当年将升至 4%,到 2030 年或许会达到 9%。他说,爱尔兰已有 22% 的国家用电量流向数据中心;国际能源署(IEA)的预测是,到本十年末,这一比例将升至 37%。这些都是巨大的可调负荷。如果能协调它们,就有可能帮助平衡电网,而如今电网的供给端,已经不是打个电话给燃煤电厂那么简单了。可再生能源让发电变得随机不定,你没法让太阳按需调节。于是运营商只能保留旋转备用,让大型燃气轮机像汽车在红灯前怠速一样空转。讽刺的是,可再生能源占比越高,需要的缓冲就越多。在他的叙述里,德国在提高可再生能源占比的同时关闭了核电基荷电站,结果不得不再建更多化石燃料电厂作为备用。他的设想是,把对延迟不敏感的计算当作电网的调节工具,把任务转移到电价低或更清洁的时段。“节能幅度”这个指标本身就不对,重点应该是系统层面的成本和碳排放。谷歌此前已经在碳感知调度方面做过一些尝试。

谈到 Transformer 和强化学习的比较,他把话语权交给了 Veda,称她“远比我更专业”,并自称是学过一些 AI 的机械工程师。两者的优势看起来是互补的。Veda 认为,智能系统需要一个关于世界的模型、记忆能力,以及规划和推理的能力。Transformer 擅长消化海量的结构化和非结构化数据,并学习一个世界模型,但主要依靠相关性。工业控制则需要因果关系:智能体为什么这样做,为什么绝不能那样做,以及如何强制实现一种你知道必然存在的行为。强化学习的长处,是规划较长的行动轨迹并学习策略。最值得关注的交汇点,是让 Transformer 去学习世界模型或价值函数,供强化学习智能体在其上做规划。Gao 认为,没有因果这一环,就无法干净利落地把它切换到 Phaidra 这样的工厂里。

07

未来十年有意思的工作在物理世界,创始人的风险比想象中小

在快问快答环节,Gao 说,近期看起来像是 AI 应用的寒武纪大爆发,几乎全部集中在大语言模型和文本上。这是经济中很大的一部分,也很令人兴奋。着眼五到十年,他在等待同样的技术进入汽车、家庭和大型工业系统,也就是“我们所生活的现实世界的基础设施”。被问到最佩服谁,他提到了几位 DeepMind 的研究人员(在那里工作,对技术人员来说就像进了糖果店),然后详细谈到了如今在微软的 Mustafa Suleyman。数据中心项目是一项技术,Phaidra 则是一款产品;Gao 说,在这种转化上,很少有人能像“Moose”那样做得好。在 GPT-2 出现之前,他和 Katie 曾坐在西雅图的一家小酒吧里,当时 Suleyman 正在滔滔不绝地谈论大语言模型,他们却一直想把话题拉回 Phaidra,完全听不懂他在说什么。后来他创办了 Inflection。Gao 至今仍把那个晚上视为他们产品直觉的证据。

给想创业的人的建议,比如他的团队那样,从实验室离开去创办公司,分为两部分。第一,要有联合创始人。这项工作就像情绪过山车,你既需要他们分担负荷,也需要他们让你保持清醒。第二,风险比你想象的要小。无论你今天在一份上升中的工作里值多少钱,学会把技术变成产品之后,你只会更值钱。如果公司失败了,谷歌和微软会以更高的价格把你请回去。最好的投资是提升自己。整期节目的实用版本,也延续了这一精神。如果你经营工业工厂,就对照一下 Gao 的三要素:审计你的数据金字塔,当模型的价值远超存储成本时,就别只留 90 天的日志。而如果你还在等更强的对手出现,才肯让自己的等级分动起来,那就注意到:Gao 的职业生涯,转折点正是一门 2013 年的免费 Coursera 课程,以及一封用问号表达了不确定、承认自己没有把握的邮件。

同频道的其他文章

1:08:02EN → 简体中文
Sequoia Capital· 2026年10月13日播客AlphaGo 花了两年,AlphaZero 只用了几个小时:Silver 在超级智能上押了同样的注David Silver 和 Lasse Espeholt 离开 DeepMind,创办了一家二十人的实验室 Ineffable Intelligence。他们想打造一个超级学习者(superlearner),让它从经验中发现科学、数学和语言,而不是靠一轮预训练(pre-training)。模型与训练Reinforcement LearningRL environments & simulators+3
1:04:26EN → 简体中文
Sequoia Capital· 2026年10月6日播客100,000 个加速器,每小时都有东西出故障Google AI 基础设施负责人 Amin Vahdat 向红杉资本的 Sonya Huang 解释,为什么 FLOPS 是虚荣指标,为什么 TPU 产品线一分为二,以及为什么他宁愿等电网接入,也不自己建一座吉瓦级的数据中心。基础设施与部署AI cost & performanceInference+3
1:05:21EN → 简体中文
Sequoia Capital· 2026年9月15日播客从模型到工作流的桥,是一门万亿美元的生意Box 首席执行官 Aaron Levie 认为,这一轮的钱就在前沿模型与真实企业工作之间那片混乱的空档里;编程领域一夜之间的扩散,不会在其他行业重演。企业与战略企业 AIAI Strategy+3
52:27EN → 简体中文
Sequoia Capital· 2026年9月1日播客二十多个警察局拒绝之后,他们做出了一家反网络效应的 AI 公司威斯康星州的一个县有一桩悬案,积压着 300 GB 的材料,而 Peregrine 的创始人至今仍不肯邀功。安全Forward-deployed engineeringCompany Building+3
55:19EN → 简体中文
Sequoia Capital· 2026年8月25日播客人类点击数据是个 bug:为智能体的网络重建搜索前 Twitter CEO、Parallel Web Systems 创始人 Parag Agrawal 认为,智能体查询网络的次数将是人类的一千倍,搜索基础设施和依赖广告的互联网,都必须为这位新客户重新打造。智能体Search & retrieval智能体工程+3
53:44EN → 简体中文
Sequoia Capital· 2026年8月18日播客当今模型最大的毛病:权重从不更新图灵奖得主 Rich Sutton 与 Khurram Javed 创办 Oak Lab,要造出上线后仍能持续学习(continual learning)的智能体(Agent)。他们认为,合成数据是一个大错误。智能体Continual learningReinforcement Learning+3