AWS 年化营收已达 1000 亿美元,Matt Garman 仍看到 10 倍的迁移空间

原标题AWS Is a $100 Billion Cloud. Matt Garman Still Sees a 10x Migration Ahead

亚马逊云科技(AWS)的新任 CEO 向 No Priors 讲述:为什么 85% 的工作负载(workload)仍在本地部署,Bedrock 如何由三项押注搭建而成,以及为什么创业公司仍是公司的增长引擎。

SGSarah Guo主持 · Conviction
频道
No Priors
发布
2024年8月29日
视频
42:59
阅读
13 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matt Garman 在公司工作 18 年后,于 2024 年 5 月出任 AWS CEO。他对 Sarah Guo 和 Elad Gil 说,据行业估计,约 85% 的工作负载仍然跑在本地数据中心里。即便不计入新的生成式 AI 需求,这些尚未迁移的存量本身就是一门 10 倍规模的生意,叠加在 1000 亿美元的年化营收之上。他讲述了 AWS 以基础构件起家的起源、用十年时间逐一满足银行和情报界要求的经历、围绕 Bedrock 的三项平台押注、芯片和电力的紧张市场,以及他以惨痛代价学到的一条创业教训:创业公司往往是在现金耗尽时死掉的。

  1. 1据大多数估计,约 85% 的工作负载仍在本地运行。即便不算新的生成式 AI 任务,Garman 说,这部分存量迁移也是叠加在 AWS 1000 亿美元年化营收之上的 10 倍机会。
  2. 2AWS 早期的加速器是熟悉感:一台 EC2 实例就是一台 Linux 服务器,30 秒即可启动;S3 仍然是 put、get 和 delete。先给人们已经熟悉的基础构件,之后再加上 Lambda 和 Bedrock。
  3. 3一笔机密的美国情报界云计算合同,在 IBM 起诉之前一直无法公开。随后,各机构公开表示 AWS 是能力最强的运营商;Garman 承认,这一认可里有一部分是运气。
  4. 4AWS 生成式 AI 的三项押注是:客户永远不会停止关心安全;模型会是很多个,并非只有一个;企业真正的知识产权是数据,数据既不能泄漏进模型,也不能流出其所在的环境。
  5. 5自有模型很重要,但并非生死攸关。Titan 嵌入模型已经是 Bedrock 上用得最多的嵌入模型;Garman 仍称 Anthropic 的 Claude 是当今世界上表现最好的模型,并在 Meta 发布 Llama 3.1 当天就把它上线。
  6. 6他给 AI 创业者的建议很不浪漫:创业公司倒闭的唯一原因,就是钱花光了。他的第一家公司融了 2700 万美元,在 18 个月内烧光,并在 2000 年代初的融资窗口关闭时倒闭。
全文

按章节阅读整理后的全文

只看原始文稿
01

年化 1000 亿美元的营收,仍只建立在全球约 15% 的工作负载之上

Matt Garman 于 2024 年 5 月出任 AWS CEO,他并不是外来者。2005 年,他还在商学院读书,就在 Andy Jassy 手下参与了 AWS 发布前团队的实习;之后他回到公司,成为第一位产品经理。如今他已在这项业务上待了 18 年。在这段时间里,AWS 从零成长为年化营收 1000 亿美元的公司。Guo 和 Gil 还提到了更近一段时间的数字:2010 年营收约为 5 亿美元,去年约为 900 亿美元,十四年间增加了近 895 亿美元营收。

Garman 希望人们细细琢磨的,并不是那 1000 亿美元。据大多数行业估计,他说,约 85% 的工作负载仍然在本地数据中心运行,视统计者不同,这个比例大致在 80% 到 90% 之间。在计入每天都在产生的生成式 AI 新需求之前,这部分存量本身就是一门 10 倍规模的生意。在他看来,云计算仍是少数几个足以改变每个行业的大机会之一,而 AWS 仍处于自身潜力尚未展开的早期阶段。

02

一名实习生押注一家卖书的公司,把算力当作熟悉的构建模块来卖

Garman 在商学院之前就在创业公司工作过,他想看看大公司如何做内部创业。Jassy 直到他正式入职才肯描述这项新技术业务的细节。他还是加入了,帮忙起草了最初的计划,判断哪些公司可能会用到首批服务,之后全职回来,成为 AWS 的第一位产品经理。此后多年,他都得解释,为什么一家卖书的公司要提供算力和存储。在市场眼中,亚马逊还没被看作深度技术公司,其实它早已是;在市场看来,这类平台最理所当然的开创者,应当是谷歌这样的名字。

他认为,最终胜出的产品思路是构建基础模块,并非一种新的宗教。照他的说法,谷歌以及后来的微软,在切入这个品类时,仿佛开发者应该改变自己构建应用的方式。AWS 的起点,大约是 2003 年亚马逊内部的一项要求:Jeff Bezos 要求公司把一个受扩展性限制的单体系统拆分成服务。这套做法跑通之后,团队推测其他公司也会撞上同样的墙。他们从第一性原理出发,问创业公司起步需要什么:计算、存储、数据库。然后,他们在不强迫用户采用新架构的前提下,把这些能力发布了出来。

早期的 EC2 实例就是一台 Linux 服务器,它可以自动扩缩,30 秒就能启动。那时候,创业公司通常要去托管机房、买机柜,然后等上多达半年才能拿到一台机器。S3 的 put、get 和 delete 有点不同寻常,但存储这个概念本身并不陌生。正是这种熟悉感,让人们可以立刻动手构建。直到后来,AWS 才加入了 Lambda 和 Bedrock 这类更奇特的原语。Elad Gil 在 2007 年或 2008 年,就用这个年轻的平台做过他的第一家公司;在他的公司被 Twitter 收购之后,数据中心的容量规划成了真正令人头疼的事,需要一个专门的团队来扛。云计算抹掉了这一类岗位。

03

先攻最难的工作负载,再用十年逐条核对每家银行的清单

大型企业并不是早期的信徒。Guo 记得,直到 2010 年,大型金融机构还告诉她,它们出于安全考虑绝不会使用公有云,AWS 在成本上不可能胜过它们,它们自己的平台更好,而这个新来者并不可靠。Garman 把一次转折性的交谈,追溯到 2008 年或 2009 年的一次纽约之行。高盛、摩根大通等同行当时正在做调研,想看看怎样才能让内部 IT 更高效。他们说得很客气,也很明确:它们的工作负载永远不会跑在 AWS 上;网站也许有一天可以,但那是以后的事。

AWS 的回应是:问为什么,把合规、审计和监管要求一一写下来,然后用接下来十年的时间逐一满足。策略是先解决最难的工作。如果摩根大通能在 AWS 上运行,如果美国某个情报机构能在 AWS 上运行,其他人的异议就会变得很小。创业公司从未被放弃,公司只是两手一起抓。他入职一年后,对一位商学院同学说,AWS 可以成为一门 10 亿美元的生意。那位同学问他,知不知道 10 亿美元有多大。如今,它的年化营收已达 1000 亿美元。

让公司获得可信度的,是一份机密的美国情报界云计算合同,AWS 在与惠普、IBM、甲骨文及其他老牌供应商的竞争中胜出。因为保密,这件事无法对外说。IBM 起诉,认为招标过程不公平。这场诉讼让授标变得公开,各机构随后当众表示,AWS 是技术上最先进、能力最强、运营上也最强的选择。Garman 承认,这场诉讼里有运气的成分;没有它,这项认可或许仍然是机密。对企业来说,政府说你是最好的运营商,其分量超过任何营销活动。

剩下的 85% 之所以停滞,原因有几个。没有一个简单的按钮,能把大型机变成微服务和容器,而这恰恰是客户真正想要的;大型 SAP 系统又和周边系统纠缠在一起。在核心 IT 之外,电信 5G 负载和工厂车间的控制系统几乎还没有现代化。AI 可以重写这些工作流程,但市场几乎没有动静。本地数据中心的折旧仍在摊销,还有一些人的工作就是运维那些机房。Garman 后来说,AWS 最初的理念是:“我们替你处理脏活,你就不用操心。”他认为,生成式 AI 终于有可能加快清理这些脏活。

04

三项押注,不靠一个模型:安全、多样性,以及数据永不外流

AWS 在 AI 上投入已有十年,五六年前开始自研处理器,因为芯片是一场周期很长的押注,而团队看到了需求正在到来。Garman 说,OpenAI 的突破在某种意义上是对可能性的一次发现。之后,公司退后了半步,问了一个平台层面的问题:如果这项技术持续变好,每家公司要怎样基于它来构建?他们关心的是创业公司和企业需要什么样的构建基础模块;AWS 自己要不要推消费级应用,并不在这个问题之内。

随之形成了三条假设。客户不会突然不再关心基础设施的安全。模型也不会只有一种:会有大模型、小模型,以及把它们组合起来的新方式。这一判断在 ChatGPT 刚发布时没那么显而易见,但两年后看来是对的。而企业带来的、真正有价值的知识产权,主要是数据,数据既不能泄漏回模型里,也不能逃出其所在的环境。基于这些原则,诞生了 Bedrock、Trainium 和 Inferentia 芯片,以及一排自有模型和开放权重(open-weight)模型。在 Bedrock 上,用户送进 Token,拿回 Token,从不需要接触 GPU。

问到自有模型有多重要,Garman 说它们重要,但并非关键。谷歌是拥有真正自有旗舰模型 Gemini 的超大规模云厂商;微软则与 OpenAI 深度绑定,最近又把它列为主要竞争对手。AWS 的 Titan 嵌入模型,已经是 Bedrock 中用于搜索索引的最常用嵌入模型。公司也在训练更大的自有模型。他称 Anthropic 的 Claude 是当下世界上表现最好的模型,而 AWS 在 Meta 发布 Llama 3.1 的当天,就把 Llama 3.1 上线了。企业喜欢开放权重,因为可以进行微调(fine-tuning)和蒸馏(distillation),并加入自己的数据。他举的专用模型例子,是基于 AWS 构建的 Adobe Firefly。

开源立场是 AWS 的老原则。“我希望客户愿意在我们这里运行,”Garman 说,而不是被困在微软的许可证或老派的甲骨文数据库里。Aurora 与 PostgreSQL 100% 兼容:代码搬到别处同样能运行,只是没那么好用。Gil 引用了 AWS 前高管 Alyssa Henry 的话:AWS 热爱开源,而且从开源中赚到的钱,比任何一家开源公司都多。围绕模型,Garman 正在把这些能力做成平台:面向依据(grounding)和实时事实的知识库(knowledge bases);护栏(guardrails),比如一个开始给出投资建议的银行聊天机器人,可能招来真实的罚款;真正会执行动作、而不只是做摘要的智能体式工作流(agentic workflows);一直延伸到工业边缘设备的微调与蒸馏;以及评测(eval)。Scale AI 负责标注数据,LangChain 帮助开发智能体。他后来还认为,推理将成为一种默认的应用构建模块,它也会有不同的版本,就像算力有英特尔或 Graviton 之分,存储有块存储或对象存储之分一样。

05

芯片工厂、电力和吉瓦:行业将持续紧张,推理(inference)必须胜出

产能在一段时间内仍会受限。半导体芯片工厂要好几年才能建成。台积电在加速,但内存厂商、数据中心和电力都在追赶一条需求曲线,而“指数级”这个说法,可能还低估了它。Garman 说,需求看起来几乎是无限的。AWS 的应对是多元化,以及它早已熟练的准备工作:18 年的资本配置经验、自己购买电力,并坚持让电力来自绿色能源。过去四五年里,公司每年都是新增可再生能源合同的最大买家。定制芯片与英伟达并存,并不打算取代英伟达。他指出,英伟达自己的 AI 训练集群也运行在 AWS 上,因为这里的基础设施最稳定,性能也最好。

Trainium 和 Inferentia 就是这种多元化的体现,随着时间推移,预计部分工作负载在它们上运行会更好、更便宜。如今训练和推理的比例大致是五五开,但“要让这笔账算得过来,推理负载必须占主导”,否则对大模型的投资就回不了本。一些基础模型客户谈到,需要吉瓦(GW)级的电力。资本支出动辄数百亿乃至数千亿美元。AWS 的应对,是购买土地、电力这类通用性强的资产:如果曲线的斜率变了,这些资产仍可再利用。同时,它对那些做出超大规模长期承诺的客户,给出更优惠的价格。年增长率达数百个百分点的业务无法被干净地预测,所以计划是为上行空间保留缓冲。

06

创业公司死于现金耗尽,而没有哪家董事会愿意把 GPU 管理当作核心能力

被问到,如果 AI 创业者现在必须像 2005 年的创业公司那样考虑机柜,那么他会对他们说什么,Garman 的回答很直接。要有变现计划。不要以为风险投资总会替你把油箱重新加满。“任何创业公司倒闭的唯一原因,都是钱花光了。”他的第一家公司先融了 2700 万美元,后来又融了一大笔,大约 18 个月就烧光了,并在 2000 年代初的融资窗口关上时倒闭。他说,炒作周期并不能保证半年后再冒出一个 10 亿美元的机会。

Guo 注意到,在她的 AI 投资组合里,花钱多和进展快并不总是同步。Gil 问价值最终会流向哪里:是算力供应商、模型供应商,还是应用。这是过去几波软件浪潮里的经典提问,常见于路演 PPT。Garman 说,目前大部分利润流向英伟达,因为周期还很早,考虑到这项技术的特点,这也可以理解。长期来看,价值属于那些解决了真实企业问题的人:销售更快、制造更好,或者做到公司以前做不到的事。大多数公司不会自己训练模型,就像不会从零写一套 CRM;它们会在可能略作调整的模型之上,使用类似 Salesforce 的应用。他看到的瓶颈,是概念验证的墓场。谁能把跑通的试点变成生产,谁就能抓住需求。

Guo 有一种似曾相识的感觉:大型组织坚持说没有任何供应商能满足它们的需求,于是它们要自己去做数据管理、GPU 调度、评测和合规。Garman 已经听过很多遍这出戏的后续。客户事后常说,如果平台早就有这个功能,他们就不会自己去做了。管理 GPU,并不是股东心目中企业擅长的事。这一层应该属于 SageMaker、AWS,或者合作伙伴,并与数据湖集成。对他来说,未来三到五年的重点,是把这些脏活抽象掉,让 Bedrock 保持“Token 进、Token 出”,也让推理像算力、存储和数据库一样,成为寻常的构建模块。

Guo 的最后一个问题是:一个年化 1000 亿美元的业务,为什么还要在创业公司上花这么多时间,而按常规建议,应该先选定一类受众,再向高端市场进军。Garman 毫不犹豫。创业公司是 AWS 增长的命脉。公司从它们身上学到了大量东西,它们将一直非常重要;如果说有什么变化,那就是 AWS 会在支持它们上投入得更多。

同频道的其他文章

39:23EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年10月15日播客 · 2 人对谈防守方的窗口期:Greg Brockman 谈 AI 生成知识、药物研发与网络安全的新规律主持 Sarah Guo, Elad GilOpenAI 总裁解释了为什么攻克未解的数学难题,是科学领域的有力证据,主动式智能体(Agent)如何改变产品形态,以及为什么安全支出必须超过软件支出。安全AI security安全与治理+3
1:09:44EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年10月9日播客 · 2 人对谈1 万块 GB300 跑四周:Reflection 的开源模型账本主持 Sarah Guo, Elad GilMisha Laskin 在 No Priors 节目中讲述 Reflection 如何训练 Beam、为什么强化学习的投入超过了预训练,以及为什么西方需要自己的开源权重。开源与社区Open-weight modelsReinforcement Learning+3
35:39EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年10月2日播客 · 2 人对谈算力涨了百万倍,带宽只涨 40 倍,Fractile 想修正这个比例主持 Sarah Guo, Elad Gil2022 年夏天,Walter Goodwin 在伦敦创办 Fractile,目标是为全球最大的模型打造速度极快的推理(inference)芯片。基础设施与部署InferenceAI cost & performance+3
42:44EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年9月24日播客 · 2 人对谈他们花 77 亿美元买下一家经纪公司,计划每年只做一笔交易主持 Sarah Guo, Elad GilSequence Holdings 联合创始人 Michael Lee 向 No Priors 解释,真正用 AI 改造老牌企业的办法,是拥有一家市场领导者,而不是把软件卖给它。企业与战略企业 AIAI Strategy+3
38:14EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年9月18日播客 · 2 人对谈扩散模型将赢得推理之战:Stefano Ermon 押注并行生成的 Token 能胜过定制芯片主持 Sarah Guo, Elad Gil斯坦福大学扩散模型先驱在《No Priors》节目中说,一家 50 人的实验室正在训练一次能生成多个 Token 的语言模型,并解释这种模型与 GPU 的适配,就像当年 Transformer 与训练的适配一样。模型与训练InferenceAI cost & performance+3
45:10EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年9月10日播客 · 2 人对谈76% 的代理商务交易不到 30 美分,于是 Coinbase 要为 AI 开户主持 Sarah Guo, Elad GilBrian Armstrong 与 Elad Gil 的对话,讲的是 Coinbase 如何变成“万物交易所(everything exchange)”,为什么卡组织无法为智能体之间的支付定价,以及他的长寿公司正把什么带进临床。智能体Agentic commerce金融 AI+3