AWS 首席执行官 Matt Garman 谈 AI 智能体的云基础设施

AWS 首席执行官 Matt Garman 与 a16z 的 Raghu Raghuram 讨论面向 AI 智能体的云基础设施、创业公司需求、芯片及企业采用。讨论反映了 AWS 作为相关市场服务商的立场和商业利益。

两人提到 AWS 约 1,690 亿美元的年化收入运行率和 37% 的增长。Amazon 的 [2026 年第二季度文件](https://www.sec.gov/Archives/edgar/data/1018724/000101872426000024/amzn-20260630xex991.htm)将前一数字明确列为年化运行率，而非过去一年实际收入。

Garman 说，创业公司长期以来对 AWS 很重要：小客户可能成长为大企业，也经常推动供应商开发新能力。他对来自昔日创业公司收入占比的估计是内部近似值。

他认为，AI 原生创业公司一开始的计算需求往往比许多早期软件公司更大。同时，它们仍需要数据库、扩展、安全和成本管理等熟悉的能力。

随着智能体编写和运行软件，Garman 说 AWS 正在调整现有服务，也在建设面向智能体的能力。他以快速创建基础设施为例，说明某些工作流可能需要不同默认设置。

他认为延迟、吞吐和尾部性能对人和智能体都很重要。某些智能体工作流快速创建短期资源，可能暴露服务设置中的摩擦。

主持人观察到，创业公司越来越多使用编程智能体。Garman 说，许多客户仍会明确选择云供应商，另一些人则在建立账户或基础设施之前就开始实验。

他介绍了简化 AWS 账户创建流程的逐步推出情况。产品可用性和要求可能变化，读者应直接核实当前注册流程，而不应假定访谈适用于所有账户。

智能体创建基础设施带来了持久性和速度问题。Garman 讨论如何在快速创建实验数据库与该数据库日后可能成为长期生产系统之间取得平衡。

权限是另一个问题。智能体应获得与任务和环境相称的访问权限，而非自动继承用户拥有的所有权限。Garman 提到 microVM 可以作为一种隔离构件。

Raghuram 询问，在大型 AI 实验室需要大量算力时，创业公司如何获得加速器。Garman 说 AWS 有意为较小客户保留部分供应，同时服务大型实验室和企业。

他说，需求与新增算力所需资本都大幅上升。客户能否获得资源仍可能取决于地点、时间和配置；他描述的是公司政策，并非保证。

AWS 与 NVIDIA 宣布计划在多年内增加 200 万块 GPU。他们的[联合公告](https://press.aboutamazon.com/aws/2026/8/aws-and-nvidia-to-deliver-2-million-additional-gpus-and-next-generation-infrastructure-for-agentic-and-physical-ai)描述的是计划部署量，并非访谈时已经交付的容量。

被问到 AI 基础设施是否存在泡沫时，Garman 说 AWS 因服务广泛客户和多类工作负载而对支出有信心。这是公司的判断；需求与回报仍存在不确定性。

他指出，许多创业公司会失败，即使其中少数取得巨大成功。AWS 的多元化论点取决于不同客户如何使用容量及未来需求，而不是每个客户都成功。

访谈讨论的 Amazon 2026 年约 2,200 亿美元资本支出指引覆盖整个公司，并非仅 AWS 的投资额。实际支出及其分配需另查财务文件。

Garman 说，电力规划现在要提前数年进行，包括发电、电网连接和输电。供应瓶颈可能在电力、内存、芯片制造和网络组件之间变化，也可能因地区而异。

谈到数据中心时，他介绍 AWS 在冷却、可再生能源和地方沟通方面的做法。这些是公司方面的说法；社区成本与收益取决于具体项目，需要独立的本地证据。

Garman 将 AWS 的芯片工作追溯到 Nitro：它把虚拟化功能从服务器主 CPU 转移出去。他说这一经验帮助团队建立了后来开发定制处理器所需的能力。

Graviton 从这些工作发展为基于 Arm 的服务器处理器。Garman 说客户使用它获得价格和性能方面的收益，但实际结果取决于应用及迁移工作量。

AWS 还为 AI 工作负载开发了 Trainium。Garman 说它现在同时用于训练和推理，并承载大量 Bedrock 流量；这些是 AWS 对自身基础设施的描述。

Garman 说，企业客户正在从建议行动的助手转向更自主的工作流。他表示，许多企业仍在弄清哪些环节适合自动化，以及哪些环节必须由人检查。

他鼓励团队重新设计工作流，而不是机械复制人的每一步。并行工作可能有用，但结果仍须满足业务的实际要求。

建立信任需要控制智能体可以访问和更改什么，还需要可观测性和评估。Garman 指出意外修改生产系统等风险，并说客户希望获得更强的保护措施。

评估必须反映真实任务和数据。他指出，准备具有代表性的标注样本很难，行业尚未解决可靠评估智能体的所有问题。

谈到模型隐私时，Garman 介绍 Bedrock 提供的保护措施，以及 AWS 将客户数据与模型提供商隔离的做法。具体保证取决于服务、模型和协议，用户应查看适用条款。

他认为，一些组织可能用自己的数据调整开放权重模型，以改善特定任务的表现或成本。微调与部署是可选路径，并不保证小模型总会更好。

讨论转向智能体安全与漏洞。Garman 说 AWS 正在投资控制措施，并提到 Continuum 服务利用客户环境上下文识别并排列问题的优先级。

他说 Amazon 内部也将 AI 用于安全，并向软件工程以外的员工推出工具。所报告的收益属于公司观察；讨论没有提供受控的生产力研究。

Garman 预计，随着人们尝试智能体，组织与团队结构将发生变化。他介绍了小团队尝试新工作方式，同时承认最终组织模式仍在探索中。