摘要
30 秒看懂
Rene Haas 认为 CPU 与 AI 加速器并存,并讨论训练和推理周边的编排工作。具体分工取决于系统设计。
- 1系统组件Haas 预计 CPU 将继续是计算系统的一部分。
- 2变化的工作负载训练和推理需要更广泛的系统支持。
- 3协调硬件和软件共同承担编排与路由工作。
要点建议
- AI 加速器运行在更大的系统中。
- CPU 可以支持控制与协调。
- 工作分工随架构变化。
全文
按章节阅读整理后的全文
01
CPU 与加速器
Arm CEO Rene Haas 认为,即使专用 AI 加速器越来越突出,CPU 在计算系统中仍然重要。
Arm CEO Rene Haas 认为,即使专用 AI 加速器越来越突出,CPU 在计算系统中仍然重要。
他将 CPU 描述为整体系统设计的一部分,而不是把加速器当成整个系统。
02
系统编排
Haas 讨论训练、强化学习和推理等工作负载,并说周边基础设施必须协调数据与执行。
Haas 讨论训练、强化学习和推理等工作负载,并说周边基础设施必须协调数据与执行。
他用运输作类比解释编排与路由;具体分工会随硬件和软件架构变化。
同频道的其他文章
38:06EN → 简体中文Serval 的 Jake Stauch:面向企业 IT 的编程智能体嘉宾 Jake Stauch · 主持 Sarah Guo, Elad GilStauch 解释 Serval 为什么挑战 ServiceNow、如何处理权限与审批,以及为什么后台智能体仍然难以安全部署。
1:07EN → 简体中文George Kurtz 谈 AI 可能如何改变网络攻击嘉宾 George KurtzCrowdStrike 首席执行官介绍他对威胁变化的判断。
39:23EN → 简体中文防守方的窗口期:Greg Brockman 谈 AI 生成知识、药物研发与网络安全的新规律主持 Sarah Guo, Elad GilOpenAI 总裁解释了为什么攻克未解的数学难题,是科学领域的有力证据,主动式智能体(Agent)如何改变产品形态,以及为什么安全支出必须超过软件支出。
1:04EN → 简体中文Walter Goodwin:芯片设计中缓慢的步骤嘉宾 Walter Goodwin一位芯片创始人解释自动化为何不能消除所有计算瓶颈。
1:09:44EN → 简体中文1 万块 GB300 跑四周:Reflection 的开源模型账本主持 Sarah Guo, Elad GilMisha Laskin 在 No Priors 节目中讲述 Reflection 如何训练 Beam、为什么强化学习的投入超过了预训练,以及为什么西方需要自己的开源权重。
35:39EN → 简体中文算力涨了百万倍,带宽只涨 40 倍,Fractile 想修正这个比例主持 Sarah Guo, Elad Gil2022 年夏天,Walter Goodwin 在伦敦创办 Fractile,目标是为全球最大的模型打造速度极快的推理(inference)芯片。