最近更新的频道

点选即可只看该频道浏览全部频道 →

筛选结果

16 篇
排序
32 张幻灯片1:50:48EN → 简体中文
Y Combinator· 2026年10月24日为什么推理比训练重要 12 倍François Chaubard, Dan Fu, Jeff Morgan, Joe Fioti, Liangsheng Yin · Y CombinatorYC Paper Club 从一次 API 请求一路讲到 GPU kernel。Together AI、Ollama、Luminal 和 SGLang 的四场演讲认为:现在算力和钱大多压在推理服务质量上,而不只是训练 FLOPs。InferenceGPU programming & kernelsKV caching & prefix reuse+2
38:14EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2026年9月18日播客 · 2 人对谈扩散模型将赢得推理之战:Stefano Ermon 押注并行生成的 Token 能胜过定制芯片主持 Sarah Guo, Elad Gil斯坦福大学扩散模型先驱在《No Priors》节目中说,一家 50 人的实验室正在训练一次能生成多个 Token 的语言模型,并解释这种模型与 GPU 的适配,就像当年 Transformer 与训练的适配一样。模型与训练InferenceAI cost & performance+3
1:10:15EN → 简体中文
Sequoia Capital· 2026年6月30日播客100 倍藏在各层之间:Dylan Patel 谈协同设计,以及一年降本 60 倍SemiAnalysis 创始人认为,让模型、算子和芯片彼此匹配,才能把这里的 2 倍、那里的 2 倍叠加成 100 倍;与此同时,同等质量的推理(inference)成本一年里便宜了约 60 倍。基础设施与部署InferenceBenchmarks+3
59:06EN → 简体中文
Unsupervised Learning: With Jacob Effron· 2025年9月10日播客推理成本降了 100 倍,Tri Dao 说还能再降 10 倍,英伟达 90% 的份额守不住主持 Jacob EffronFlashAttention 作者、Together AI 首席科学家谈为什么硬件可移植性是个神话,Claude Code 如何把他的效率提升到原来的 1.5 倍,以及为什么工作负载会瓜分芯片市场。基础设施与部署InferenceAI cost & performance+3
46:35EN → 简体中文
Sequoia Capital· 2024年11月13日播客他们 20 小时训练出实时视频模型,绕过了游戏引擎Decart 的 CEO Dean Leitersdorf 向红杉讲述了 Oasis 如何在 H100 上实时运行,为什么 ChatGPT 更像是被跨过的一堵墙,而不只是一个痛点的解法,以及下一家万亿美元公司或许是一种生成出来的体验。多模态与媒体Generative media视觉与视频+3
36:49EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年11月7日播客 · 2 人对谈黄仁勋:英伟达已不再造电脑,它造的是 AI 工厂主持 Sarah Guo, Elad Gil英伟达 CEO 在 No Priors 节目中讲解了超级摩尔定律、NVLink、几周内搭建起来的 10 万块 GPU 集群,以及为什么 token 成了新的大宗商品。基础设施与部署AI cost & performanceInference+3
39:18EN → 简体中文
Sequoia Capital· 2024年8月13日播客同等规模下开源与闭源将打平:PyTorch 前负责人谈快速推理Meta 一次原计划六个月的库替换,最后变成了五年的重建。Lin Qiao 希望整个行业能在五周内拿到这套技术栈。基础设施与部署Inference微调+3
1:52:18EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年5月6日播客两周,三十多次编译:Adam Majmudar 如何从零写出一块 GPU主持 Nathan Labenz在《Cognitive Revolution》播客里,Majmudar 带我们走了一遍 TinyGPU:从 SIMD 内核、访存延迟,到能在笔记本上跑起来的开源芯片流程。基础设施与部署GPU programming & kernelsOpen-source ecosystems+2
1:42:17EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年4月20日播客最便宜的推理服务商,才是最危险的主持 Nathan LabenzFireworks AI 的两位联合创始人 Lin Qiao 和 Dmytro Ivchenko 解释了补贴出来的 GPU 账单为什么会消失,低秩适配(LoRA)服务如何能把成本降低百倍,以及真正值得在意的对手为什么是 OpenAI。基础设施与部署InferenceAI cost & performance+3
38:33EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年3月21日播客 · 2 人对谈速度是可以花钱买的:Baseten 押注推理(inference)主持 Sarah Guo, Elad GilTuhin Srivastava 向 Sarah Guo 和 Elad Gil 解释,为什么一家六人的聊天机器人公司,每天要跑十亿个 Token,也不该自己搭建推理服务栈。基础设施与部署InferenceAI cost & performance+3
2:30:06EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年12月22日播客训练 token 只有 GPT-4 的三十分之一,Mamba 在 Transformer 的主场赢了主持 Nathan Labenz在一期单人紧急节目中,Nathan Labenz 认为,Albert Gu 和 Tri Dao 提出的选择性状态空间模型,是 2017 年以来第一个有资格与 Transformer 分享王座的架构。模型与训练Transformers & attentionAI research+3
3:08:46EN → 简体中文
Lex Fridman· 2023年6月29日播客 · 2 人对谈谁掌握关机开关?George Hotz 谈 tinygrad、开源 AI 与上帝嘉宾 George Hotz · 主持 Lex Fridman这是他第三次做客 Lex Fridman 的播客。comma.ai 和 tiny corp 的创始人主张,算力、智能和关机开关应当留在普通人家里,而不是掌握在少数可信之人手中。开源与社区基础设施与部署Open-source ecosystems+3
3:34:03EN → 简体中文
Lex Fridman· 2023年6月2日播客 · 2 人对谈Python 还没有完成:Chris Lattner 谈 Mojo 与硬件的乱局嘉宾 Chris Lattner · 主持 Lex FridmanLLVM 的创造者重返 Lex Fridman 的节目,主张 Python 应当获得接近 C 的性能,而非被迫让人离开这门语言。基础设施与部署AI platform engineeringSoftware engineering+3
52:11EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年4月20日播客 · 2 人对谈黄仁勋:25 年来,99% 的人都看对了,英伟达押注的是那 1%主持 Sarah Guo, Elad Gil英伟达 CEO 在“No Priors”节目中讲述:CUDA 如何在十年没有客户的情况下活了下来,公司为什么要尽量偷懒,以及他希望为药物和气候打造什么。基础设施与部署GPU programming & kernelsAI platform engineering+3
1:44:11EN → 简体中文
Lex Fridman· 2019年8月27日播客 · 2 人对谈一块 GPU 就够了:Jeremy Howard 谈如何教深度学习嘉宾 Jeremy Howard · 主持 Lex Fridmanfast.ai 创始人在与 Lex Fridman 的对话中说,真正决定深度学习(deep learning)能否帮到人的,是领域专家,再多的论文或 TPU 都无济于事。模型与训练Deep Learning机器学习基础+3
1:01:23EN
Citadel Securities播客Jensen Huang on AI Factories, Digital Workers and Why the Build-Out Has Barely BegunNvidia's CEO tells a room of institutional investors how accelerated computing led to AI factories, and where agentic AI, robotics and sovereign AI go next.企业与战略基础设施与部署AI Strategy+3