筛选结果
17 篇排序
1:50:48EN → 简体中文为什么推理比训练重要 12 倍François Chaubard, Dan Fu, Jeff Morgan, Joe Fioti, Liangsheng Yin · Y CombinatorYC Paper Club 从一次 API 请求一路讲到 GPU kernel。Together AI、Ollama、Luminal 和 SGLang 的四场演讲认为:现在算力和钱大多压在推理服务质量上,而不只是训练 FLOPs。
38:14EN → 简体中文扩散模型将赢得推理之战:Stefano Ermon 押注并行生成的 Token 能胜过定制芯片主持 Sarah Guo, Elad Gil斯坦福大学扩散模型先驱在《No Priors》节目中说,一家 50 人的实验室正在训练一次能生成多个 Token 的语言模型,并解释这种模型与 GPU 的适配,就像当年 Transformer 与训练的适配一样。
1:10:15EN → 简体中文100 倍藏在各层之间:Dylan Patel 谈协同设计,以及一年降本 60 倍SemiAnalysis 创始人认为,让模型、算子和芯片彼此匹配,才能把这里的 2 倍、那里的 2 倍叠加成 100 倍;与此同时,同等质量的推理(inference)成本一年里便宜了约 60 倍。
59:06EN → 简体中文推理成本降了 100 倍,Tri Dao 说还能再降 10 倍,英伟达 90% 的份额守不住主持 Jacob EffronFlashAttention 作者、Together AI 首席科学家谈为什么硬件可移植性是个神话,Claude Code 如何把他的效率提升到原来的 1.5 倍,以及为什么工作负载会瓜分芯片市场。
46:35EN → 简体中文他们 20 小时训练出实时视频模型,绕过了游戏引擎Decart 的 CEO Dean Leitersdorf 向红杉讲述了 Oasis 如何在 H100 上实时运行,为什么 ChatGPT 更像是被跨过的一堵墙,而不只是一个痛点的解法,以及下一家万亿美元公司或许是一种生成出来的体验。
36:49EN → 简体中文黄仁勋:英伟达已不再造电脑,它造的是 AI 工厂主持 Sarah Guo, Elad Gil英伟达 CEO 在 No Priors 节目中讲解了超级摩尔定律、NVLink、几周内搭建起来的 10 万块 GPU 集群,以及为什么 token 成了新的大宗商品。
39:18EN → 简体中文同等规模下开源与闭源将打平:PyTorch 前负责人谈快速推理Meta 一次原计划六个月的库替换,最后变成了五年的重建。Lin Qiao 希望整个行业能在五周内拿到这套技术栈。
1:52:18EN → 简体中文两周,三十多次编译:Adam Majmudar 如何从零写出一块 GPU主持 Nathan Labenz在《Cognitive Revolution》播客里,Majmudar 带我们走了一遍 TinyGPU:从 SIMD 内核、访存延迟,到能在笔记本上跑起来的开源芯片流程。
1:42:17EN → 简体中文最便宜的推理服务商,才是最危险的主持 Nathan LabenzFireworks AI 的两位联合创始人 Lin Qiao 和 Dmytro Ivchenko 解释了补贴出来的 GPU 账单为什么会消失,低秩适配(LoRA)服务如何能把成本降低百倍,以及真正值得在意的对手为什么是 OpenAI。
38:33EN → 简体中文速度是可以花钱买的:Baseten 押注推理(inference)主持 Sarah Guo, Elad GilTuhin Srivastava 向 Sarah Guo 和 Elad Gil 解释,为什么一家六人的聊天机器人公司,每天要跑十亿个 Token,也不该自己搭建推理服务栈。
2:30:06EN → 简体中文训练 token 只有 GPT-4 的三十分之一,Mamba 在 Transformer 的主场赢了主持 Nathan Labenz在一期单人紧急节目中,Nathan Labenz 认为,Albert Gu 和 Tri Dao 提出的选择性状态空间模型,是 2017 年以来第一个有资格与 Transformer 分享王座的架构。
3:08:46EN → 简体中文谁掌握关机开关?George Hotz 谈 tinygrad、开源 AI 与上帝嘉宾 George Hotz · 主持 Lex Fridman这是他第三次做客 Lex Fridman 的播客。comma.ai 和 tiny corp 的创始人主张,算力、智能和关机开关应当留在普通人家里,而不是掌握在少数可信之人手中。
3:34:03EN → 简体中文Python 还没有完成:Chris Lattner 谈 Mojo 与硬件的乱局嘉宾 Chris Lattner · 主持 Lex FridmanLLVM 的创造者重返 Lex Fridman 的节目,主张 Python 应当获得接近 C 的性能,而非被迫让人离开这门语言。
52:11EN → 简体中文黄仁勋:25 年来,99% 的人都看对了,英伟达押注的是那 1%主持 Sarah Guo, Elad Gil英伟达 CEO 在“No Priors”节目中讲述:CUDA 如何在十年没有客户的情况下活了下来,公司为什么要尽量偷懒,以及他希望为药物和气候打造什么。
1:44:11EN → 简体中文一块 GPU 就够了:Jeremy Howard 谈如何教深度学习嘉宾 Jeremy Howard · 主持 Lex Fridmanfast.ai 创始人在与 Lex Fridman 的对话中说,真正决定深度学习(deep learning)能否帮到人的,是领域专家,再多的论文或 TPU 都无济于事。
1:01:23ENJensen Huang on AI Factories, Digital Workers and Why the Build-Out Has Barely BegunNvidia's CEO tells a room of institutional investors how accelerated computing led to AI factories, and where agentic AI, robotics and sovereign AI go next.
17:19ENFrom Atoms to Data Centers: How a Modern Processor Finds Parallelism in a Serial Program嘉宾 Jim Keller · 主持 Lex FridmanJim Keller walks through the layers of abstraction in computer design, from transistors to out-of-order execution, branch prediction and deterministic answers.









