筛选结果
14 篇排序
1:47:38EN → 简体中文19 个神经元就能开车,Liquid AI 想把基础模型装进每一块芯片主持 Nathan LabenzRamin Hasani 从线虫只有 300 个细胞的大脑讲起,一直讲到将在梅赛德斯-奔驰汽车里开口说话的 600 兆字节模型,并解释为什么如今的架构搜索,已经胜过那些凭经验拍板的“架构复仇者”。
2:59:44EN → 简体中文两门濒危语言难倒了 Transformer,嵌套学习给模型加上“睡眠”按钮主持 Nathan LabenzGoogle 研究员 Ali Behrouz 向 Nathan Labenz 讲解,语言模型要获得真正的持续学习,不能只堆叠层数,还要堆叠更新频率,并加入一个离线的睡眠阶段。
2:02:17EN → 简体中文稀疏自编码器找名词,参数分解找动词主持 Nathan LabenzGoodfire 的 Lee Sharkey 认为,稀疏自编码器(SAE)还原的是网络里的变量,却还原不了这些变量运行的算法。他还介绍了随机参数分解(SPD)如何尝试还原计算本身。
1:54:08EN → 简体中文为什么 Anthropic 的第一笔投资给了一家为神经网络造显微镜的公司主持 Nathan LabenzGoodfire 的 Dan Balsam 和 Tom McGrath 认为,机制可解释性(mechanistic interpretability)如今已经有了一个准范式,留着两道顽固的缺口,还有三款今天就值得推出的产品。
1:43:54EN → 简体中文培育一个脑类器官要一年,模拟一次只要一小时主持 Nathan Labenz斯坦福博士后 Siyu He 向 Nathan Labenz 讲述 Squidiff 和 CORAL 如何把单细胞实验与空间实验搬进电脑,以及这些模型目前还做不到什么。
1:40:22EN → 简体中文20 原子晶体教会 AI 心跳的物理学主持 Nathan LabenzOrbital Materials 的 Jonathan Godwin 和 Tim Duignan 向 Nathan Labenz 讲述,一个在微小晶体上训练的神经网络,如何在一块 2017 年款 GPU 上模拟了钾离子通道。
1:42:16EN → 简体中文七个月里 267 篇后续论文:Albert Gu 讲述状态空间模型的革命主持 Nathan LabenzMamba 合著者回顾了五年来的循环模型研究,讲选择性压缩为什么比不断增长的 KV 缓存(KV cache)更有效,以及 Mamba 2 为了让训练更快放弃了什么。
1:54:01EN → 简体中文一个小网络长出了盐晶体,而训练数据里从来没有它主持 Nathan LabenzTim Duignan 用盐水训练了数万个参数。模型“发明”了一种晶体,还推出了一套连续介质溶剂理论(continuum solvent theory);而他读博期间花了整整一个博士阶段,也没能手工把这套理论写出来。
1:52:18EN → 简体中文两周,三十多次编译:Adam Majmudar 如何从零写出一块 GPU主持 Nathan Labenz在《Cognitive Revolution》播客里,Majmudar 带我们走了一遍 TinyGPU:从 SIMD 内核、访存延迟,到能在笔记本上跑起来的开源芯片流程。
1:19:24EN → 简体中文一段乱码提示词,能读出 GPT-J 提前三个 token 的规划主持 Nathan Labenz美国东北大学的 Bau 实验室发现,一个 4 万参数的软提示(soft prompt)能读出模型接下来要说的词,而大约十个注意力头(attention head)承载着任务本身。
2:30:06EN → 简体中文训练 token 只有 GPT-4 的三十分之一,Mamba 在 Transformer 的主场赢了主持 Nathan Labenz在一期单人紧急节目中,Nathan Labenz 认为,Albert Gu 和 Tri Dao 提出的选择性状态空间模型,是 2017 年以来第一个有资格与 Transformer 分享王座的架构。
1:40:07EN → 简体中文每秒 30,000 次电压更新:深入 Skydio 的自主技术栈主持 Nathan LabenzHayk Martiros 带 Nathan Labenz 逐一了解一架约 0.9 公斤重的无人机:它能看向四面八方,机上运行十多个神经网络,而且不会被武器化。
1:52:46EN → 简体中文给神经网络的连接按长度收费,黑箱就拆成了看得见的模块主持 Nathan LabenzMIT 物理学家 Ziming Liu 向 Nathan Labenz 讲解 BIMT,这是一种受大脑启发的训练技巧,能把网络稀疏到用眼睛就能读懂的程度。
1:21:20EN → 简体中文冻结眼睛和大脑,只训练视神经主持 Nathan LabenzJunnan Li 和 Dongxu Li 向 Nathan Labenz 讲述了 BLIP 如何清洗嘈杂的网页图像说明,以及 BLIP-2 如何在一块 A100 上、不到十天的时间里,把一个冻结的视觉模型接到一个冻结的语言模型上。








