最近更新的频道

点选即可只看该频道浏览全部频道 →

筛选结果

24 篇
排序
7 张幻灯片1:16:29EN → 简体中文
JSJane Street· 2026年8月26日Grant Sanderson 与 Alok Puranik:从群论看位置编码Grant Sanderson, Alok Puranik · 3Blue1Brown从注意力机制的假设出发,他们推导矩阵指数,并将旋转、衰减和 Jordan 块与 RoPE、ALiBi 联系起来。Transformers & attentionMathematics机器学习基础+1
50:57EN → 简体中文
Unsupervised Learning: With Jacob Effron· 2026年7月9日播客一万亿美元的 GPU 五年后只值 1000 亿美元:LSTM 提出者 Jürgen Schmidhuber 这样说主持 Jacob Effron这位 AI 先驱在《Unsupervised Learning》节目中对 Jacob Effron 说,他为何对这项技术极为乐观,却对买下芯片的模型公司极为悲观。模型与训练通用人工智能AI research+3
2:59:44EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年6月3日播客两门濒危语言难倒了 Transformer,嵌套学习给模型加上“睡眠”按钮主持 Nathan LabenzGoogle 研究员 Ali Behrouz 向 Nathan Labenz 讲解,语言模型要获得真正的持续学习,不能只堆叠层数,还要堆叠更新频率,并加入一个离线的睡眠阶段。模型与训练Continual learningTransformers & attention+3
1:13:33EN → 简体中文
Unsupervised Learning: With Jacob Effron· 2026年6月3日播客一万亿个 Token 之后,概念终于落地:Łukasz Kaiser 谈 Transformer 仍然缺什么主持 Jacob Effron《Attention Is All You Need》合著者在 Unsupervised Learning 节目中表示,Transformer 大概率会继续胜出,但它们学习的方式仍然与人不同。模型与训练AI research编程智能体+3
2:12:00EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年5月15日播客测试时的梯度下降:Titans 把大语言模型(LLM)的上下文推到 1000 万个 Token主持 Nathan Labenz在 GPT-4 的成绩断崖式下跌的地方,这位康奈尔大学博士生的神经记忆模块仍能保持约 70% 的准确率。模型与训练Agent memory上下文工程+3
1:04:54EN → 简体中文
Unsupervised Learning: With Jacob Effron· 2024年11月12日播客他拿公司股权赌 Transformer 能撑下去,然后为 12000 家公司画出一张 AI 地图主持 Jacob EffronDatabricks 首席 AI 科学家 Jonathan Frankle 告诉企业,什么时候该用提示词、什么时候该微调或预训练,以及他为什么仍然不肯预测下一代架构。企业与战略Transformers & attentionPretraining & midtraining+3
1:18:32EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年9月20日播客一个能分辨哪些基因碰不得的 DNA 模型主持 Nathan Labenz斯坦福大学的 Brian Hie 讲解混合架构、一个只用 DNA 训练的基因组尺度语言模型,以及一种结合紧密程度比天然抗体高 25 倍的抗体。模型与训练AI for scienceComputational Biology+3
44:16EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年9月5日播客 · 2 人对谈一场完美的演示,距离能让你付费购买的产品还有十年主持 Sarah Guo, Elad GilAndrej Karpathy 借用 Waymo 长达十年的时间差、特斯拉的软件押注,以及一门新的 AI 课程,论证自主智能会卡在产品化和全球化这两关上,而不是卡在第一段惊艳的视频上。企业与战略Transformers & attentionScaling Laws+3
1:42:16EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年7月4日播客七个月里 267 篇后续论文:Albert Gu 讲述状态空间模型的革命主持 Nathan LabenzMamba 合著者回顾了五年来的循环模型研究,讲选择性压缩为什么比不断增长的 KV 缓存(KV cache)更有效,以及 Mamba 2 为了让训练更快放弃了什么。模型与训练Transformers & attentionInference+3
34:09EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2024年6月27日播客 · 2 人对谈五个独立团队都找到了同一个胜过 Transformer 的 10:1 混合比例主持 Sarah Guo, Elad GilS4 和 Mamba 的作者认为,以状态空间(state-space)层为主、再掺一点注意力(attention)的架构才真正有效,他们首先把它做成了实时语音。模型与训练Transformers & attention语音 AI+3
1:19:24EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年4月5日播客一段乱码提示词,能读出 GPT-J 提前三个 token 的规划主持 Nathan Labenz美国东北大学的 Bau 实验室发现,一个 4 万参数的软提示(soft prompt)能读出模型接下来要说的词,而大约十个注意力头(attention head)承载着任务本身。模型与训练Model InterpretabilityTransformers & attention+3
1:20:44EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年3月30日播客像 Mamba 一样看世界:视觉、腐坏的状态与 90 天里的细胞模型主持 Nathan LabenzNathan Labenz 和 Jason Meaux 梳理了原版 Mamba 发布之后的视觉论文、长上下文实验和生物学工作。模型与训练AI researchTransformers & attention+3
2:30:06EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年12月22日播客训练 token 只有 GPT-4 的三十分之一,Mamba 在 Transformer 的主场赢了主持 Nathan Labenz在一期单人紧急节目中,Nathan Labenz 认为,Albert Gu 和 Tri Dao 提出的选择性状态空间模型,是 2017 年以来第一个有资格与 Transformer 分享王座的架构。模型与训练Transformers & attentionAI research+3
41:58EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年11月2日播客 · 2 人对谈可靠性是瓶颈,自主性才会让 AI 显得有生命主持 Sarah Guo, Elad GilIlya Sutskever 与 Sarah Guo、Elad Gil 谈 AlexNet、OpenAI 的利润上限公司(capped profit)押注、为什么小模型主要损失可靠性,以及他为数字生命划的那条线。模型与训练通用人工智能Scaling Laws+3
35:24EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年8月24日播客 · 2 人对谈《Attention Is All You Need》作者如今像编译字节码一样编译 mRNA主持 Sarah Guo, Elad GilJakob Uszkoreit 谈 Transformer 为什么会胜出、模型为什么把算力花在错的地方,以及药物发现为什么必须从筛选转向生成。模型与训练AI for scienceTransformers & attention+2
39:02EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年8月10日播客AI 的产品优势是一致,真正的软肋是容易被骗主持 Nathan LabenzNathan Labenz 更新了 The Cognitive Revolution 的球探报告:越狱、简历自动化、Med-PaLM 在放射学对决中 40% 的胜率,以及 Transformer 之后可能出现什么。企业与战略Multimodal AIAI in healthcare+3
2:13:07EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年7月27日播客在 GPT-2 Small 上半小时找到一个回路,却在 GPT-3 之前撞上了二次方的墙主持 Nathan LabenzArthur Conmy 带 Nathan Labenz 讲解 ACDC:这种算法能自动完成机制可解释性中最繁琐的一步,即找出究竟是哪些 Transformer 组件在真正执行某项任务。模型与训练Model InterpretabilityAI research+3
1:32:22EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年6月29日播客一百万字节与 256 个符号:Meta 的 MEGABYTE 想扔掉分词器主持 Nathan LabenzMeta AI 的 Lili Yu 讲解一种多尺度 Transformer:它能预测百万字节的序列,不做分词,目标是把任何文件都当作原始字节来建模。模型与训练Multimodal AITransformers & attention+3
2:00:19EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2023年6月6日播客150 万个 GPT-4 童话,让 3300 万参数的模型推理超过 GPT-2主持 Nathan Labenz来试试这道填空:Lily 喜欢猫和狗。她向妈妈要了一只狗。妈妈不同意,于是她又要了一个……模型与训练Synthetic dataData quality & curation+3
35:36EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2023年4月13日播客 · 2 人对谈通用人工智能只是副产品:Noam Shazeer 谈 Transformer、Character.AI 与两小时的聊天主持 Sarah Guo, Elad Gil2023 年 4 月,这位 Transformer 论文的合著者在 No Priors 节目中讲述,一家只有 22 人的创业公司如何把开放式聊天做成消费级产品,并把通用人工智能(AGI)看作让模型变得更聪明的副产品。产品与体验Company BuildingAI startups & small teams+3
1:46:01EN → 简体中文
Lex Fridman· 2019年4月29日播客 · 2 人对谈AlphaStar 击败 TLO 那晚,团队去了酒吧嘉宾 Oriol Vinyals · 主持 Lex FridmanOriol Vinyals 谈 DeepMind 如何把《星际争霸 II》变成一个序列问题、搭建智能体联盟,以及为什么他仍然不肯说这款游戏已经被解决。智能体Reinforcement LearningMulti-agent systems+3
46:25EN
Lex Fridman· 2019年1月17日播客Deep Learning at the Edge of 2019: BERT, Autopilot, and the Ideas That Broke Through主持 Lex FridmanA tour of the architectural, applied, and automation breakthroughs that defined deep learning in 2018 and set up 2019.模型与训练Deep LearningAI research+3
1:16:52EN
Cognitive Revolution "How AI Changes Everything"播客Mamba After 90 Days: What 30 Papers Reveal About State Space Models, Hybrids, and Mixture of Experts主持 Nathan LabenzNathan Labenz and AI scout Jason Meaux survey the first wave of Mamba-inspired research, from mechanistic studies and synthetic-task tradeoffs to hybrid architectures and MoE variants.模型与训练Transformers & attentionAI research
1:03:10EN
Cognitive Revolution "How AI Changes Everything"播客Pause Tokens, Analogical Prompts and Ring Attention: A Tour of the Transformer's Next Upgrades主持 Nathan LabenzNathan Labenz and Trey Kollmer walk through five recent papers on pausing, backspacing, prompting, streaming and long-context training, and sketch how they might combine into a more capable model.模型与训练Transformers & attention机器学习基础+3