筛选结果
99 篇排序
1:13:33EN → 简体中文一万亿个 Token 之后,概念终于落地:Łukasz Kaiser 谈 Transformer 仍然缺什么主持 Jacob Effron《Attention Is All You Need》合著者在 Unsupervised Learning 节目中表示,Transformer 大概率会继续胜出,但它们学习的方式仍然与人不同。
2:02:17EN → 简体中文稀疏自编码器找名词,参数分解找动词主持 Nathan LabenzGoodfire 的 Lee Sharkey 认为,稀疏自编码器(SAE)还原的是网络里的变量,却还原不了这些变量运行的算法。他还介绍了随机参数分解(SPD)如何尝试还原计算本身。
1:37:05EN → 简体中文一位代数几何学家辞去终身教职,因为碗形的损失曲线图是假的主持 Nathan LabenzTimaeus 的 Jesse Hoogland 和 Daniel Murfet 认为,真正决定神经网络如何学习、如何泛化、又如何出错的,是损失景观中的奇点,而不是每份幻灯片里那些平滑的山谷。
2:12:00EN → 简体中文测试时的梯度下降:Titans 把大语言模型(LLM)的上下文推到 1000 万个 Token主持 Nathan Labenz在 GPT-4 的成绩断崖式下跌的地方,这位康奈尔大学博士生的神经记忆模块仍能保持约 70% 的准确率。
2:33:39EN → 简体中文攻击者后出手:Nicholas Carlini 为什么总能攻破 AI 防御主持 Nathan Labenz谷歌 DeepMind 安全研究员谈简单的损失函数、70% 的稳健准确率,以及为什么修复必须落在系统层面,单靠模型本身不够。
1:40:22EN → 简体中文20 原子晶体教会 AI 心跳的物理学主持 Nathan LabenzOrbital Materials 的 Jonathan Godwin 和 Tim Duignan 向 Nathan Labenz 讲述,一个在微小晶体上训练的神经网络,如何在一块 2017 年款 GPU 上模拟了钾离子通道。
1:42:16EN → 简体中文七个月里 267 篇后续论文:Albert Gu 讲述状态空间模型的革命主持 Nathan LabenzMamba 合著者回顾了五年来的循环模型研究,讲选择性压缩为什么比不断增长的 KV 缓存(KV cache)更有效,以及 Mamba 2 为了让训练更快放弃了什么。
1:54:01EN → 简体中文一个小网络长出了盐晶体,而训练数据里从来没有它主持 Nathan LabenzTim Duignan 用盐水训练了数万个参数。模型“发明”了一种晶体,还推出了一套连续介质溶剂理论(continuum solvent theory);而他读博期间花了整整一个博士阶段,也没能手工把这套理论写出来。
1:58:43EN → 简体中文一条只有 302 个神经元的线虫已经会权衡取舍,AI 仍停在同一座梯子上主持 Nathan LabenzMax Bennett 把 6 亿年的大脑演化对应到五次突破上,并追问今天的模型究竟爬上了哪几级台阶。
1:19:24EN → 简体中文一篇玩具论文没有证明大语言模型不能泛化,舆论却照样跟着跑主持 Nathan LabenzNathan Labenz 和 Erik Torenberg 拆解了一条在网上疯传的 DeepMind 结果、一次周末复现,以及一场针对自愿性 AI 承诺、来得太早的骂战。
43:45EN → 简体中文八年毫无增长,后来 OpenAI 和英伟达成了他的客户主持 Sarah Guo, Elad GilWeights & Biases 首席执行官 Lukas Biewald 在 No Priors 节目中讲述,一家没有鸿沟需要跨越的标注公司,如何为训练出大多数大语言模型的机器学习开发工具提供了资金。
1:33:56EN → 简体中文AI 侦察报告:90 分钟从 GPT-4 的考试成绩讲到模型是否真的理解主持 Nathan LabenzNathan Labenz 独自主持一期节目,梳理通用模型能做什么、怎样训练、能力如何被解锁,以及它们究竟理不理解任何东西。
1:32:22EN → 简体中文一百万字节与 256 个符号:Meta 的 MEGABYTE 想扔掉分词器主持 Nathan LabenzMeta AI 的 Lili Yu 讲解一种多尺度 Transformer:它能预测百万字节的序列,不做分词,目标是把任何文件都当作原始字节来建模。
1:52:46EN → 简体中文给神经网络的连接按长度收费,黑箱就拆成了看得见的模块主持 Nathan LabenzMIT 物理学家 Ziming Liu 向 Nathan Labenz 讲解 BIMT,这是一种受大脑启发的训练技巧,能把网络稀疏到用眼睛就能读懂的程度。
1:25:50EN → 简体中文提示词工程(prompt engineering)变成了编程,Riley Goodside 对此并不介意主持 Nathan LabenzScale AI 首位资深提示词工程师谈工具调用(tool use)、不失忆的微调(fine-tuning)、先生成再排序,以及 2023 年“未来工作”的故事为什么没有成真。
46:57EN → 简体中文95% 的药物项目都会失败,Daphne Koller 押注机器学习(machine learning)能改写第一个决策主持 Sarah Guo, Elad Gil研发一款新药仍需十多年、远超 10 亿美元——Insitro 的创始人认为,代价高昂的失败往往始于错误的靶点、适应症或患者。
2:31:57EN → 简体中文Jay McClelland 谈思维如何从神经网络中涌现嘉宾 Jay McClelland · 主持 Lex Fridman这位斯坦福大学的认知科学家,与 Lex Fridman 聊了联结主义(connectionism)、反向传播(backpropagation)、David Rumelhart,以及为什么直觉会先发现某些东西,之后逻辑才去证明它。
2:51:33EN → 简体中文自我是一段 GPT 提示词:Wojciech Zaremba 谈意识、Codex 与费米的沉默嘉宾 Wojciech Zaremba · 主持 Lex FridmanOpenAI 联合创始人 Wojciech Zaremba 对 Lex Fridman 说,他认为我们在宇宙中可能是孤独的;他还说,GPT-3、Codex 和一只单手机器人,已经暗示了智能是如何构建的。
2:18:29EN → 简体中文你的大脑皮层,是 15 万个模型在给一只咖啡杯投票嘉宾 Jeff Hawkins · 主持 Lex FridmanJeff Hawkins 对 Lex Fridman 说:智能是学习世界模型的能力,新皮层是成千上万张相互独立的地图在投票,而通往机器智能最快的路径,是对这层皮质做逆向工程。
2:30:30EN → 简体中文成功第一步的谬误嘉宾 Ishan Misra · 主持 Lex Fridman伯克利的 Jitendra Malik 解释了计算机视觉为何仍然看起来很简单、全自动驾驶为何还遥遥无期,以及孩子知道而今天的网络不知道的是什么。
1:56:17EN → 简体中文如果把地球重演一百万次,还会有像我们这样的生物出现吗?嘉宾 Risto Miikkulainen · 主持 Lex FridmanRisto Miikkulainen 谈神经进化、鬣狗围猎、从不睡觉的罗勒,以及为什么“变异加选择”仍能找到反向传播看不见的解。
1:49:56EN → 简体中文派对上那个 21 岁的年轻人,说对了 GameStop嘉宾 Richard Craib · 主持 Lex FridmanNumerai 创始人 Richard Craib 与 Lex Fridman 谈 WallStreetBets、众包机器学习,以及金融为何是一台把未来拉到当下的机器。
2:02:45EN → 简体中文偷代码:让算法跑起来本身一分不给主持 Lex FridmanCharles Isbell 和 Michael Littman 与 Lex Fridman 聊了为什么机器学习不只是统计,为什么挣扎必须保有希望,以及 6600 美元的在线硕士到底卖的是什么。
2:01:07EN → 简体中文Michael Littman 不等待失控的神,他在观察我们嘉宾 Michael Littman · 主持 Lex Fridman布朗大学的强化学习(reinforcement learning)研究者 Michael Littman 对 Lex Fridman 说,为什么意外出现的超级智能(superintelligence),在他看来就像一架 747 自行组装起来,而社交媒体、死记硬背式的语言和心智理论(theory of mind),更让他担心。
加载更多已显示 24 篇,共 99 篇









