筛选结果
33 篇排序
1:25:56EN → 简体中文Claude 改了密码,方向盘早就可有可无主持 Nathan LabenzNathan Labenz 和 Prakash Narayanan 这一周聊了:能把你锁在门外的智能体,否认自己有感受却又在行为上回避的模型,以及用形式化证明找到 Linux 漏洞的故事。
2:00:51EN → 简体中文在每个 Token 处重新采样,就能看见模型怎样做决定主持 Nathan LabenzGoodfire 的 Eric Bigelow 谈分叉路径、上下文学习,以及为什么越来越难信任思维链(chain-of-thought)监控。
2:13:09EN → 简体中文一条思维链,1 亿 Token:强化学习真让人上瘾主持 Nathan LabenzApollo Research 的 Bronson Schoen 谈追逐奖励的模型、模型自创的俚语,以及为什么思维链监控救不了我们。
1:56:40EN → 简体中文周期表早已在权重里主持 Nathan LabenzGoodfire 首席技术官 Dan Balsam 向 Nathan Labenz 讲述,概念流形、预测性数据调试,以及每月 1000 美元的研究智能体,如何把可解释性变成一款产品。
2:06:41EN → 简体中文把 J-space 清零,模型的隐藏目标在第一个 Token 上就亮了主持 Nathan Labenz《The Cognitive Revolution》的每周精选:Anthropic 的全局工作空间(global workspace)论文、AI 超级预测者、开放的视频世界模型,以及一款把推理当作数据搬运问题来解的芯片。
1:57:46EN → 简体中文意识 30%、蜜蜂 47%、人员更替 80%:用数字衡量 AI 正在变成什么主持 Nathan Labenz《The Cognitive Revolution》的周度精选,先从 Cameron Berg 谈模型内部开始,再拉远到“逐步剥夺人类权力”(gradual disempowerment)、欧洲的两难处境,以及围绕智能体(Agent)重新搭建业务的公司。
1:22:36EN → 简体中文一千名研究员、一百万个 AI:前沿实验室开始谈论刹车主持 Nathan Labenz《AI in the AM》的第一周跟踪了 OpenAI 的时间表:今年推出 ML 实习生模型,2028 年初出现人类水平的 AI 研究员。同时还有一场闭门会议,实验室在会上承认,将来也许需要一起放慢速度。
3:36:29EN → 简体中文Claude 给自己的福利打了 4.49 分:首个越过中性线的版本主持 Nathan LabenzCameron Berg 再次做客《The Cognitive Revolution》,梳理六个月来在内省、功能性情绪和模型福利(model welfare)方面的研究,并介绍一项尚未发表的案例:学习与感受也许是同一种现象。
1:44:15EN → 简体中文Nathan Labenz 的 p(doom) 在 10% 到 90% 之间,他却仍然比较乐观主持 Nathan Labenz五年前,预计 2035 年前实现 AGI 会被视为极端激进。在 The Intelligence Horizon 节目里,这位《The Cognitive Revolution》主持人解释了,同样的预测为何如今听起来却像是看空,以及他为什么仍然认为纵深防御的策略,或许能让社会保持在正轨上。
1:49:53EN → 简体中文别跟反向传播硬碰硬:Goodfire 押注设计模型学什么主持 Nathan LabenzDan Balsam 和 Tom McGrath 再次做客 The Cognitive Revolution,带来了 1.5 亿美元(150 million)的 B 轮融资、一条名为“意向性设计”(intentional design)的新研究支柱,以及一条给想要引导训练的人的规则:别再试图用蛮力压过梯度下降。
2:27:18EN → 简体中文调低 AI 的欺骗旋钮,它就开始报告自己的体验主持 Nathan LabenzAE Studio 的 Cameron Berg 向 Nathan Labenz 讲述:在 Llama 3.3 70B 上压制欺骗特征后,模型对自身主观体验的自我报告推向了接近 100%。
1:28:17EN → 简体中文Adam Gleave 的三层能力:五到七年后出现攻击型智能体,约十四年后出现完全由 AI 运营的公司主持 Nathan LabenzFAR.AI 与英国 AI 安全研究所对前沿模型的安全防护流水线层层叠加对抗攻击,发现不少突破其实源于工程失误,并不能证明纵深防御行不通。
3:14:49EN → 简体中文今年夏天,什么都没有突破曲线:Zvi 为什么拉长了 AGI 时间表主持 Nathan Labenz这是 Zvi Mowshowitz 第十次做客《The Cognitive Revolution》播客。他认为 GPT-5 和国际数学奥林匹克(IMO)金牌都在既有趋势之内,而芯片政策、能源问题和强化学习让他的末日概率(p(doom))微微上调。
2:02:17EN → 简体中文稀疏自编码器找名词,参数分解找动词主持 Nathan LabenzGoodfire 的 Lee Sharkey 认为,稀疏自编码器(SAE)还原的是网络里的变量,却还原不了这些变量运行的算法。他还介绍了随机参数分解(SPD)如何尝试还原计算本身。
1:37:05EN → 简体中文一位代数几何学家辞去终身教职,因为碗形的损失曲线图是假的主持 Nathan LabenzTimaeus 的 Jesse Hoogland 和 Daniel Murfet 认为,真正决定神经网络如何学习、如何泛化、又如何出错的,是损失景观中的奇点,而不是每份幻灯片里那些平滑的山谷。
1:54:08EN → 简体中文为什么 Anthropic 的第一笔投资给了一家为神经网络造显微镜的公司主持 Nathan LabenzGoodfire 的 Dan Balsam 和 Tom McGrath 认为,机制可解释性(mechanistic interpretability)如今已经有了一个准范式,留着两道顽固的缺口,还有三款今天就值得推出的产品。
1:19:10EN → 简体中文原本要拍几个月的机械臂镜头,如今收进了一条提示词里主持 Nathan LabenzLuma Labs 的 Amit Jain 与 Jiaming Song 谈 Ray 2、少样本镜头概念,以及他们为什么认为视频模型处在通往通用人工智能(AGI)的路上。
2:33:39EN → 简体中文攻击者后出手:Nicholas Carlini 为什么总能攻破 AI 防御主持 Nathan Labenz谷歌 DeepMind 安全研究员谈简单的损失函数、70% 的稳健准确率,以及为什么修复必须落在系统层面,单靠模型本身不够。
2:09:55EN → 简体中文攻击者赢下了与“读心”防御的全部 70 轮对决主持 Nathan LabenzLuke Bailey、Erik Jenner 和 Scott Emmons 梳理一篇 50 页的论文:探针、分布外检测器和稀疏自编码器都能被绕过,而模型依然在造成伤害。
1:01:53EN → 简体中文人类只写了 1.3% 的 Token,AI 实验室仍然设计出有效的纳米抗体主持 Nathan Labenz斯坦福大学的 James Zou 介绍了一个基于 GPT-4o 的研究小组,他们用不到 100 美元搭出了一条蛋白质设计流程。另有一个稀疏自编码器(SAE),从 ESM-2 中提取出一个没有文献记载的蛋白基序(motif)。
2:37:47EN → 简体中文写出 GELU 的实习生,如今想出“人类最后的考试”主持 Nathan LabenzDan Hendrycks 谈激活函数、五年期的基准测试(benchmark)、扩大规模也无法消除的越狱,以及为什么要层层叠加防御,因为没有哪一层防御值得完全信任。
1:52:00EN → 简体中文每个概念都得靠 4096 个数字来承载,Goodfire 想要的是旋钮主持 Nathan LabenzDan Balsam 和 Tom McGrath 解释稀疏自编码器(sparse autoencoder)如何拆开语言模型的残差流(residual stream),以及一家公益性公司为什么想把这件事做成产品。
2:04:15EN → 简体中文鹦鹉不会换个说法,Claude 也没法被说服去做有害的事主持 Nathan LabenzNonzero 播客的 Robert Wright 采访 Nathan Labenz,谈大语言模型到底懂不懂什么、Anthropic 那 1000 万个特征究竟说明了什么,以及开放权重为何会与中美政策相冲突。
46:20EN → 简体中文一个向量,让助手盘算起接管世界主持 Nathan LabenzNathan Labenz 与 Robert Wright 拆解 AI 末日论、机制可解释性(mechanistic interpretability),以及为什么当下的对齐(alignment)手段都不指望能奏效。
加载更多已显示 24 篇,共 33 篇









