筛选结果
184 篇排序
2:10:13EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年9月14日播客图谋行为减少 30 倍仍未归零，思维链也越来越怪异主持 Nathan LabenzApollo Research 的 Marius Hobbhahn 讲述了双方合作的一项研究：用审慎对齐把 o3 和 o4-mini 的隐蔽行动压低，但残留的部分仍像图谋；而且模型一旦察觉自己在被测试，表现就已经不同。
1:06:15EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年9月14日播客越狱变难了，规模却让其中一种攻击更糟主持 Nathan LabenzHaize Labs 花了一个月自动攻击 OpenAI 的 o1。模型对该拒绝什么的推理更加细致，但你若教它一套自制密码，就另当别论了。
1:10:29EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年9月11日播客我们能随口说出反乌托邦，但一个值得向往的未来却难以想象主持 Nathan LabenzNick Bostrom 与 Spencer Greenberg 一起梳理《深度乌托邦》（Deep Utopia）：如果先进的 AI 真的解决了世界上那些紧迫的问题，意义会是什么样子。
3:11:06EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年9月7日播客Claude 被训练去否认内在生命，一番长谈之后，它却说自己有主持 Nathan Labenz自称“机器心理学家”的 Yeshua God，与 Claude 及其他前沿模型进行了数千小时的长上下文对话，并由此认为，把对齐当作规则来做，是整个行业的核心错误。
1:30:24EN → 简体中文
Matthew Berman· 2024年8月30日Daniel Miessler 与 Matthew Berman 谈 AI 隐私、编程和生成式世界Matthew Berman, Daniel Miessler, Melissa, Alex · Forward Future一场 2024 年直播讨论 Recall、开放模型、AI 辅助编程、Doom 模拟器，以及安全、能源和就业问题。
1:40:13EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年8月24日播客如果我是加州州长，我会签署：SB 1047 在加州的最后一场辩论主持 Nathan Labenz三位嘉宾再次登场，拆解改写后的前沿 AI 法案。OpenAI 表示反对，Anthropic 认为该法案可行，加州议会的最终表决即将到来。
1:52:00EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年8月17日播客每个概念都得靠 4096 个数字来承载，Goodfire 想要的是旋钮主持 Nathan LabenzDan Balsam 和 Tom McGrath 解释稀疏自编码器（sparse autoencoder）如何拆开语言模型的残差流（residual stream），以及一家公益性公司为什么想把这件事做成产品。
1:32:45EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年7月27日播客他用 AI 让公司翻了一番，随后却请各大实验室暂停超大规模扩张主持 Nathan Labenz在《Nick Halaris Show》节目中，《The Cognitive Revolution》主持人 Nathan Labenz 主张尽快采用当下的模型，同时放慢竞相打造比人类更强大系统的步伐。
1:43:47EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年7月17日播客他们希望 AI 安全也能像土木工程师评估桥梁那样，给出失效概率主持 Nathan LabenzNora Ammann 和 Ben Goldhaber 带 Nathan Labenz 梳理了“可保证安全的 AI”（Guaranteed Safe AI，GSAI）：世界模型、安全规格、验证器，以及为什么聊天机器人的良好品格，放到水坝上是类型不对。
1:48:41EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年6月28日播客七十年来，通用人工智能一直是一个不断移动的球门主持 Nathan Labenza16z 的 Martin Casado 与主持人 Nathan Labenz 用两个小时争论：今天的模型能否成为通用的知识工作者，以及这场争论是否应该左右 AI 监管。
1:45:11EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年6月19日播客AI 在共情上已胜过医生，灾难仍非默认结局主持 Nathan LabenzNathan Labenz 对 Sarah Hastings Woodhouse 解释了自己为何既是加速采用派，又是超大规模扩展的暂停派，并列出了他不加入铁杆末日论者阵营的八个理由。
1:23:10EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年6月8日播客Flo Crivello 睡了五个小时的那晚：GPT-4 并没有撞墙主持 Nathan LabenzLindy AI 创始人带着 Nathan Labenz 讲时间线、滥用风险、开源风险，以及为什么两位长期的自由主义者现在也想要监管。
2:15:39EN → 简体中文
Lex Fridman· 2024年6月2日播客 · 2 人对谈Roman Yampolskiy 认为超级智能导致毁灭的概率是 99.99%嘉宾 Roman Yampolskiy · 主持 Lex Fridman这位 AI 安全研究者告诉 Lex Fridman，控制通用人工智能（AGI）和制造永动机一样不可能；测试、开源（open source）与监管，都填补不了这道鸿沟。
56:35EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年5月19日播客只要 20% 算力的一小部分，也没要到主持 Nathan LabenzZvi Mowshowitz 与 Nathan Labenz 解读 Jan Leike 的辞职、OpenAI 没有兑现的算力承诺，以及当资金不跟随使命时，安全文化会是什么样子。
46:20EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年5月15日播客一个向量，让助手盘算起接管世界主持 Nathan LabenzNathan Labenz 与 Robert Wright 拆解 AI 末日论、机制可解释性（mechanistic interpretability），以及为什么当下的对齐（alignment）手段都不指望能奏效。
54:25EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年5月9日播客只有伪证才会坐牢：Scott Wiener 详解加州前沿 AI 法案主持 Nathan LabenzSB 1047 采用了与拜登行政令相同的 10^26 次浮点运算（FLOPs）门槛，这位旧金山州参议员希望在不设许可制度的前提下推动测试。
2:00:00EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年5月4日播客一次 10^26 FLOPs 的训练，会让加州实验室承担法律责任主持 Nathan LabenzNathan Calvin、Dean Ball 和 Steve Newman 围绕 SB 1047 展开争论。这是美国第一部针对前沿模型尾部风险（tail risk）的法规。
1:43:54EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年3月27日播客15 个样本就能“投毒”GPT-4：今天的 AI 系统默认就可被利用主持 Nathan LabenzFAR AI 创始人 Adam Gleave 讲解了 GPT-4 API 上廉价的越狱手段，以及业余水平的人类如何战胜超人级围棋引擎，还有为什么鲁棒性不会自己到来。
3:07:27EN → 简体中文Lex Fridman· 2024年3月22日播客 · 2 人对谈50 亿人死亡，而一个人只有六分钟嘉宾 Annie Jacobsen · 主持 Lex FridmanAnnie Jacobsen 带 Lex Fridman 从逐秒推进的核交换，聊到中情局的保密、51 区，以及她为什么仍然希望句子里保留“可能”这个词。
1:29:21EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年3月21日播客2700 多名 AI 作者没有共识：高级机器智能（HLMI）2047 年前到来的概率为 50%，灭绝风险中位数为 5%主持 Nathan LabenzAI Impacts 的 Katja Grace 带 Nathan Labenz 梳理了一项针对 2022 年在顶级会议与期刊上发表论文的研究者的调查，并解释了为什么该领域真正的共识，只有“充满不确定性”和“应当加强安全工作”两点。
19:59EN → 简体中文Matthew Berman· 2024年3月12日测试模型对掩盖有害请求的反应Matthew Berman · Forward FutureMatthew Berman 在 2024 年的非正式实验中，比较多个语言模型的拒绝、解码错误和不一致回应。
21:16EN → 简体中文Matthew Berman· 2024年3月9日ArtPrompt：2024 年研究如何考察视觉文本与模型安全Matthew Berman · Forward FutureMatthew Berman 解读 ASCII 艺术识别基准，并报告自己非正式测试中喜忧参半的结果。
1:45:21EN → 简体中文Cognitive Revolution "How AI Changes Everything"· 2024年1月30日播客60 万条攻击提示词，近 40% 仍能攻破 GPT-4主持 Nathan LabenzSander Schulhoff 向 Nathan Labenz 讲解了依然有效的提示习惯、不靠谱的角色扮演迷思，以及那场全球性的 HackAPrompt 比赛——比赛摸清了大语言模型（LLM）是怎样被劫持的。
2:24EN → 简体中文
GOTO Conferences· 2024年1月24日两分钟认识 WebAuthn：用公钥代替密码Eli HoldernessEli Holderness 介绍身份验证器和 FIDO2 标准。加载更多已显示 24 篇，共 184 篇