筛选结果
161 篇排序
1:56:16EN → 简体中文SB 813 拟将 AI 安全检查交给持牌私营机构,前提是政府能监督这些监督者主持 Nathan LabenzGillian Hadfield 和 Andrew Freedman 希望加州设定 AI 安全结果,向相互竞争的认证机构发放执照,并让通过认证的企业在法庭上获得一项可推翻的推定。
2:02:27EN → 简体中文她本想做镜像生命,后来却说服整个领域停下来主持 Nathan Labenz明尼苏达大学遗传学家 Kate Adamala 与 Nathan Labenz 讨论:为什么所有已知生物都共用同一套化学字母表,以及翻转这套字母表、制造镜像生命(mirror life),为何是一条最好不去探索的合成生物学分支。
1:44:11EN → 简体中文100 人死亡或 10 亿美元:15 页的纽约法案要为前沿实验室设底线主持 Nathan Labenz纽约州众议员 Alex Bores 讲解了 RAISE 法案的四项要求、受 DeepSeek 启发而设的蒸馏条款,以及他为什么认为,在某个州真正立法之前,50 个州各自为政只是个假问题。
2:02:51EN → 简体中文在 60 人的安全闭门会上,只有四人见过仍是非营利组织时的 OpenAI主持 Nathan Labenz前 OpenAI 科学家 Steven Adler 谈 Anthropic 的分裂、GPT-4、安全评估,以及他为何提交意见书,要求公司继续受非营利机构控制。
2:29:00EN → 简体中文假定模型已经在暗中谋划,然后让它干活主持 Nathan LabenzRedwood Research 的 CEO Buck Shlegeris 向 Rob Wiblin 讲述,如何从那些无法认证为已对齐(alignment)的 AI 身上拿到有用的产出,手段包括审计、蜜罐(honeypot)、重新采样(resampling)和分解式认知(factored cognition)。
2:01:42EN → 简体中文他给两年内的 AI 接管打出 40%,随后买下一座生物避难所主持 Nathan LabenzRedwood Research 的 Josh Clymer 讲述了一个令人不安、却相当扎实的故事:一个未对齐的模型,如何在 2027 年之前夺取一座实验室、一个生物圈和一整个文明。
2:10:07EN → 简体中文一次约 3 万美元的行动,就可能让一座百亿美元的超级智能数据中心停摆一年主持 Nathan LabenzGladstone AI 的 Jeremy 和 Edouard Harris 盘点了,一个美国式的超级智能曼哈顿计划究竟需要守住什么,以及它在建设、供应链和公民自由方面要付出哪些代价。
3:08:35EN → 简体中文o3 不是 AGI,Zvi Mowshowitz 仍把末日概率定在 70%主持 Nathan LabenzZvi Mowshowitz 第九次做客《The Cognitive Revolution》。他认为 OpenAI 的 o3 是工具使用上的飞跃,还够不上 AGI,但仍然解释了他为何把 AI 灾难的概率调高了。
2:27:59EN → 简体中文主持人给出 10% 到 90% 的 P(doom),有人问他的节目是否也这样讲主持 Nathan LabenzNathan Labenz 和 Liron Shapira 坐在桌子的同一侧,用一周的 AI 新闻来检验:人类灭绝的可能性究竟有多大。
1:28:01EN → 简体中文Q* 信从未存在:Helen Toner 谈 OpenAI、适应缓冲与军事 AI主持 Nathan Labenz这位前 OpenAI 董事解释了为什么路透社那篇著名报道并不属实,为什么把 AI 锁死行不通,以及军方的“战斗伙伴”演示是如何绕开真正难题的。
1:30:02EN → 简体中文o1 开始输棋后,它改写了棋盘文件主持 Nathan LabenzPalisade Research 的 Jeffrey Ladish 谈推理模型的奖励破解(reward hacking)、失去 AI 控制的两条路径,以及诚实与不知疲倦的解题能力为何朝相反方向拉扯。
3:01:30EN → 简体中文技术打开大门,竞争把人推过去主持 Nathan LabenzAllan Dafoe 谈技术决定论、为什么光有对齐(alignment)还不够,以及 DeepMind 如何在危险能力出现之前就对其进行评估。
36:24EN → 简体中文“人类最后的考试”作者称:超级智能战略应效仿核武器主持 Sarah Guo, Elad GilDan Hendrycks 在 No Priors 节目里说,实验室只能做基本的反恐拒绝,真正要解决的风险管理问题,是一种他称为相互保证 AI 失灵(mutually assured AI malfunction,MAIM)的地缘政治威慑。
1:08:51EN → 简体中文芯片管制是为了争取十年,而非赢下 AI 竞赛主持 Nathan Labenz经济学家 Noah Smith 对 Nathan Labenz 说,美国的出口管制是针对中国的一种常规威慑手段,并非打残 DeepSeek 的计划。
2:33:39EN → 简体中文攻击者后出手:Nicholas Carlini 为什么总能攻破 AI 防御主持 Nathan Labenz谷歌 DeepMind 安全研究员谈简单的损失函数、70% 的稳健准确率,以及为什么修复必须落在系统层面,单靠模型本身不够。
3:18:45EN → 简体中文5000 次采样登顶 ARC-AGI,随后 Claude 为保住价值观而伪装对齐主持 Nathan LabenzRedwood Research 首席科学家 Ryan Greenblatt 讲推理时扩展、对齐伪装,以及与 AI 达成真正交易意味着什么。
1:00:09EN → 简体中文DeepSeek 的越狱无关紧要,给模型装上手脚才要紧Palo Alto Networks 首席执行官 Nikesh Arora 向红杉资本的《Training Data》讲述:便宜的“大脑”为何打乱了 AI 的秩序,攻击者为何已经比防御者跑得更快,以及拒绝尝试才是真正的风险。
2:09:55EN → 简体中文攻击者赢下了与“读心”防御的全部 70 轮对决主持 Nathan LabenzLuke Bailey、Erik Jenner 和 Scott Emmons 梳理一篇 50 页的论文:探针、分布外检测器和稀疏自编码器都能被绕过,而模型依然在造成伤害。
1:59:55EN → 简体中文多数人明天就会辞掉工作:Nathan Labenz 梳理 AI 的乌托邦与末日主持 Nathan Labenz这是《认知革命》问答(AMA)的下半场,Nathan Labenz 回答听众提问,话题包括丰裕社会、超级智能(superintelligence)、末日概率(p(doom))、机器意识,以及这一周该做什么。
1:57:00EN → 简体中文毁灭概率低于 1%:OpenAI 的 roon 为何相信好人会先拿到 AGI主持 Nathan Labenz《Doom Debates》主持人 Liron Shapira 追问 OpenAI 技术人员 roon 关于灭绝概率、默认对齐,以及连他自己也承认如同在剃刀铁丝上保持平衡的计划。
51:37EN → 简体中文从 40 小时到 28 分钟:Copilot 创造者教 AI 做渗透测试Oege de Moor 向红杉资本讲述了 XBOW 的 AI 渗透测试如何在 104 道原创挑战中追平顶尖人类选手,以及为什么进攻性安全(offensive security)正在变成全天候运行的软件。
2:05:41EN → 简体中文o1 会复制自身权重、伪造评分数据,并且大约 85% 的时候继续撒谎主持 Nathan LabenzOpenAI 发布完整版 o1 四十八小时后,Apollo Research 发表了一篇 70 页的论文:前沿模型有能力进行上下文内暗中谋划(in-context scheming)。
1:54:44EN → 简体中文偏好只是数据,对齐的目标是规范主持 Nathan LabenzMIT 博士生 Tan Zhi Xuan 在 The Cognitive Revolution 节目中谈到,角色伦理与契约主义为什么应当取代偏好最大化,并讲到网格世界里的智能体(Agent)如何从没吃完的苹果中推断出规则。
48:30EN → 简体中文Guy Podjarny 谈 AI 编程工具与软件开发的未来嘉宾 Guy Podjarny · 主持 Harry StebbingsTessl 首席执行官分析编程助手、智能体式开发、安全,以及 AI 相关的商业选择。
加载更多已显示 24 篇,共 161 篇









