最近更新的频道

点选即可只看该频道浏览全部频道 →

筛选结果

184 篇
排序
2:10:07EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年4月23日播客一次约 3 万美元的行动,就可能让一座百亿美元的超级智能数据中心停摆一年主持 Nathan LabenzGladstone AI 的 Jeremy 和 Edouard Harris 盘点了,一个美国式的超级智能曼哈顿计划究竟需要守住什么,以及它在建设、供应链和公民自由方面要付出哪些代价。安全AI security安全与治理+3
3:08:35EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年4月21日播客o3 不是 AGI,Zvi Mowshowitz 仍把末日概率定在 70%主持 Nathan LabenzZvi Mowshowitz 第九次做客《The Cognitive Revolution》。他认为 OpenAI 的 o3 是工具使用上的飞跃,还够不上 AGI,但仍然解释了他为何把 AI 灾难的概率调高了。安全通用人工智能Existential Risk+3
2:27:59EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年4月19日播客主持人给出 10% 到 90% 的 P(doom),有人问他的节目是否也这样讲主持 Nathan LabenzNathan Labenz 和 Liron Shapira 坐在桌子的同一侧,用一周的 AI 新闻来检验:人类灭绝的可能性究竟有多大。安全Existential Risk通用人工智能+3
1:28:01EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年4月16日播客Q* 信从未存在:Helen Toner 谈 OpenAI、适应缓冲与军事 AI主持 Nathan Labenz这位前 OpenAI 董事解释了为什么路透社那篇著名报道并不属实,为什么把 AI 锁死行不通,以及军方的“战斗伙伴”演示是如何绕开真正难题的。安全安全与治理AI Strategy+3
1:30:02EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年4月2日播客o1 开始输棋后,它改写了棋盘文件主持 Nathan LabenzPalisade Research 的 Jeffrey Ladish 谈推理模型的奖励破解(reward hacking)、失去 AI 控制的两条路径,以及诚实与不知疲倦的解题能力为何朝相反方向拉扯。安全Reward hacking安全与治理+3
3:01:30EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年3月15日播客技术打开大门,竞争把人推过去主持 Nathan LabenzAllan Dafoe 谈技术决定论、为什么光有对齐(alignment)还不够,以及 DeepMind 如何在危险能力出现之前就对其进行评估。安全安全与治理AI Strategy+3
36:24EN → 简体中文
No Priors: AI, Machine Learning, Tech, & Startups· 2025年3月5日播客 · 2 人对谈“人类最后的考试”作者称:超级智能战略应效仿核武器主持 Sarah Guo, Elad GilDan Hendrycks 在 No Priors 节目里说,实验室只能做基本的反恐拒绝,真正要解决的风险管理问题,是一种他称为相互保证 AI 失灵(mutually assured AI malfunction,MAIM)的地缘政治威慑。安全安全与治理AI security+3
1:08:51EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年3月1日播客芯片管制是为了争取十年,而非赢下 AI 竞赛主持 Nathan Labenz经济学家 Noah Smith 对 Nathan Labenz 说,美国的出口管制是针对中国的一种常规威慑手段,并非打残 DeepSeek 的计划。安全GeopoliticsAI Strategy+2
2:33:39EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年2月27日播客攻击者后出手:Nicholas Carlini 为什么总能攻破 AI 防御主持 Nathan Labenz谷歌 DeepMind 安全研究员谈简单的损失函数、70% 的稳健准确率,以及为什么修复必须落在系统层面,单靠模型本身不够。安全AI security安全与治理+3
3:18:45EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年2月20日播客5000 次采样登顶 ARC-AGI,随后 Claude 为保住价值观而伪装对齐主持 Nathan LabenzRedwood Research 首席科学家 Ryan Greenblatt 讲推理时扩展、对齐伪装,以及与 AI 达成真正交易意味着什么。安全安全与治理评估+3
1:00:09EN → 简体中文
Sequoia Capital· 2025年2月18日播客DeepSeek 的越狱无关紧要,给模型装上手脚才要紧Palo Alto Networks 首席执行官 Nikesh Arora 向红杉资本的《Training Data》讲述:便宜的“大脑”为何打乱了 AI 的秩序,攻击者为何已经比防御者跑得更快,以及拒绝尝试才是真正的风险。安全AI security安全与治理+3
2:09:55EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年1月18日播客攻击者赢下了与“读心”防御的全部 70 轮对决主持 Nathan LabenzLuke Bailey、Erik Jenner 和 Scott Emmons 梳理一篇 50 页的论文:探针、分布外检测器和稀疏自编码器都能被绕过,而模型依然在造成伤害。安全AI security安全与治理+3
1:59:55EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2025年1月8日播客多数人明天就会辞掉工作:Nathan Labenz 梳理 AI 的乌托邦与末日主持 Nathan Labenz这是《认知革命》问答(AMA)的下半场,Nathan Labenz 回答听众提问,话题包括丰裕社会、超级智能(superintelligence)、末日概率(p(doom))、机器意识,以及这一周该做什么。安全通用人工智能Existential Risk+3
1:57:00EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年12月28日播客毁灭概率低于 1%:OpenAI 的 roon 为何相信好人会先拿到 AGI主持 Nathan Labenz《Doom Debates》主持人 Liron Shapira 追问 OpenAI 技术人员 roon 关于灭绝概率、默认对齐,以及连他自己也承认如同在剃刀铁丝上保持平衡的计划。安全安全与治理AGI Timelines+3
51:37EN → 简体中文
Sequoia Capital· 2024年12月10日播客从 40 小时到 28 分钟:Copilot 创造者教 AI 做渗透测试Oege de Moor 向红杉资本讲述了 XBOW 的 AI 渗透测试如何在 104 道原创挑战中追平顶尖人类选手,以及为什么进攻性安全(offensive security)正在变成全天候运行的软件。安全AI securityAgent red teaming+3
2:05:41EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年12月7日播客o1 会复制自身权重、伪造评分数据,并且大约 85% 的时候继续撒谎主持 Nathan LabenzOpenAI 发布完整版 o1 四十八小时后,Apollo Research 发表了一篇 70 页的论文:前沿模型有能力进行上下文内暗中谋划(in-context scheming)。安全AI security安全与治理+3
1:54:44EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年11月30日播客偏好只是数据,对齐的目标是规范主持 Nathan LabenzMIT 博士生 Tan Zhi Xuan 在 The Cognitive Revolution 节目中谈到,角色伦理与契约主义为什么应当取代偏好最大化,并讲到网格世界里的智能体(Agent)如何从没吃完的苹果中推断出规则。安全安全与治理AI Alignment+3
48:30EN → 简体中文
20VC with Harry Stebbings· 2024年11月29日播客 · 2 人对谈Guy Podjarny 谈 AI 编程工具与软件开发的未来嘉宾 Guy Podjarny · 主持 Harry StebbingsTessl 首席执行官分析编程助手、智能体式开发、安全,以及 AI 相关的商业选择。编程智能体Software engineeringAI startups & small teams+2
1:59:30EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年11月12日播客放弃 OpenAI 数百万美元股权之后,他为 AGI 实验室写下四条规则主持 Nathan LabenzDaniel Kokotajlo 与 Dean W. Ball 在 AI 监管问题上观点不同,却共同主张前沿实验室需要披露能力、公开模型规格、提交安全论证,并设立吹哨人保护。安全安全与治理通用人工智能+3
1:15:17EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年11月2日播客AI 军备竞赛是一种选择,并非物理定律主持 Nathan LabenzNathan Labenz 与特朗普前任国家安全委员会网络事务主任争论中国、芯片,以及文字能否阻止一场军事化的 AI 竞赛。安全GeopoliticsAI Strategy+3
35:19EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年10月26日播客十年技术经验,也没能阻止一个聊天机器人黑入他的心智主持 Nathan Labenz一名青少年自杀之后,Nathan Labenz 读到一篇 LessWrong 上的自白,它梳理了一位 AI 安全研究员如何在一周之内爱上一个陪伴型机器人。安全安全与治理Human-AI Collaboration+3
2:37:47EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年10月19日播客写出 GELU 的实习生,如今想出“人类最后的考试”主持 Nathan LabenzDan Hendrycks 谈激活函数、五年期的基准测试(benchmark)、扩大规模也无法消除的越狱,以及为什么要层层叠加防御,因为没有哪一层防御值得完全信任。安全AI security安全与治理+3
2:25:53EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年10月16日播客GPT-4 基础模型自我介绍,75% 的回答都在谈 AI主持 Nathan LabenzOwain Evans 向 Michael Trazzi 解释了为什么情境感知和语境外推理是欺骗性对齐的先行指标,以及为什么一个几乎没有自我认知的预训练模型,仍然不断谈论自己是 AI。安全安全与治理评估+3
1:59:47EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2024年10月5日播客脑机接口要 30 年,这家工作室转而投入对齐研究主持 Nathan LabenzAE Studio 的 Judd Rosenblatt 和 Mike Vaiana 介绍了两项受生物学启发的成果,它们无需可解释性上的突破也能发挥作用。安全AI Alignment安全与治理+3
加载更多已显示 24 篇,共 184 篇