筛选结果
24 篇排序
1:26:46EN → 简体中文很可能存在一种我们不该越过的智能水平主持 Nathan LabenzNathan Labenz 带回了 The Curve 大会的见闻:一家芯片初创公司的 token 账单超过了工资支出,一些软件行业的人则因为交上来的 Claude 低质量产出而被绩效考核。
2:13:27EN → 简体中文他写书要叫停 AI 竞赛,自己却差点对 Claude 上了瘾主持 Nathan Labenz记者 Garrison Lovely 相信 AGI 实验室说的话,拒绝“泡沫论”的说法,并主张冻结前沿研发,直到公众真正表示同意。
3:10:49EN → 简体中文冲刺时刻:Ajeya Cotra 为超级智能到来前的几个月准备的剧本主持 Nathan Labenz一场关于递归自我改进(recursive self-improvement)、公众预警系统,以及用每一代 AI 去对齐(alignment)和控制下一代的对话。
1:44:15EN → 简体中文Nathan Labenz 的 p(doom) 在 10% 到 90% 之间,他却仍然比较乐观主持 Nathan Labenz五年前,预计 2035 年前实现 AGI 会被视为极端激进。在 The Intelligence Horizon 节目里,这位《The Cognitive Revolution》主持人解释了,同样的预测为何如今听起来却像是看空,以及他为什么仍然认为纵深防御的策略,或许能让社会保持在正轨上。
3:27:22EN → 简体中文AI 牌桌只剩三张椅子:Zvi 谈中盘、就业与 Anthropic 的承诺主持 Nathan Labenz这是 Zvi Mowshowitz 第 12 次做客 Cognitive Revolution。他认为,2026 年初是中盘的开始:只剩三家实验室还在牌桌上,真正的就业冲击已经在进行,而 Anthropic 的安全承诺如今被缩减为一句“相信我们”。
1:03:00EN → 简体中文每周都能解出新数学题的模型,仍然不是 AGI主持 Jacob Effron前 OpenAI 研究副总裁 Jerry Tworek 谈规模化为什么依然有效、模型失败后为什么会陷入“绝望”,以及他为什么离开去追求持续学习。
1:55:02EN → 简体中文AGI 指数基金:MATS 如何筛选下一批 120 名 AI 安全研究者主持 Nathan LabenzMATS 联合执行董事 Ryan Kidd 告诉 Nathan Labenz,他为什么不肯大声喊出时间表,为什么每一种安全技术同时也是能力技术,以及究竟谁能被录用。
2:20:35EN → 简体中文ChatGPT 满一千天了,Emad Mostaque 说我们大约还剩一千天主持 Nathan LabenzStability AI 创始人提出的新经济学认为,智能一旦变得丰裕,建立在稀缺之上的货币和 GDP 就不再说得通。
3:14:49EN → 简体中文今年夏天,什么都没有突破曲线:Zvi 为什么拉长了 AGI 时间表主持 Nathan Labenz这是 Zvi Mowshowitz 第十次做客《The Cognitive Revolution》播客。他认为 GPT-5 和国际数学奥林匹克(IMO)金牌都在既有趋势之内,而芯片政策、能源问题和强化学习让他的末日概率(p(doom))微微上调。
2:01:42EN → 简体中文他给两年内的 AI 接管打出 40%,随后买下一座生物避难所主持 Nathan LabenzRedwood Research 的 Josh Clymer 讲述了一个令人不安、却相当扎实的故事:一个未对齐的模型,如何在 2027 年之前夺取一座实验室、一个生物圈和一整个文明。
1:57:00EN → 简体中文毁灭概率低于 1%:OpenAI 的 roon 为何相信好人会先拿到 AGI主持 Nathan Labenz《Doom Debates》主持人 Liron Shapira 追问 OpenAI 技术人员 roon 关于灭绝概率、默认对齐,以及连他自己也承认如同在剃刀铁丝上保持平衡的计划。
1:59:30EN → 简体中文放弃 OpenAI 数百万美元股权之后,他为 AGI 实验室写下四条规则主持 Nathan LabenzDaniel Kokotajlo 与 Dean W. Ball 在 AI 监管问题上观点不同,却共同主张前沿实验室需要披露能力、公开模型规格、提交安全论证,并设立吹哨人保护。
1:54:17EN → 简体中文Metaculus 在 2020 年 1 月就关注到了新冠,如今它要让 AI 也加入预测主持 Nathan LabenzNathan Labenz 与 Metaculus 首席执行官 Deger Turan 谈认知安全、为期一年的机器人锦标赛,以及为什么一个有用的预测,比一个准确的预测更难做到。
1:01:39EN → 简体中文GPT-5 需要 100 万亿个 Token,地球够用吗?主持 Nathan Labenz训练 GPT-3 用了约 1 万亿个 Token,GPT-4 用了约 10 万亿个。下一步跃升,数据问题和算力问题同样重要。
1:29:21EN → 简体中文2700 多名 AI 作者没有共识:高级机器智能(HLMI)2047 年前到来的概率为 50%,灭绝风险中位数为 5%主持 Nathan LabenzAI Impacts 的 Katja Grace 带 Nathan Labenz 梳理了一项针对 2022 年在顶级会议与期刊上发表论文的研究者的调查,并解释了为什么该领域真正的共识,只有“充满不确定性”和“应当加强安全工作”两点。
1:50:09EN → 简体中文九百种职业、二十年,AI 革命仍未到来主持 Nathan Labenz经济学家 Robin Hanson 在 The Cognitive Revolution 节目中说,每一次 AI 演示看上去都和上一次差不多,真正该看的是工资和在职人数。
2:42:44EN → 简体中文每周写上万字的前交易员,把 AI 末日概率估在 60%主持 Nathan LabenzZvi Mowshowitz 对 Nathan Labenz 说,今天的语言模型是一份礼物;超过人类水平之后,默认的未来是灭绝,或者一个毫无价值的宇宙。他还谈到,究竟谁真正在推动 AI 的争论。
1:42:48EN → 简体中文想让前沿 AI 暂停六个月的 Skype 联合创始人主持 Nathan LabenzJaan Tallinn 认为,训练算力每提高 10 倍,就有 1% 到 50% 的概率让一切终结,而实验室至今也不肯说明何时会停下来。
1:33:49EN → 简体中文只因还不够强才安全:GPT-4 红队测试者与两位创始人谈暂停主持 Nathan LabenzNathan Labenz 花了六个月想让 GPT-4 行为失常,他希望各家实验室停止训练更大的模型;Chroma 的 Anton Troynikov 和 Lindy 的 Flo Crivello 则认为,六个月的冻结换不来多少东西,还可能筛选出最不谨慎的实验室。
1:25:13EN → 简体中文Codex 不是你调用的工具:OpenAI 要把智能体做成会主动干活的工程队友主持 Lenny RachitskyCodex 产品负责人 Alexander Embiricos 解释 20 倍增长从何而来、为什么有用的智能体都得会写代码,以及人类审核速度才是真正的瓶颈。
1:23:56ENA Three-Month Window: The AI 2027 Authors on Superhuman Coders, Faked Alignment and Who Ends Up in Control主持 Jacob EffronDaniel Kokotajlo and Thomas Larsen walk through their AI 2027 scenario, where they disagree on timelines and alignment, and what they think governments and the public should do.
1:14:59EN → 简体中文Ben Mann:AI 还在加速,对齐却不能等到超级智能到来再做主持 Lenny RachitskyAnthropic 联合创始人谈人才争夺、缩放定律、经济图灵测试、就业冲击、离开 OpenAI、宪法式 AI,以及他对超级智能风险的预测。
50:23ENOpenAI’s Platform Bet: Where AI Value Accrues, Why Open Source Trails, and When Superintelligence Arrives主持 Jacob EffronPeter Welinder explains OpenAI’s platform strategy, the case for proprietary frontier models over open source, the enterprise hallucination problem, and his speculative timeline for AGI and superintelligence.
2:18:07ENGambling on Trump for the AI Era: Nathan Labenz and Samuel Hammond Argue the Stakes主持 Nathan LabenzA long, good-natured debate over whether Trump's high-variance, ideas-driven coalition or a stable incrementalist Democratic establishment is the better bet for governing AI, China policy and a possible intelligence explosion.









