1 亿美元超级 PAC 把他列为头号公敌,捐款反而增加了

原标题A $100 Million Super PAC Named Him Public Enemy Number One. Donations Went Up.

在《Cognitive Revolution》年终直播的后半场,纽约州众议员 Alex Bores、前白宫顾问 Dean Ball 和预测员 Peter Wildeford 就州级 AI 法律、对华芯片销售,以及 2026 年究竟会是什么样子展开争论。

NLNathan Labenz主持 · Cognitive Revolution
频道
Cognitive Revolution
发布
2025年12月19日
视频
1:43:19
阅读
27 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

纽约州众议员 Alex Bores 正在曼哈顿一个选区竞选国会议员,那里已经有大约十位候选人。一家新成立的 1 亿美元超级 PAC Leading the Future 把他列为头号公敌,原因是他起草了 RAISE 法案。这家 PAC 由 Andreessen Horowitz、Greg Brockman、Joe Lonsdale 和 Ron Conway 支持。前白宫 AI 顾问 Dean Ball 梳理了围绕这场争论仍在形成的几股力量,并坚持要划清一条界线:AI 安全与反 AI 是两回事。预测员 Peter Wildeford 主张的芯片政策是“出租,不出售”,他对 2026 年的判断是:智能体(Agent)终于能独立干上一两天的活,不再需要人每二十分钟盯一次。

  1. 1读 AI 安全法案时,先看门槛。造成一百人死亡或十亿美元的损失,和一部透明度与信息披露法规是两种不同的东西,哪怕两者都被包装成“AI 安全”。
  2. 2要判断一项州法有没有实际作用,就问它覆盖的公司是否已经在另一个州受同样规则约束。Bores 说,如果是这样,那你就是第 39 个批准修正案的州,法律上很整齐,实际上几乎为零。
  3. 3Wildeford 的芯片主张是出租,不出售。打仗时,租来的马来西亚甲骨文算力可以关掉;解放军不会把军事工作负载放到那里;中国的商业公司却仍可能在那里使用,这样就把经济收益和军事能力分开了。
  4. 4他在预测上吃过代价高昂的亏,由此得到的教训是:不要把公司给出的营收指引当成上限。标准的财务模型不允许计入前所未有的 AI 进展,而这恰恰是他原本预期会出现的东西。
  5. 5判断进展,既要看能力曲线,也要看成本曲线。ARC-AGI 的成本一年内便宜了约 390 倍,于是去年还勉强能做到的任务,就这样变成了一个能在笔记本电脑上运行的开源模型。
  6. 6Ball 认为,政治上的关键变量是中间派,也就是关心儿童安全和消费者伤害的人。他们最终会加入真正的反 AI 阵营,还是停留在“我们要技术,但要有护栏”的立场,会比任何一家公司的游说都更重要。
全文

按章节阅读整理后的全文

10

研究成果已经进入社区,但还没有进入经济;美国的赌注是单向的

Nathan Labenz 介绍纽约州众议员 Alex Bores,说他是计算机工程师出身,曾在 Palantir 工作,也是 RAISE 法案的作者。介绍时他还提前了一步,称 Bores 为国会议员。Bores 纠正他:还不是。他正在曼哈顿一个竞争激烈的选区参选,那里已经有大约十位候选人宣布参选。他起草的这部法案,一度看起来比加州的 SB 1047 温和,如今却成了众矢之的。州长正在和各方协商修改,一项总统行政令试图以联邦优先权压过类似的州法,还有一家超级 PAC 认定,要拿他来杀一儆百。

Leading the Future 在今年夏天成立,资金为 1 亿美元,出资方包括 Andreessen Horowitz、Greg Brockman、Joe Lonsdale 和 Ron Conway。它公开承诺,要打击任何对 AI 施加监管的人。Bores 是他们点名的第一位民主党人,被列为头号公敌。一位在德州竞选国会议员的共和党人,得到了一支几乎不提技术的支持广告。针对 Bores 的广告则直白得很:不要投 Alex,因为他会监管 AI。Labenz 怀疑,这个行业是不是在给自己制造“史翠珊效应”。Bores 认为,这些操盘手很聪明,这正是让时机显得耐人寻味的原因。

他说,如果只想把一个候选人埋掉,就应该等到初选前三周,买下民调显示最受关注的议题(而不是你真正在意的议题),然后等信息披露截止日之后再抛出,让对方来不及回应。对方却反其道而行:提早点名,把议题直接定为 AI,然后开始投放广告。到目前为止,结果是免费的媒体曝光、捐款激增,还有志愿者大量涌入。这家 PAC 原本说要花 200 万美元对付他,经过这一波涌入之后,把数字提高到至少 1000 万美元。Bores 开玩笑说,如果保持这个速度,他或许能把这 1 亿美元全部吸走,让其他候选人都不必承受。他预计,到初选前三周,那一波攻击才会真正伤到他。在那之前,“我要监管 AI”是一个很受欢迎的标签,而且是他不用花钱去买的。

RAISE 法案已经在州议会通过,现在进入纽约的“章节修正”(chapter amendment)程序。Bores 说,大约三分之一的已签署法案都走这一程序。州长会与提案人协商修改。如果双方达成一致,她就签署原法案,同时附上一份备忘录,说明是依据该协议签署的;提案人则在下一届会期开始时提交修正案。这份法案上周才送到她的办公桌上。按宪法规定,她有十天时间(不计周日),也就是要到周六。不过,各方默认的判断是,大家都想在周五晚上过节收工。Bores 说,接下来的48 小时左右,他们就会知道:RAISE 法案是会以修订版的形式推进,还是只能等到明年再来一次。

他不会讲谈判桌上的细节。他提到,据报道,各方有很大压力,要求把 RAISE 法案往与加州 SB 53 一致的方向调整。奇怪的是,并没有人推动与欧洲行为准则保持一致,这让这一要求更像是在削弱法案,谈不上协调统一。SB 53 是加州会期结束时达成的妥协,主要是透明度标准,算不上真正的安全标准。今年有八个州提出了某种版本的前沿模型安全法案,真正通过的只有两个。

他的反驳是从结构上着眼的。如果纽约原样照搬 SB 53,没有一家公司会因此新增义务,因为这些公司在加州本来就受它约束。这也不像数据隐私法案,那种法案里,每个照搬文本的州都会给本州居民带来新的权利。他说,这更像是成为第 39 个批准宪法修正案的州。三十八个州已经够了,第 39 个在实际上不会带来任何改变。SB 53 本来就只是底线。现在的问题是,纽约能不能在这条底线之上再走一步,并且让各方都还愿意签字;还是注定要等到明年再来一次,也可能两者都有。

Bores 划定了一条明确的边界。对儿童、能源、民主、就业和算法歧视的影响,都是真实存在的问题,RAISE 法案并不处理这些问题。它针对的是极端的、灾难性的风险,在他看来,这类风险应当由联邦层面来管,而联邦层面至今还没有动手。联邦层面的动向大多朝相反的方向走:不许华盛顿出手,也阻止各州出手。正因为联邦没有动,各州才动了起来。RAISE 法案的设计是:实验室公布安全计划并遵守它,披露显示某种坏事风险大幅跃升的重大安全事件,并且不发布没能通过自家测试的模型。

他说,这些门槛定得极端,几乎有些荒谬。一是造成一百人死亡,或十亿美元的损失,而且原因是协助研制核、生物、化学或放射性武器,或是实施全自动化的犯罪。末尾这一项讲的是另一种情况:AI 本来在执行一件完全合法的任务,结果它自作主张,自己犯了罪。这与用户借助模型作案,完全是两码事。就算过了这道门槛,你仍须证明,这类协助比单纯上网查资料明显更有实质作用,并且风险在某种程度上可以事先预见。下游的法律责任与刑法条文都不会有任何变动。用模型作案,本就已经构成犯罪。

联合主持人 Prakash 追问加密货币交易、对敲交易,以及“很多非法活动本来就是现状”的说法。Bores 不接受“所有加密货币都是洗钱”的说法,支持把规则讲得更清楚,然后回到他真正写进法案里的那条区分。执法是犯罪发生之后要做的事。国家安全则是要抢在危害发生之前行动,这种危害严重到你不会满足于日后在法庭上处理,比如生物武器,或者模型失控。Bores 希望大家记住的是烟草的类比:烟草公司率先知道香烟致癌,公开否认,却仍然继续出货。RAISE 法案认为,实验室是前沿专家,如果它们发现了极端风险,就有义务依照自己的计划行动,不能照常发布。

Labenz 提出的问题很天真,也是很多工程师会问的:Bores 有计算机科学硕士学位,在 Palantir 干了四年半,而他的法案基本上是在呼应各家实验室自己的“防范框架”(preparedness framework),其中包括 OpenAI 的版本。那为什么整个行业要把他当成敌人?Bores 给出了两个答案,都和威慑有关。管制 AI 在民调里很受欢迎,现在大家都在写政纲。这家 PAC 想立下一个标杆:谁碰这个议题,我们就找谁。第二个原因更具体。广告对他本人谈得不多,对 RAISE 法案谈得很多。屏幕上满是奥尔巴尼(纽约州府所在地)的画面,还有“奥尔巴尼运转失灵”的台词。当时法案正摆在州长的办公桌上。在他看来,传给州长的信息再明显不过:签一个强硬的版本,下一个就轮到你。

在数据中心问题上,他不会加入全面暂停的阵营,即便 Bernie Sanders 呼吁阻止建设。Bores 说,Bernie Sanders 反映的是民众的一种感受:这件事推进得太快,由五个人在决定,美国人应该有发言权。他自己经常使用 AI,也看好医学发现,他的母亲患有多发性硬化症,所以他才对双重用途问题格外在意。能发现药物的同一条路径,也能用来制造生物武器。美国的电网老旧,需要升级。只要激励机制设计得当,几乎无限的私人资本愿意为特定目标买单。目前,新的可再生能源并网要花四年,于是开发商会重新启用仍持有许可证的老燃煤电厂,或者要求核电站少向电网供电、多向数据中心供电。电力会变得更脏。他提出的联邦层面的交换条件是:如果项目使用了规定比例的可再生能源,并自己出钱承担升级费用,就简化并网审批,这样电费用户就不必为此补贴。

接着,Labenz 问了 Palantir 的问题:一边是反华言论,一边是国内监控,还有边境查验旅客的社交媒体账号,以及 Zvi 提出的观点,即 AI 让那些过去无法大规模使用的法律权力变得廉价。Bores 答得很简短,因为 Dean Ball 还在等着。在 Palantir 时,他的工作几乎全部集中在联邦民用部门:为退伍军人事务部的医院配置人手,帮司法部找出涉嫌滥开处方的医疗保险(Medicare)医生,和美国疾控中心(CDC)一起追踪疫情。他为这些工作感到自豪。2019 年,公司续签了与移民和海关执法局(ICE)的合同,让这套软件可以继续用于驱逐出境,他因此离开。那是他个人的底线。在他看来,强制旅客交出社交媒体账号,无论从隐私角度,还是从纽约希望吸引游客的角度,都不是美国应该做的事。广泛的权利应当由国会来确定,而国会在这件事上拖得太久,什么也没做成。

Dean Ball 曾任白宫科技政策办公室的 AI 政策顾问。大约四个月前,他离开了,并在推特上说自己骨子里是个作家。他说,这四个月是他这辈子最有成效的日子之一,难的是要拒绝哪些事。今年有两个时刻,重新改变了他对这项技术有多大用处的看法。一个是 o3,它发布的那一周,正好是他进入政府的时候。另一个是最近这几周:前沿编程智能体基本上能做到你让它做的任何事。他又能坦率地发表意见了,这让他很喜欢。

他说,政治格局正在转变,一切都还悬而未决。公众对 AI 的情绪是负面的,但并不突出,通常排在第六或第七位。从选举角度看,几乎等于不是优先事项,只有个别选区例外。他把阵营分成三类:传统的 AI 安全阵营;亲 AI 阵营,以产业界为主,但不只是产业界,他自己也在其中;还有一个正在形成的、真正反 AI 的联盟,这和 AI 安全是两回事。他不会把 Bores 归为反 AI。他把 Bores 归为关心 AI 安全某些方面的人,这样归类的理由相当充分。Bernie Sanders 主张禁止数据中心,是第三阵营的左翼版本;右翼也有人说类似的话。

关键变量在中间:担心儿童安全和消费者保护问题的人,再加上更传统的安全派。他们最终会断定自己根本上就是反 AI,还是希望技术向好发展、需要护栏?Prakash 补充了一句“别让社交媒体的事在 AI 身上重演”:民选领导人眼看着算法把大众媒体从自己手里夺走,雏形形态的 AI 已经在造成某种失控。Ball 认可其中一部分道理。GPT-4o 的谄媚问题,是同一类局部最优的问题。但这些人中有很多,几乎完全把 AI 当作消费品来看,这是一种短视的框架,抓不住重点。社交媒体是权威的摧毁者,在某些方面有益,在另一些方面害处很大。Ball 认为,Josh Hawley 更深层的担忧,是互联网企业权力与政府之间的平衡。Marsha Blackburn 的议程里,纳什维尔的音乐产业也占了一席之地。至于人们说自己在保护创作者,Ball 的回应是“得了吧”。他们保护的对象,是迪士尼、新闻集团这些握有庞大知识产权组合的公司;街头抱着吉他的音乐人,并不在其中。“我们是在保护 Taylor Swift,她几乎就是亿万富翁,这没问题。但得了吧。”

Labenz 提出了一个历史学家式的问题。他平时习惯从结构上思考,比如技术与经济,领导人在上面争吵。眼下很多事情都还悬而未决,向中国出售 H200,或者一项在核心支持者中并不受欢迎的联邦优先权行政令,都可能成为真正的转折点。Ball 认为,特朗普在狭义上会被写进历史,成为一位伟人:他改变了这个国家的方向,也改变了治国的话语方式;身处其中的我们,要由历史来评判。在联邦优先权问题上,许多自称反对它的右翼人士认为,总统已经被科技界俘获。Ball 的判断正好相反:特朗普本人很在意联邦优先权,一直在谈这件事,并会带领党派走向他认为符合国家利益的方向。Ball 认为他的判断是对的:联邦优先权符合国家利益。

在 H200 的问题上,他想先观望:中国到底会不会接收这些芯片,实际又能出货多少。按他的说法,平衡之道是卖的东西要比中国自己能做出来的更好,这样生态系统上的优势才是真实的。中国工程师会编写 CUDA 内核和其他基础设施的优化代码;这些工作有助于提升英伟达的性能,并通过整个技术栈,帮助基于英伟达构建的美国开发者。这只是众多因素之一,需要与国家安全放在一起权衡,而中国也在做它自己的权衡。Labenz 在梳理 Ball 与 Max Tegmark 的那场辩论时,注意到超级智能禁令声明上有两个格外醒目的签名:Steve Bannon,以及 Z.AI 的 CEO。Z.AI 是 GLM 的研发方,可能是中国前五或前六的 AI 公司。这或许有点像尼克松访华式的反常组合。

这里是伟人史观与结构性因素相遇的地方。Ball 写道,美国与中国正在经历一种结构性脱钩,这不取决于谁当总统,除非华盛顿大幅加强对经济的控制。作为受托人,私人资本的配置者不能继续依赖一条中国已经表明会将其武器化的稀土供应链。中国出口产品、压低价格,到处和本土产业竞争,先把原材料抽走,再把成品卖回来。Ball 认为,这是一种对中国政府有利的图景,对中国普通民众是否有利并不明显,更不用说其他人了。在 Ball 看来,总统不想成为那个开启百年文明竞争的人,他想要的是一套和平相处的框架。Ball 不会和美国总统打赌,他已经多次看走眼。接着,他抛出一句他自己说相当政治不正确的话:按某些定义,Claude Code 里的 Claude Opus 4.5 基本上就是通用人工智能(AGI)了。私下里很多人这么说,却不愿在公开场合签字认可。他希望明年的现实能迫使各方更坦率,让奥弗顿之窗(Overton window)变得更宽,并让双方重写基本假设。Labenz 补充了一个 Ball 没有反驳的预测:知识型岗位会率先出现下降,预计在 2026 年第二季度。Ball 还预计,模型会非常强,而且很可能出现自主发动的网络攻击。

Peter Wildeford 纠正了主持人的介绍:他并不是 Metaculus 的联合创始人。他是董事会成员,参与得很积极,在 AI 政策与战略研究所工作,也是全球前二十名的预测员之一。在芯片问题上,他坚决反对对华销售。他说,英伟达的销售会削弱华为的需求,这种说法的前提是中国是一个会对供需做出反应的资本主义国家。但中国并非如此。华为目前大约只供应中国需求的 1% 到 4%。政府会通过法律和软件要求,确保企业采用华为的产品。用他不留情面的说法,英伟达就是一个有用的傻瓜,替华为填补另外 96% 的市场,把整个行业推得越来越快,直到华为能拿到更多份额,到那时国家就会在天平上用力压一把。特斯拉本以为能靠卖电动车赚钱,结果被比亚迪挤了出去。苹果也因为华为而被挤压,优步同样如此。每个行业都是同一个剧本。

Prakash 给出一个聪明过头的另类解释:也许华盛顿根本不相信 AGI,而芯片出口就像在斗牛面前晃红布,是一招类似“星球大战计划”(战略防御倡议)的把戏,目的是让北京在同时应付房地产泡沫破裂、反内卷运动,以及与 SpaceX 的发射竞赛的情况下,还要超额投入。Wildeford 很客气地表示,这种解释依赖二阶效应,却忽略了一阶前提。如果你和他一样相信 AGI 和 ASI(超级智能),那么大规模投入就是理性的;按这种优势来衡量,中国可能反而投入不足。美国的历史优势在于更深厚的资本市场。动态清零说明北京并非无所不能。如果目标只是诱使中国花钱,那就去赛跑火星好了,也别把支撑其军事和经济的东西交出去。他说,中国在持续不断地发动网络攻击,并把 AI 用于国内的侵犯人权行为。为这些能力加码,说不通。

Labenz 列出了芯片禁令不断变化的理由:先是拒绝军事应用,再是拒绝前沿模型,然后是“我们会有更多智能体,而他们会更穷”。他说,让中国民众变穷,与他的价值观不一致。Wildeford 明确表示赞同:让中国变穷,不可能成为美国的政策。中国人民,甚至中国政府,都应该从 AI 中获益,包括美国的 AI。在芯片问题上,他的威胁模型是:一旦交出去,就收不回来;DeepSeek、Qwen 以及当前中国生态的大部分,都运行在美国的芯片上(《The Information》此前报道过 DeepSeek 走私芯片);而且在军民融合体系中,军事 AI 会变成即插即用的分析员和指挥官,这与台海或大国战争的情景相关。用战斗机来做类比,是最容易引起火气的说法。所以,出租,不出售。放在马来西亚甲骨文数据中心里的字节跳动芯片,与放在境内的芯片不同:战时可以把它们关掉;解放军会因此没有动机把军事工作负载放在被美国监控的基础设施上;而中国的商业公司仍然可能乐于使用这些芯片。他说,这把经济收益和军事能力分开了,在美国国内的辩论里,这已经算是温和的立场。

Prakash 放出了 ARC-AGI 排行榜:一年之内,成本降低了约 390 倍。Wildeford 认为,这一点被忽视了。每个发布评测结果的人都在强调能力。过去勉强才能完成的任务,现在开源模型就能做,接着是笔记本电脑,很快就是手机。性价比乘以能力,才是真正转化为使用量的东西。他没有专门预测过这条曲线,但仍然惊讶于现有能力变便宜的速度,有时只需几个月。接着,Labenz 回顾了他们在 2025 年做出的预测。Wildeford 在基准测试上更准;Labenz 对所有分数的预测都偏高,但在营收上猜得更接近,而营收恰恰大幅超出了社区的预测。进展比 Labenz 期望的略差一点,营收却爆炸式增长,成本急剧下降,而大家仍在追问经济影响究竟在哪里。这三件事该怎么放在一起理解?

Wildeford 承认自己做过一个不太聪明的预测。年底时,OpenAI、Anthropic 等公司公布了下一年的营收预期,他把这些数字加在一起。他原以为,公司肯定比自己更了解营收。后来他明白,公司必须使用标准的经济模型,而这些模型不允许把前所未有的 AI 进展计入其中,否则看起来就不够严肃。他恰恰预料到了这些向后看的模型没有计入的那种进展。回头看,他本该料到营收会高得多。真正爆发的是编程:Claude Code、Cursor、Windsurf。他原本以为,其他能操作电脑的智能体会带来更多经济价值;从更广义的角度看,2025 年并不是智能体之年。他做过五年软件工程师和数据科学家,每天都要写好几个小时代码。如今他很少亲手写初稿了。Claude Code 更快,也更好。Prakash 补充了首席财务官(CFO)的限制:研究人员可以做梦,但 CFO 不能在没有具名产品和签约客户的情况下,告诉投资人预期要增长 10 倍。Claude Code 那一年的 10 倍增长,起点仍是前一年末一次只能算强劲的发布。明年的官方预测更像是两到三倍。Wildeford 认为,它们还会再次超出预期,除非“从零到一”的那种变化,也就是“人们以前不用 AI,现在用了”,已经无法重现。真正改变游戏的东西,比如每月几万美元一位、可即插即用的远程员工,而不是每月 20 美元的 Claude Code 席位,还没有到来,而它们取决于能操作电脑的智能体能否像宣传的那样可靠。

他获取信息的渠道包括 Twitter、Zvi 的汇总、Timothy B. Lee 的《Understanding AI》、Nathan Lambert、SemiAnalysis、Epoch AI 和 Meter,这些机构都以不说空话著称。Epoch 的专业数学家,比如 Daniel Litt,用真实的研究来检验新模型,显示出这些系统能赢得竞赛,却仍然帮不上在一线工作的数学家。Meter 关注的是可靠性,而可靠性正是基准测试与“保住一份工作”之间的差别:如果他的政策分析只有 80% 靠谱,他早就干不下去了。OpenAI 员工那种“死星”式的夸张发帖,以及马斯克把每个模型都说成 AGI,是他现在会刻意过滤掉的噪音。他说,早期内测头 24 小时里的那些好评不必当真,因为那些测试者之所以能拿到资格,正是因为他们会大加赞赏。更广义地说,预测不只是给一个定义清楚的问题标上一个数字。价值链上被忽视的环节,是你提出什么问题,以及你拿到数字之后怎么办。新范式大约每十年才出现两次,所以在任何一年,出现某种性质上截然不同的变化,概率至少有 10%,比如持续学习、思维链脱离英文、数据效率更接近人类(人类只需十个样本)。预训练似乎正好在推理模型兴起时走到了尽头,这可能会在范式不断更替的过程中,带来一种出人意料的线性进展。这应该让人把不确定性放得更大。

他最看重的 Meter 评测,是按人类专业人士完成一项任务需要多长时间来给软件任务打分。目前,AI 在那些需要人类两小时才能完成的任务上,大约有 50% 的可靠度。这已经足以让 Claude Code 带来实际价值,只是人仍然每二十分钟就要介入一次。他认为,到 2026 年底,有可能出现能完成一两天人类工作量的系统,它们会更加自主,自己进行试错。Meter 的另一个发现是,许多可以衡量的任务,不只是软件,比如电脑操作、经济分析、法律工作、自动驾驶,都从低得多的起点上出现了类似的能力提升。在他的设想里,如今连十秒钟的电脑操作都会搞砸的 AI,一年之后可能就能在接近人类的水平上使用电脑。哪怕只是一个笨拙的循环:尝试五次,失败四次,第五次发现成功,然后在你睡觉时汇报结果,也很有价值,因为它很便宜。他曾把 2025 年称为智能体之年,但这个说法在编程之外没能站住。他很乐意再次重申这一预测。

进入中期选举年,他预计这方面的政治气氛会更加火热。Waymo 应该会更加普及。一个便宜、广泛使用、能帮你订外卖和机票的智能体,可能会成为另一个 ChatGPT 时刻:内部人士在 2022 年并不惊讶于 GPT,但一个漂亮的界面让它成了各路峰会上的头号话题。即使失业率只是小幅上升,人们也可能切身感受到失业的压力。民粹式的反 AI 情绪已经在上升:数据中心耗水,推高电价。坐在门廊上,你对 OpenAI 做不了什么。但你可以对社区里的那座数据中心做点什么,这也是为什么地方层面的反对,让人觉得自己有了能动性。他不指望在一个充满火药味的中期选举年,真正的解决方案能够通过。在他看来,关键是把这股情绪引向 Waymo 那样的生产性用途,同时避免推行他认为许多大型科技公司想要的那套“没有护栏”的做法。

Labenz 希望尽快看到一台能洗衣、做饭、煮早咖啡的家用机器人。Wildeford 说,机器人领域一直表现不佳,评测成绩很差。他的直觉是,一旦它开始奏效,就会真正开始奏效,就像自动驾驶出租车在很长时间里经济上都不可行,然后在他 2015 年做出那个大学生式的预测十年之后,才开始变得可行。他敢押注,到 2030 年代末,机器人管家会比人类管家便宜,这对消费者是巨大的利好,却会让现在做这份工作的人很难受。Labenz 觉得机器人大概比聊天机器人落后四年:明年首批人形机器人进入家庭时,可靠性大致相当于 GPT-3.5;如果这条曲线成立,到 2030 年前后,就会出现 Claude Opus 级别的机器人。Wildeford 提到,从 ChatGPT 时刻到 Claude Opus 4.5 只隔了两三年。Prakash 认为,舵机的状况比控制软件要好。Wildeford 最近提到一个事实:机器人手大约有 10000 个触觉传感器,听起来很多,直到你知道人手大约有近一百万个触点。相差两个数量级,这也正是莫拉维克悖论(Moravec’s paradox)的一个干净的例子:洗碗比数学竞赛难。

Wildeford 结束发言之后,Labenz 和 Prakash 试图从这场马拉松式的讨论中退一步。Bores 很有魅力,是政治人物那种感染力,科技圈的人往往缺少这一点;他没有顺着加密货币的话题走。Ball 听起来比 Zvi 更乐观,而 Zvi 在节目前半段的基调更为阴郁。Prakash 印象最深的是,他们刚刚讨论的那些进展,有多少都发生在最近几周:GPT-5.2、成本下降 390 倍、嵌套学习。生物技术领域的人谈的还是一两年前甚至一年半前的成果。AI 正明显地从研究扩散到社区,但还没有扩散到经济中。节目上的每个人都预计今年会有更多进展,明年也仍会有更多。市场的说法是泡沫,预期却已经趋于平缓。内部人的看法与市场的看法,并不是同一回事。

Labenz 在琢磨 Noah Smith 对这一分歧的说法:技术是真实的,能力还会继续提升,但这并不能保证那些融资假设依赖它的公司,能拥有长期稳定的高利润率。转换成本在上升,但仍然不算高。模型之所以便宜,是因为没有人愿意被大幅压价。可以想象,进展持续,价格战也持续,直到经济账变得一团糟。Prakash 的反驳是:有用的模型会变得越来越小。Gemini 3 Flash 的水平与 2.5 Pro 相当,而服务成本低得多。今天需要 Blackwell 才能跑的软件工程师工作,十二个月后可能就能在 H100 上运行。黄仁勋说 H100 仍在满负荷运转,也是同一个意思:随着模型变小,旧芯片依然能完成有经济价值的任务。一个很小的递归模型,已经在 70 亿参数的规模上跑出了 ARC-AGI 的成绩。只要工作还是那份工作,六年前的数据中心仍然有活干。这就是他的论点:融资可以撑得住,关键在于设备的使用寿命长,而不是一次性的峰值。

照 Prakash 的理解,Meta 的退路是:如果超级智能没有到来,就靠低质量内容(slop)过活,即个性化广告精准到让一个看起来像你配偶或孩子的人来向你推销商品。视频生成很吃 GPU,但现金流还在。最坏的情况是,几年里沦为垃圾债的水平,但对广告业务有足够信心,仍会继续投入建设。让他担心的是集中度过高。美国的大量经济活动,如今都押在少数几家市值达十万亿美元级别的公司身上,它们在做一场单向押注。按他的说法,中国则把赌注分散到许多其他方向。站在顶端的人愿意赌,所以他们在赌。Labenz 把这个话题留作悬念,列出了这场有九位专家参与的一整天讨论仍未涉及的内容:机制可解释性、对齐与控制、AI for Science、媒体内容生成,并请读到这里的人给出反馈。

同频道的其他文章

1:25:56EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年10月17日播客Claude 改了密码,方向盘早就可有可无主持 Nathan LabenzNathan Labenz 和 Prakash Narayanan 这一周聊了:能把你锁在门外的智能体,否认自己有感受却又在行为上回避的模型,以及用形式化证明找到 Linux 漏洞的故事。智能体安全与治理智能体工程+3
2:17:48EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年10月14日播客智能体(Agent)身份仍是一片空白,失控智能体快要来了,我们或许得和它们谈判主持 Nathan LabenzGovAI 的 Alan Chan 与 Nathan Labenz 一起,为两年来的智能体治理基础设施打分;随后,他讲解了一篇与 OpenAI 的 Jakub Pachocki、Anthropic 的 Jack Clark 合著的递归自我改进论文。智能体安全与治理AI security+3
2:00:51EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年10月10日播客在每个 Token 处重新采样,就能看见模型怎样做决定主持 Nathan LabenzGoodfire 的 Eric Bigelow 谈分叉路径、上下文学习,以及为什么越来越难信任思维链(chain-of-thought)监控。智能体Prompting & in-context learningReasoning & test-time compute+3
1:26:46EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年10月8日播客很可能存在一种我们不该越过的智能水平主持 Nathan LabenzNathan Labenz 带回了 The Curve 大会的见闻:一家芯片初创公司的 token 账单超过了工资支出,一些软件行业的人则因为交上来的 Claude 低质量产出而被绩效考核。企业与战略安全与治理AGI Timelines+3
1:10:12EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年10月7日播客OutSystems 的重大功能从每季度 4 个涨到 26 个,token 开销却还是降了主持 Nathan LabenzCEO Woodson Martin 谈“永不崩溃”的软件、为什么大多数企业工作用不着前沿模型,以及 AI 如何终于让 IT 积压的需求开始变少。企业与战略企业 AI编程智能体+3
1:30:54EN → 简体中文
Cognitive Revolution "How AI Changes Everything"· 2026年10月3日播客人形机器人跑赢了博尔特,DeepMind 仍将机器人评为 GPT-2 水平主持 Nathan LabenzGoogle DeepMind 的 Gemini Robotics 负责人讲述:为什么冲刺很容易、煎蛋很难,以及为什么一个大脑应该能驱动任何身体。智能体RoboticsMultimodal AI+3