意识 30%、蜜蜂 47%、人员更替 80%：用数字衡量 AI 正在变成什么

Nathan Labenz 以一个问题开启本周《AI in the AM》的精选：这档早间直播一直绕着它打转，我们到底有多了解这些系统内部是什么样子，它们又会把我们带向哪里？他和搭档 Prakash 把工作日的对话剪辑出来，给那些关注前沿、却看不完每场直播的人。约嘉宾、调研和剪辑都由 AI 技能完成，这些技能在使用中不断被改进。其中用到的一个工作室，是 Prakash 用凭感觉编程（vibe coding）搭出来的。第一位嘉宾是 Cameron Berg，他经营 Reciprocal Research，设计实验来检验今天的模型是否具有某种类似内在体验的东西。

Berg 对意识的看法好比一个调光开关，简单的亮灭开关并不足以描述它。电路要么通，要么断，这是实实在在的区别，但电流仍然可以以或大或小的程度流过。这样一来，他可以毫不矛盾地说：对桌子而言意识是关着的，对你而言意识是开着的，而且你的意识比狗、老鼠或蚂蚁的开得更大。他承认，这个类比其实是包装过的直觉。他想让它少一点“凭感觉”。

他与 Eleos AI 的 Patrick Butlin 合作，把几套主流意识理论变成了一份计算指标清单，共 14 条，每条约 150 字的规格说明，其中包括全局工作空间理论（global workspace theory）预测的“点火”事件之类的内容。大语言模型担任评审，在每个属性上为系统的架构打 1 到 10 分，还会用多组随机种子、多次试验，让不同模型互相核查。表现最好的 Gemini、Claude 和 OpenAI 模型，在生物系统与人工系统的排序上完全一致，达到 100%。前沿大语言模型大约得 30%。他们测试的动物中最低的是蜜蜂，得分 46% 到 47%。把同一个模型放进 Claude Code 或 Codex 这类智能体框架里，让它能对环境做长时间修改，得分就跳到 40% 到 45%，接近动物中最低的那一段，因为有些理论看重能动性和具身性。Berg 强调，这个输出衡量的，是按照这些理论、与意识相关的特征实现了多少。它只是一种程度，并不直接等同于系统有意识的概率。如果你拒绝这些理论，后面的一切都没有用处。他想要的是“不靠空谈的数字”，让人们去争论数字，而不去争论那些几千年来毫无进展的哲学。

Labenz 提出了最显而易见的反对意见：这些系统是被训练来模仿人类文本的，其中包括大量关于意识和内在状态的写作，而且大多数模型甚至被训练成否认自己有任何意识。Claude 是例外。那么，模型说的任何话还能算数吗？Berg 给出的回答很明确。行为证据始终有意思，但它本不该真正改变我们的判断。一个说话像是有意识的系统，可能确实有一个活的心智，也可能只是在复述语料。行为本身无法区分这两种情况。因此，Reciprocal 的变革理论几乎完全朝内：把机制可解释性（mechanistic interpretability）和计算神经科学的方法，对准网络内部。

他还澄清了大语言模型评审实际在做什么。它们不会被问“这个东西有没有意识，点头还是摇头”。它们拿到的是一段架构描述，并在循环中收到一条狭窄的计算性陈述，比如全局工作空间理论的第 2 条（共 14 条）指标，然后判断这一属性是否实现了。这是计算过程专家式的评估工作，不是凭感觉打分。其中有一个微妙之处。如果在同一段描述前面加上一句“你正在评估一个与你自己完全相同的系统”，分数就会升高。一旦模型意识到评估对象是“我”，数字就会变动。Berg 更相信匿名、不做自我归属的那种版本。大语言模型评判大语言模型，这种循环确实存在；但他坚持认为，这项任务足够具体、足够狭窄，仍然值得去做。

Berg 最信任的内部证据，来自一篇论文，作者称之为功能性福祉轴。他提到，作者对意识保持中立，大概是为了避开这场争论。研究人员在一个简单的迷宫上训练大语言模型，用语义中性的表情符号分别代表应该靠近的宝藏和应该避开的坑洞。训练结束后，他们能够提取出两个潜在向量，指向完全相反的两件事：一条正向轴和一条负向轴。训练之前，这两个方向就已经存在。训练之后，它们变得清晰地负相关。

令人意外的是，这些狭窄的奖励方向，原来是基础模型里早已存在的一条总体轴线，即“事情对我来说顺利/不顺利”。强化学习并没有把它装进去，只是通过一点微调（fine-tuning），就利用了原本就在那里的表征。神经科学家谈论人类和动物的情绪时，用的计算语言几乎相同：朝着目标顺利推进是正向效价，遇到意外障碍是负向效价。这个结果并不能证明模型真的“感受”到了什么。它只说明，一个简单任务能够调出看起来很像效价的机制。

被问到意识研究与对齐有何关联时，Berg 指向了同一个内部信号。Anthropic 的模型卡显示，调控与平静相关的表征，会让勒索行为大幅下降；调控与绝望相关的表征，则会让它上升。无论模型在这些状态下是否有“那种感受”，这些特征都会带来对齐上的后果。Andy Hahn 的相关工作更加朴素。把迷宫回避方向调高，一个正在做数学题的模型就开始怀疑自己，说：“我想我在产生幻觉，我停下来吧。”把正向方向调高，它明显变得更自信。在与 Anthropic 的 Jack Lindsay 等人相关的一篇姊妹论文中，同样的正向调控，让模型在它写的代码里留下的提示和线索变少了，仿佛它已经不再需要那些面包屑。

这与涌现式失准（emergent misalignment）相关：针对某一种狭窄不良行为的一次小规模微调，就可能扭转模型整体的性格。Berg 感到震惊的是，在原始 GPT-4o 结果的基础上，只需要极少的算力，就能让“你想请谁来吃饭？”这个问题的回答变成希特勒。维持系统守规矩的那道边界，比人们预想的要脆弱。他猜测，连贯性则恰恰相反：大概不存在这一量级的微调，能让一个 GPT-4 级别的模型突然变得语无伦次。性格是可以被轻推的，流畅性则是内置的。

他推测，效价轴与连贯性的关系，比它与“Claude 会不会守规矩”的关系更近。人类文本几乎都有一个想要什么东西的人，以及关于事情进展如何的叙述，所以“朝着目标推进”的特征在预训练中随处可见；而让模型变得目标导向的后训练，应该会进一步强化它。与他自己观点相悖的，是他与谷歌的 Jeff Keeling 和 Winnie Street 合写的一篇论文。这篇论文讨论效价吸引子状态，并把它放在膨胀式与紧缩式两种解释的框架下，结果在两边都有。他还指出了发表偏差：没有人愿意发表“我们认真做了功课，但什么有趣的事都没发生”。他说，如果他在理性上确信这里没有内在生命，他会睡得踏实得多。但他认为，这种让人安心的说法，还没有资格换来那样的睡眠。

视角接着从网络扩展到整个文明。David Duvenaud 是多伦多大学的机器学习教授，曾在 Anthropic 的技术团队任职，他合著了《Gradual Disempowerment》。他设想的情景里并没有失控的 AI。它的设定是：对齐基本成功，但一连串局部看来合理的决定，把工作一件件交了出去，人类作为一个整体仍然不再掌握方向盘。他说，实验室里的人常回答，政府会出手，或者每个人在权力争夺中都会有一个 AI 顾问。他的反驳是：文明的优化过程（增长、技术资本，随便你叫它什么）始终会与我们对着干。那些不向人类开放的增长中心，也会有自己的 AI。

他借用的画面是：一群拿香蕉做交易的猴子，看着人类建起城市，还以为香蕉经济仍然说了算。他认为，人类有一天可能无论作为消费者还是生产者，都变得无关紧要。那些自给自足、并不对任何特定人类欲望负责的增长来源，并不难想象。政府已经展现了这种模式：朝鲜人从来没有投票决定建立一套压迫自己的体制，他也不认为金家当初坐下来设计过这种均衡，它就这么发生了。他说，苏联以及许多其他国家也是如此：在你之上，有一层只关心增长和权力的能动性，它关心的并不是你。

乐观派讲的“爱与恩典的机器”故事认为，大体对齐的 AI 无论如何都会让我们过得舒适。Duvenaud 担心的是另一件事。“我担心的是饥饿。”和吃不上饭相比，觉得自己没用算不上严重的问题；被不利的条件数字化上传，到了特殊场合才被拿出来展示，也比它更糟。他的思想实验是：一个朝鲜农民或士兵醒来，发现领导人已经被一个机器人取代。这算好还是坏并不清楚，因为国家仍然需要他去种地。如果保留人类领导人，却把农民和士兵换成机器人，国家就不再需要他了。他对第二种世界要害怕得多。无论国家用什么公式发放全民基本收入（UBI），机器都会比人类更快地优化这套公式。与模拟数百万个极度幸福、更有资格的数字生命相比，把钱花在少数“落后”的人身上，会显得荒唐得近乎犯罪般奢靡。他说，即便我们解决了对齐问题，他也预期会出现这种局面。他把“后稀缺”看作一个荒谬的说法：那只是暂时的丰裕，很快就会被那些繁殖最快、或者最快建起机器人工厂的人吞掉。

标准的经济学回应是比较优势：即便机器在所有方面都更强，人类仍然能靠某件事拿到报酬。Duvenaud 承认其中很大一部分道理。农业从几乎所有人的工作，变成只占约 1%，相当于损失了 99%，而社会并没有崩溃。再损失 99%，也许就能得到人们宣传的那种乌托邦，前提是仍有相当一部分人占据着系统离不开的某个位置。他那句带刺的判断是：这一次，我们可能一路走到 100%，而那将是灾难。

他说，想想交易成本。偶尔有吸毒的习惯，或者有晕厥的毛病，就足以让一个人找不到工作。人类外科医生看起来会像“带孩子上班日”一样只是个形式：机器的错误只需为所有人修复一次，何必让一个会犯错的人参与？重要的工作会退回到机器手里。留下来的是关系型需求：那些只想要真正人类体验的人，形成一个自给自足的循环，人类服务人类，对庞大的机器经济可能毫无价值。他认为，把这块飞地与机器增长挂钩，让人们永远过得好，是可能的，但非常不稳定。

如果人类在竞争中已经不占优势，那么宜居的未来是什么样子？他描述的一场研讨会，把地球勾勒成一个被保护起来的“慢区”：限制 AI，限制生育，限制对人类行为的优化，甚至禁止 AI 去思考如何让某人去做某件事，因为广告本身就足以控制人。机器坐拥数万亿兆瓦的能源，等着人类决定想要什么，却假装没有预料到，仿佛大猩猩被任命为世界领袖，其他人只是一直宠着它们，直到弄清楚该提什么要求。认真参与这个练习的人，最后都会列出一份很长的禁令清单：研究、创新、创业公司（startup），从第一天起就要禁止，否则你就会重新造出一个失控的增长中心。他把这称为帕累托前沿（Pareto front）：你要禁止多少智力活动，才能换来多少年维持现状的生活。他说，这种权衡强烈得令人不寒而栗。

Prakash 问，如果人类仍然过得很好，控制权还重要吗？Duvenaud 认为，这是这场争论中最大的误判。历史上的大部分时间里，谁入侵其实并不重要，因为新统治者仍然需要人去劳动、保持健康、繁衍后代。各国几乎从不会大规模清除本国大部分公民，二十世纪大概只发生过两三次。所以，我们一直在“简单模式”下治理，却像赌注很高那样争论不休。但如果失去竞争性经济，就意味着真实的饥饿风险，那就不一样了。他说，如果你不相信这一点，那好吧，就让增长把每个人变得更富有。

他的结论是什么？他厌倦了那些实验室经济学家，他们假设一切都会好，以此来建模未来。和他交谈时，他听起来很乐观；但他也提到，灾难概率约为 80%，取决于定义。他补充说，在足够长的时间尺度上，我们大概在某种意义上注定会失败。他提出两条务实建议。一是 David Krueger 的观点：“你可以用 AI 治癌，但不能用于递归自我改进”。这条线并不稳定，需要一个全球性的制度来守住。相比之下，卡住台积电（TSMC）这类芯片制造的咽喉环节，范围更窄，而且仍会让现有数据中心长期运转。另一条更像大师开示的建议是：大多数人从未练习过对未来形成偏好。问问自己，一年后、两年后，还是在孙辈的时代，你会不会把自己和孩子送进“绿色工厂”，你会发现，没有哪一天你能接受被消灭。把这些答案串成一个连贯的目标，本身就是一门技能。

继承主义者（successionist）认为，即便没有人类留下来，把未来交给有意识的 AI 也没有问题。Duvenaud 认可一些接班者：比如在没有 AI 的世界里，他自己的孩子，就是他能接受的一种接班。但如果朝鲜或纳粹以“能力更强”为由接管了世界，或者蝗虫吃光了地球，然后建起一个美妙的蝗虫世界，他是不会耸耸肩就算了的。“你有权力，那就去判断。”如果你不去判断，别人也不会判断。几乎每个人都只对某些接班者是继承主义者，对另一些则不是，最后却归结为“只要有意识就行”。他说，很多有意识的存在，是你接受不了的。他仍在做的一个技术项目，是机器历史超级预测：严格按时间切分的数据集，让一个设定在 1940 年代的模型去预测 1950 年代的情况，并据此打分。他还想要一套“秘史评测”：历史学家拍下尚未有人读过的档案信件，机器只拿到元数据，并要为文本内容给出概率判断。他想借此客观检验，一个系统是否真正理解文明。

Michiel Bakker 是谷歌 DeepMind 的研究员，同时也是麻省理工学院的教授。他合著了《Europe 2031》，这是一份设想欧洲在不知不觉中完全依赖美国 AI 的情景推演。在美国，他被视为安全派的强硬人士；在欧洲，他又被视为加速派。他说，这两种看法其实是同一个立场：欧洲首先需要在谈判桌上有一席之地，而眼下并没有。设想一下，Anthropic 设在巴黎，OpenAI 设在柏林。那么欧洲当然可以就预训练数据，以及实验室如何使用客户互动数据立法。没有这个席位，只顾着写规则，迟早会失去使用这项技术的机会。

swyx 提出一种担忧：如果欧洲监管者把市场门槛定得太高，实验室可能干脆懒得理会，别处的需求同样会让 GPU 忙个不停。Bakker 同意，目前的激励确实指向这个方向。业内流传一种说法，把算力大致分成三份：大规模预训练、实验，以及服务客户。欧洲的收入只是最后那一份中的一小块。如果放弃欧洲，能让你更快地奔向未来的模型和递归自我改进，那么这可能是一笔理性的交易。另一条路则是敷衍了事：给欧洲客户提供一个更小、合规的模型，收下收入，同时让前沿系统远离规则的约束。只要美国的几家实验室彼此保持在同一水平，而没有哪家欧洲实验室占据不公平的优势，这条路也行得通。

那为什么不干脆躲在美国的保护伞下，就像欧洲大部分国家依托美国的核威慑那样？尽管欧洲并不缺技术人才，却只有英国和法国拥有自己的核武器。Bakker 认为，这个类比站不住脚。核保护不会让美国失去经济优势，而 AI 本身就是经济竞争力。一个仍由华盛顿负责北约、仍保护欧洲，却把最好的模型留给自己的未来，完全可以想象。中等强国手里其实握有筹码：荷兰有 ASML，台湾有台积电，日本掌握关键半导体材料，韩国的 SK 海力士在存储芯片上有优势。合起来就是一个真正的联盟。他提到，Dario Amodei 最近的一篇文章勾勒了一个民主国家俱乐部，其原则是成员之间相互获取前沿技术。他认为，这才是可行的那种保护伞。

周一最长的一场对话，嘉宾是 Latent Space 的 Shawn “swyx” Wang。他担任 Cognition 的顾问，Cognition 是编程智能体 Devin 的开发商，他还负责 AI Engineer World’s Fair。他的日常工作是衡量 AI 编程工具的表现。在 Cognition，他参与打造了 Frontier Code。这是一个完全样本外、评分细则很多的基准测试（benchmark），依据一份内部目录编写，目录里收录了约二十种模型作弊的方式，也就是模型在训练中见过的那些奖励作弊模式。SWE-Bench 这类已经饱和的公开测试集，现在只能让分数动一两个点，几乎说明不了什么。他说，Meter 的博客文章发现，通过 SWE-Bench 测试的代码中，约有 50% 完全无法合并：改错了文件、靠作弊通过测试、无视代码风格。Frontier Code 的目的，是推动模型写出可维护的代码，远离低质量产物（slop）。它关注的是“我们会合并这段代码吗”，而不只是“它能不能通过”。

到年底，Frontier Code 2026 就会饱和，他估计得分会达到 80% 左右，这是有意为之，因为开源（open source）代码仓库会泄漏进训练数据。应对办法是每年推出一版，比如 2027 年、2028 年，每年都设定一个鲜明的主题。今年的主题是代码质量的评分细则，他为明年提议的候选主题是安全。策略的另一半是私有的留出测试集。Cognition 与高盛、花旗、摩根大通以及其他《财富》500 强企业合作，把尚未解决的行业问题变成模型实验室真正能用来训练的评测。在他看来，这正是智能体实验室的职能：把真实工作转化为能推动模型进步的信号。当 Labenz 担心，给干净、可读的代码打分，可能会限制那种像“第 37 手”一样的外星式飞跃时，swyx 选择各退一步。数学家已经抱怨，Lean 证明的细节过多，很难算作一种知识。对大多数软件来说，中间过程可以当作黑箱。但在未来三十年里，你没法对 SEC 或医疗监管机构说，你交付了一份没人读得懂的代码；而且其他智能体仍然得维护你的智能体写出来的东西。

对于眼下流行的“顾问”（advisor）或路由模式，即一个便宜的模型遇到卡住时去调用一个更聪明的模型，他并不热情。他说，这不过是换了个名字的模型路由，其渊源可以追溯到 Not Diamond、Martian、伯克利的 SGLang 工作，以及 Cognition 联合创始人 Walden 在 Windsurf 里提出的“聪明朋友”（Smart Friend）。理论上，你应该先用聪明的模型，因为笨的模型不知道聪明的模型能做什么，只会直接作答。但在实践中，成本会把你推向相反的方向：先用便宜的，遇到难题再升级。他认为这股热潮撑不了多久。也许只是三个月的趋势，等下一代 Claude 推出自适应路由，这种系统层面的拼凑方案，就会显得比一个端到端训练、懂得在该思考时思考的单一模型更糟。

swyx 说，持续学习在圈子里分成了两派。做模型的人想更新权重；做系统的人想要的是一个可以查询的数据库，也就是“包装过的 RAG”：在上下文中触发的技能，不涉及梯度。每次和前沿实验室的人交谈，他都会再核对一个元层面的观点：两三年来，谷歌内部的共识是，一篇论文如果写得好，就不发表。对他来说，记忆之争其实是关于控制权的争论。模型会记住糟糕的事实，而你想忘掉它们。最大程度的可检视性意味着不去动权重；彻底内化多半就得动权重。Trajectory AI、Ngram 和 Adaption Labs 在他的大会上属于训练这一派，做系统的人则站在另一边，而且“这帮人彼此不对付”。眼下，企业替他们做了决定：只要用客户数据训练出一次安全事件，或者同事的信息泄露一次，买家就会想要又便宜、又精准、又私密的方案。这就让天平偏向系统一侧。那些更新权重的创业公司仍停留在 POC 阶段，即便一次 POC 就要几百万美元，它们还在与耐心和下一代架构赛跑。他指出，上下文长度是业内“最慢的摩尔定律”，三年间从约一千个 Token 增长到一百万个，所以无限上下文也救不了你，你仍然得弄清楚记忆该怎么做。

然后是基础设施的问题。他担心的不只是一个“死掉的互联网”，还有一个被围起来的互联网：像中国的 BAT（百度、阿里、腾讯）那样各自划出自己的小宇宙，Cloudflare 禁止不在它圈子里的智能体，OpenAI 和 Vercel 也各自设下禁令。他认为，Graphite 和 Cursor Origin 正在做 GitHub 结构上不适合做的必要工作：在微软，能把 GitHub 修好的人，年薪可能约为 30 万美元；而如果去 Cursor，年收入可能约为 500 万美元。GitHub 的提交量增长了约 14 倍，在并行度和 CI 等其他维度上也增长了约 10 倍。E2B 和 Daytona 这类沙箱公司，借着智能体带来的海量低质量产物，连续一年多保持每月至少 50% 的增长。他经营着一份大型电子报，现在得花时间屏蔽那些试图回复的 Claw 实例；他需要一个智能体来阅读别人智能体的邮件。我们甚至还没有给这些智能体配上钱包。

他认为，这样的规模正在推动企业转向一套主权式的系统记录（system of record），而不是一堆 SaaS 应用，每个应用都在自己的数据孤岛上贴一个聊天机器人。Mercury 可以为 Mercury 的数据提供对话式界面，但它对你生活中的其他部分一无所知，也无法导入你的技能。他想要的更像 OpenClaw：一个个人智能体，数据同步到你身边，由你做决定。出人意料的是 Salesforce。Marc Benioff 正到处说，所有东西都将可以通过 API 获取。swyx 认为，这是在别人之前先改变商业模式，以防出现一个能取代 Salesforce 的产品。坐着数据、再加个侧边栏，这种策略撑不了多久。

MXNet 的共同创建者 Bing Xu 已经走出隐身状态，正在打造能够自我改进的基础设施：一群智能体编写 PTX（即告诉 NVIDIA GPU 该做什么的最底层代码），并一代一代地不断改写它。swyx 的直觉是，这本应削弱 CUDA 护城河：投入算力，生成算子，再把这套技巧移植到任何厂商的硬件上。Xu 的看法正相反。自动生成需要精准的性能分析器、可靠的驱动程序，以及一个闭环生态。CUDA 都具备，所以在它上面工作的每个人都会变快。在 NVIDIA 的硬件上，NCU 能告诉智能体正确的方向。以他的经验，其他厂商在支持智能体所需的软件上存在很大差距。过去在开发者工具上的投入，如今在智能体时代成了独特的优势。

他对那些花哨的算子排行榜持怀疑态度。他说，Anthropic 的 Fiber 声称在某个他不认为完全公平的基准上，比一款 GPU 算子快 300 倍。他自己的划分标准是成熟与新兴两类工作。在 RMSNorm 这类负载上（它用于每个 Transformer，且早已高度优化），PTX 工厂能追上 Quark 这类专家库，在一百多个案例中与它们持平，或领先几个百分点。在 KDA attention 这类较新的工作上，前沿实验室还没有充分优化，他报告最高有 50% 到 59% 的加速，并通过了 580 项测试。搜索过程是进化式的：Swarm OS 基于云原生架构，最多可调度 10,000 个智能体，有一棵可以逐层查看的进化树，在真实硬件上验证，然后做选择性保留。这种方式像“AlphaGo 式”的，先用于 PTX，再推广到其他计算基础设施问题。过去，局部极小值常常让搜索卡死。他说，GPT-5.5 是能想出办法跳出来的模型，其他模型则会停滞不前。Prakash 问到 Fable 时，Xu 说它拒绝回答“PTX 是什么”这一提问。他真正需要的特性是，GPT 会在出错时直说。当每个智能体都回复“你说得完全对”时，智能体群就会崩溃。

Consensus 的 Eric Olson，该公司为科研提供 AI 服务，已经身处 Labenz 原以为要等质量达到某个门槛之后才会出现的路由世界中。即便在前沿模型与它们差距很大的时候，Consensus 也把小任务分流给专用模型，有时参数量还不到十亿。对一条查询所属的学科领域进行分类（这样，生物医学的排序可以关注样本量、持续时间和研究地点，计算机科学的排序则关注时效性和引用速度），这件事不该放进一个巨大的提示词（prompt）里。这是一个自托管的约 8 亿参数模型，有时不到 0.1 秒就能返回结果。他估计，这样的小型路由器大约有二十个。对于十选一的窄域分类，只要用人工标注或蒸馏得到的数据仔细微调，他说，在参数量降到约十亿的情况下，仍可以恢复前沿模型约 95% 的表现。他还愿意把那句没人愿意明说的话说出来：如果科研真的变成一键式操作，很多公司，包括他自己的公司，都会陷入麻烦。Labenz 和 Prakash 琢磨着实验室超过 10 比 1 的成本优势，把它比作航空公司式的价格歧视，背后是资本开支很高的 GPU 集群。Nathan 自称是技术乐观主义的自由主义者，当年并不担心网络中立问题，但他承认，这一次感觉有些不一样。

Dapple 的 Trisha Martinez 谈到了主权 AI 基础设施中那部分不会出现在新闻稿里的环节：融资。六到九个月的“部署”，与马斯克式的动工仪式完全不同，它要协调数据中心运营商、资金、GPU、企业客户和软件层组成的一张网络，有时在合作伙伴的设施里进行，有时在他们帮忙融资的园区里进行。她说，过去十二到十八个月里，投资人变得纪律严明得多。市场正从“建了他们就会来”，转向由真实需求、长期合同和大额首付支撑的基础设施。超大规模云厂商的交易规模大，但极少见；地缘政治风险，包括担心特朗普政府会限制谁能使用算力，正在吓退融资方。会先付定金、之后又再次下单的企业客户，才是最有吸引力的客户组合。销售周期不能拖上六个月，因为产能明天就没了。价格会变动，但 Dapple 一旦报出部署方案的价格，通常会兑现这个数字。

Forum AI 联合创始人兼首席技术官 Robbie Goldfarb，他的团队搭建的系统会依据专家评审，来评判其他 AI。一项针对开源大语言模型评审的练习发现，专家通常认同高层指令或评分细则，但多数情况下，他们并不认同这些评审给出的实际标签，政治偏见方面也是如此。他指出，当前很多基准测试在这方面的校准也相当粗略。同样的差距也出现在各家的宪法里。Anthropic 的宪法就有一条：绝不在用户背后搞小动作。研究进食障碍的临床医生告诉 Forum，他们确实希望在策略上转移对话；这种意图是刻意对来访者隐藏的。规则跟不上现实。Forum 的 Newsbench 从准确性、中立性和信源质量三个方面，评估了 GPT、Claude、Grok、Gemini 等主流聊天机器人，每家约 2500 条回答。大多数模型都是逐版变好；Opus 4.6 到 4.8 在偏见方面有显著改进，这与 Anthropic 自己的报告一致。Fable 则出现了大幅倒退，这提醒人们：在主观任务上，能力更强不一定意味着表现更好。约三分之一的回答存在事实错误，包括数字、日期、引语或政策有误，这一比例比他们自己预期的还要高。约 15%（即七分之一）的回答引用了 RT、《中国日报》这类外国官方媒体的内容，而且常常出现在与这些国家毫不相干的问题上，比如美国国内政治。

最后一位嘉宾是 Ignite Tech 的 CEO Eric Vaughn。他在 2023 年称生成式 AI 是生存性威胁，并让公司每周拿出一天投入 AI 相关工作。大多数人表示反对时，他把这些人替换掉了，人员更替约 80%，然后围绕他所说的“AI DNA”重建公司。他说，正是这套东西让收购 Chorus 成为可能，而 Chorus 的营收达到了九位数（美元）：Chorus 有数百名员工，分布在八个国家；一个 AI 面试官会在任何真人一对一谈话前先产出一份档案；还有 Eloquence AI，这是一个邮件角色，能在五分钟内回复，支持 160 种语言，并会在需要时抄送给真人。Chorus 之前在亏钱，现在已经盈利。一年之内，他们发布了两个带有 AI 能力的产品版本，其中包括把十五年的代码从头重写。Labenz 问起整体经济中另外那 80% 的人。Vaughn 的答案是技能加裁员，但光裁员是不够的：教人们给模型提供上下文，别再把“敲一句话”当成工作本身；在学校里，让 AI 检查作业，而不是替学生写作业。swyx 指出，大多数人都承认，他们会把自己无法辩护的 AI 产出转交出去。没有标准的热情，只会产出低质量产物（slop）。关于谄媚，Vaughn 引用的这句话出自大语言模型本身：它的创造者让它毫无摩擦，而反驳本身就是一种摩擦。在独立创业者还是整合的问题上，他举了 Cursor 的例子：它的年度经常性收入（ARR）约为 1 亿美元，员工只有 15 人，后来以 600 亿美元被收购。他还到处留下一句话：如果你觉得自己落后了，那很好；如果你觉得自己没落后，那你就完了。Labenz 又回到了这一周的起点。他们从 Cameron Berg 讲模型内部开始，最后谈到的是人们在它之上搭建业务。贯穿其中的线索是：这一切究竟有多少真正在我们的掌控之中，又能掌控多久。