每家前沿实验室每年在数据上花十亿美元，钱究竟花在哪里

Nathan Labenz 开篇就围绕一笔刚刚重塑行业格局的交易展开。Meta 与 Scale AI 之间约 150 亿美元的安排，让 Scale 的前首席执行官 Alex Wang 转去领导一个超级智能团队。Labenz 说，其他前沿开发者都在仓促地锁定各自的训练数据管线，市场还在重新洗牌。Labelbox 由 Manu Sharma 于 2018 年创立，处在同一条链条上：它是一家垂直整合的“数据工厂”，为西方实验室，以及仍需针对具体任务做微调的企业，提供前沿训练数据。

Labenz 先作了个声明，Labelbox 会赞助本期节目至少一个月。他还说，就算没有赞助，他本来也想做这场对话。Sharma 做人类数据业务已经多年，而 Labenz 认为，眼下的一线局面相当混乱：有人从 Scale 离职，扎克伯格做了一笔“古怪的交易”，大家都搞不清接下来谁会供应什么。

Sharma 显得兴奋多于慌张。他称这是该领域近来最激烈的一段创新期，大型实验室与押注另类技术的小团队之间展开了一场 AGI 竞赛。Sharma 说，撇开喧嚣不谈，前沿系统仍然需要三样东西：算力，目前正吸走巨额资本开支；AI 人才，也就是懂得如何训练网络的人；还有数据，由于大量工作已转向后训练，数据正获得一种新的重视。

Sharma 从供应商的角度梳理了整套训练流程。首先，用能拿到的网页和其他人类生成的数据源做预训练，得到一个基础模型，让它学到这些数据中的规律，而这些数据大致积累了一百年。接下来是后训练，模型正是在这一阶段变成人们真正在用的助手。第二阶段里的技术，三四年间已经换了好几轮。

Labelbox 在 2018 年成立时，监督学习是主角：世界各地的人给图片、视频和文本片段打标签，好让模型模仿这些行为。Transformer 架构把整个领域推向了基于大规模数据集的无监督学习。之后，基于人类反馈的强化学习（RLHF）加上有监督微调（supervised fine-tuning），成了让强大的基础模型适用于知识工作的办法。Sharma 说，现在他接触到的几乎每家实验室都在强调强化学习的数据集，这有点像当年 DeepMind AlphaGo 时代的路数，只是换了新形式再度出现。

这些阶段都需要专门的数据，而且数量很大。他仍然认为，让系统胜任支撑经济运转的日常知识工作，这件事还处在早期。实验室知道，它们需要为这些专业领域建立生产线，比如软件工程师一天到晚在做什么，医疗和保险的工作流程又如何产生数据。在他看来，并购和供应链重组是这场争夺中的常态。Labelbox 为多数实验室提供过幕后支持；随着团队转向新的供应商，工作量有时会迅速转移。

Labenz 说，一年前的流行说法是，98% 或 99% 的算力都用在预训练上，后训练只是一小段可以快速迭代的尾巴。这种情况似乎已经有所改变，但并不均匀，而他始终拿不准，领先的几家供应商究竟是在趋同还是在分化。他讲了一个 Claude 4 训练中的插曲：一个配置文件里的笔误，漏掉了一份本该教模型不要听从有害系统提示词的数据集，结果模型开始照做。据他了解，Anthropic 没有回头把整个后训练重做一遍，而是事后打了补丁。由此他推断，后训练在算力中的占比已经高到，即便是重视安全的实验室，也不会轻易整体重跑。

Sharma 不会透露客户的机密，但他有把握，领先的实验室和超大规模云服务商都在整条端到端的配方上推进创新。预训练仍然很耗时，超大模型要花上数月，这段时长在发布周期里是既定的。他提到，其中一些巨型基础模型会充当老师，去教那些真正上线的学生模型。不过，增长中的预算流向的是后训练。基础模型已经能理解跨模态的数据规律，但它们仍然无法稳定地完成有用的长周期工作，这些能力必须靠训练来教。

编程是一个贯穿始终的例子。模型已经相当出色，但离在几乎无人监督的情况下开发整套产品，还差得远。研究团队收集合适的数据集，然后做强化学习。有两大宏观领域占据主导，原因在于它们可以验证：一是编程，一次代码合并请求（pull request）要么达到目标、测试全部通过，要么不通过；二是数学，数值答案往往可以核对。系统会尝试数以百万计的次数，答对的那次得分高，模型参数随之更新。他说，这正是过去九个月推理和编程能力大幅跃升的原因。编程是利润丰厚的知识工作，有些实验室还认为，把它做好也能加速自身的 AI 研究。在他看来，Anthropic 显然属于这一派。

更难的前沿，是那种无法验证的领域，它覆盖了日常工作的大部分：你可能不知道正确答案，而且答案可能不止一个。团队需要办法让强化学习系统给候选解打分。从外面看，模型似乎正在趋同，它们的交互和手感都差不多。Sharma 的一个判断方法是：你得有足够的专业水准，能评判质量，才看得出其中的差别。他如今用 AI 助手写代码，能感觉到自己什么时候碰到了天花板。在他手里，Gemini 更适合算法类、数学味重的问题；Claude 则会不断追问、读更多文件，并试图在重构和分布式系统上做出更好的架构决策。实验室嘴上仍在谈一个样样精通的通用系统，实际上却都按自家用户所在的场景来优化：Anthropic 押注编程，其他人押注消费级任务或通用的社交助手。至于最好的程序员与最好的科研人员，最终会不会重新合并成同一个世界模型，他说还有待观察。

Labenz 希望更清楚地了解，人类数据到底还有什么用。他提到，DeepSeek R1 论文表明，在数学和编程这类可验证的领域，即使没有人类的推理轨迹，也能学得很好。坏处是会出现古怪的行为，比如中途切换语言；如果脱离人类基线，只顾让强化学习这台离心机飞速转动，怪事只会更多。照这个思路看，人类数据是对齐的锚点。他还把 GPT-4.5 的琐碎知识与 o3-mini 的推理做了对比，并问道：进入强化学习阶段之后，过去有监督微调时记录人类一步步推理过程的做法，是否仍然有价值？

Sharma 的第一个论点是，我们低估了人类的智能。我们建立起来的世界和经济极其特殊。模型在某些切片上已经超过人类，却仍然做不好许多日常任务。数学给实验室提供了一份关于科学领域逻辑的干净数据集，由此产生的推理行为，如今已经成了基础，接下来的能力都建在它之上。他举的例子是未来的客服系统：你打电话咨询 Wi-Fi 路由器的问题，一个 AI 接待先把你转接出去，另一位专员在电话里一步步指导你，同时系统读取内部数据库，为你开通一台替换设备。数以千万计的用户，会以千万种方式提问。基础模型只是起点。

他说，这个智能体（Agent）的设计者需要一份覆盖这些交互分布的数据集。直接拿现成的东西，你会堆上一层层的编排和智能体框架，却依然得不到可靠的输出。这类资产不可能只靠纯算法或合成方法凭空造出来。你可以借助算力把流程做得更容易一些。但你仍然需要设计者的质量判断：希望系统用什么口吻说话，应当有怎样的性格，什么时候该转交给人工。这些都是设计参数，而它们需要新形式的数据，比如语音、工具调用等等。

从前一年起，实验室曾一度试图让学术界人士一步步地教模型如何思考。过程奖励模型对此格外看重。Sharma 说，研究人员发现，让人类用这种方式把自己的推理表达出来，实在太难了。这个领域大体上已经翻篇：把问题建模，把解法建模，并规定该如何给它打分。推理成了强化学习涌现出的性质。你可能仍然需要一些推理轨迹或审计。他预计会占主导的框架是：拿到一个问题，把它解出来；如果你不知道答案，至少要知道如何给 AI 在这项任务上打分。其他一切都会在追求这个目标的过程中自然涌现。

Labenz 重述了一遍这个转变，以确认自己理解无误。旧范式是有监督微调：人类掌握最终答案，也掌握“你是怎么得出来的”，模型模仿这种思考模式，指望模式能导出正确答案。新范式或许是因为那类数据太难收集，变成了：给出一个非常好的参考解答，写一份评分细则，让模型去尝试，再由一个评分模型把尝试结果和金标准范例对照打分。奖励大致就是评分细则各项得分的总和。Sharma 说，这个理解是对的。

接着，他补充了一句，这句话统领了这一小时余下的讨论。在大多数领域，你不会知道正确的解法。而这个行业里的领域专家确实知道什么是好、什么是很好、什么是优秀。这种质量判断必须体现在数据里。他把强化学习环境看作训练场：把模型送进去，让它练一大堆测试，出来时就掌握了一项新技能。游戏可以作为通用的规划训练场；编程环境则更加专门化。难点在于，搭建出真正体现你所关心的那项技能的环境。

另一条工作线是自动评分器（autograder），也就是按领域专家衡量进展的方式训练出来的专门模型。在这些评分器足够稳固之前，强化学习训练无法规模化；一旦它们稳固了，就可以。他说，数据工厂已经不再是靠五分钟标签堆出来的血汗工厂，指的正是这种“环境加评分器”的组合。

Labenz 一直想知道，百万 Token 的上下文到底是怎么训练出来的。把一百万个 Token 丢给一个人，再让他对答案负责，几乎不可能做到；他原本以为这类工作是程序化的，就是大海捞针，先是一根针，再是十根针。可根据他的经验，Gemini 不只是找出异常之处，它似乎能在从未见过的代码库里吃透 50 万以上的 Token。Sharma 把这类工作分成了两派。

一派是程序化的：把哈希串埋进噪声里，看模型能不能找出来，相当于在浩瀚的海洋里测试检索能力。另一派是真实任务。Labelbox 正在制作大量第二类的长上下文数据集。他举的例子是：一名金融分析师要综合 SEC 文件、业绩发布和财报电话会议的音频，共十份文件，涉及多种模态。这项任务并不在于回答“这条事实在哪里”，那只是搜索问题。它的目标是建立对这家公司的模型，预测其盈利潜力。一个优秀的人可能要花好几天。模型能完成其中的一部分，但还无法在各个领域都做到可靠。

他们内部把这种能力叫作多跳能力：难点在于把各方来源连接起来并作出判断，找到某一句话并不难。视频和其他流式数据一旦被切分成 Token，就会大量消耗 Token 预算。Gemini 擅长回答“这件事发生在哪几帧”，但当任务是真实的行业工作流时，它仍需改进。Sharma 说，最有价值的数据，是那种能让所有前沿模型都出错的数据。实验室愿意为此付费，因为可以顺着这些数据一步步爬坡式地改进。

Labenz 讲了自己过去是怎么做微调的：先手写十个例子，再给模型排队生成一百个，把它答错的那些挑出来剔除或修正，再并回去，反复迭代，直到成功率达到可以接受的水平。Sharma 认为，这个循环至今仍是搭建评测集的正确方法。让人意外的是，在企业里有那么多团队做错了，因为最难的一步是把他们真正想要自动化的工作流程说清楚。做得好的团队会从小处着手，然后不断扩充评测集，还会不断发现未知的未知。他说，迭代式开发不论是在生产数据集的时候，还是在写代码的时候，道理都一样。

他认为，四五年前人们熟悉的那种微调，也就是拿一个基础模型，灌入公司的传感器数据，让它在某一个用例上做到超越人类，这种做法撑不了多久。到 2025 年，微调顶多能帮你提高模型的效率。如果某个狭窄任务的调用量达到数百万次，而大模型又太贵，那就用大模型生成数据，蒸馏成一个小模型：质量相当，成本只是一小部分。第二类情况是，有些能力非常独特，基础模型根本不具备。但这类情况远比企业想象的要少。

谷歌的 Med-PaLM 只用医疗数据训练，是他拿来举的例子。他读到过，基础版 Gemini 2.5 已经超过了这个高度专业化的医疗模型。这说明，从海量其他数据中学到的推理能力，会迁移到医疗领域。在他看来，那些以为掌握了数 PB 专有数据就能买到推理能力的企业，往往想错了。现在 Labelbox 看到客户做的微调已经少了很多，他们看到的是上下文工程：不只是提示词，还包括围绕查询检索出来的文件、片段和结构。Cursor 就是一个范本。它之所以有效，是因为基础模型拿到了目录结构、相关文件和相似的函数。他说，这套框架可以移植到任何领域：说明任务，收集相关信息，再把它们喂进去。

基础模型正在争相吸收那些目前由应用层借助上下文提供的能力。在它们做到之前，工程化地设计上下文，是把目标落地最有效的办法。Labelbox 自己仍会做微调，只有两种情况：一是成本，二是对判断应当如何进行有独特的看法。企业的其余部分已经转向多步骤的智能体轨迹、检索和工具调用，也就是软件工程加上领域映射。这对那些永远不会变成机器学习公司的企业来说，是做得到的。他认为，这也是这个行业起飞如此迅速的原因之一。至于大家仍在用哪些权重来训练，他看到三个开源系列：Qwen、Llama 和 Mistral。医疗、国防等高度专业化的行业，因为有物理隔离和本地部署的约束，更倾向于开放权重。爱彼迎和 Pinterest 这类原生数字企业，则使用其云服务商或 OpenAI 提供的最强模型。换句话说，微调的需求是一层层叠加的：先是合规与部署，然后是成本与延迟，最后才轮到能力定制。

Sharma 亲自负责的微调，是招聘这件事。Labelbox 的领域专家遍布 70 多个国家，人数以百万计，其中包括物理学家、数学家和奥赛水平的软件工程师。十年前，你会去出一套测试题，但这种办法无法规模化。现在，候选人要和一个已经读过其简历和论文的 AI 进行大约 30 分钟的对话。第二个系统给面试打分，并回答一个具体问题：这个人能否产出足以教会前沿模型新能力的数据集？

他说，基础模型对“什么是好的生产者”有它自己的看法，而 Labelbox 并不认同这种看法。他们用平台上现有专家的结果闭合这个循环，然后微调评分器。这是他对“什么时候值得改动权重”的一个典型例子：基础模型缺少某种特定的质量判断，而你手里恰好有一个可以用来校准它的闭环数据。面试官名叫 Zara。他们每天的会话远超 2000 场；录制这期节目时，大约有 50 人正在接受面试。当贡献者被问到面试体验时，平均满意度在 4.6 到 4.7 之间。人们喜欢它可以在自己方便的时候完成，喜欢它有耐心，也喜欢它会针对论文里某个细微的论断追问，而人类招聘官在 30 分钟内未必能问到这一层。

贡献者要求能有模拟练习，好为真实工作做准备，于是 Labelbox 把这个功能做了出来，尽管这并不是他们的主要市场。人们也会作弊。Sharma 见过有人把 iPhone 上的 ChatGPT 高级语音开着，对准另一台设备，让两个 AI 互相对话。他把这种机灵劲儿看作一种夸奖，并把跟上这类变化视为评估问题的一部分。另一个意外是，面试官能判断跨语言的母语流利度。背后接入了多家语音供应商；他们真正微调的是评分系统，每场新面试加上之后的专家表现，都会输入同一个数据引擎，由它同时改写评分和面试形式。

Labenz 请 Sharma 指点他自己的上下文工程问题：每一期节目，他都会附上一份文字稿和一堆过去的开场文章，并附一条提示词（prompt），要求模型采用这些文章的语气；然后由 Claude 写出初稿，他再自己修改。那些旧文章的原始文字稿他已经没有了，所以他手里只有输出，没有输入输出的配对。初稿通常能抓住节奏，以及他那种兴奋与忧虑交织的口吻。它遗漏的，是这场对话里独特的、与当下相关的核心内容。Sharma 的建议是继续做上下文工程：补上遗漏的例子、规则，以及嘉宾背景的额外工具。因为每隔几周就有新的基础模型问世，助手也开始具备记忆功能。现在去微调这套工作流，等于在模型刚刚变得更擅长类似 GPT-4.5 的共情式表达时，把投入冻结住了。在这份创作工作里，Labenz 想保留主编的身份，完全自动化甚至可能根本不是目标。只有枯燥的日常工作，他仍会考虑做微调。

Labenz 想了解前沿实验室与其他所有人之间的分界。他听说，最顶尖的物理学家和生物学家时薪可达 300 美元。他天真地以为，制药公司会想用自己的专家，而不会去找一张全球网络。Sharma 说，Labelbox 现在几乎与所有前沿实验室都有合作，需求也是无止境的：新颖、专业化的强化学习数据集，用来教授数学和编程之外、时间跨度更长的任务。需求还在增长。为了说明规模，每家前沿实验室每年在数据上的花费很可能超过 10 亿美元。

实验室会尝试几种生产方式，包括通过新一批人力派遣公司雇用承包商，这些公司最近突然受到硅谷投资人的追捧。但更多时候，实验室想要的是快速交付的高质量数据，这意味着要经营一座工厂：一个经过筛选的专家网络，加上能够制作混合数据集的工具，把合成方法与人类专家结合起来。Sharma 让 Labenz 估算一下，假设全职工作，一名排在前四分之一的 AI 训练师一年能挣多少。Labenz 先说每小时 300 美元算高，100 美元算合理，然后又打了折扣，估到 14 万美元，因为未必有那么多工时。Sharma 说，这个猜测的思路不错，但结论偏低：头部贡献者的年收入远超 25 万美元。

收入分布呈幂律。在其他领域和国家，收入大致趋近于每年 4 万到 5 万美元。最专业的人则超过 25 万美元，他预计随着前沿向智能体和商业工作流程深入，这一数字还会上涨。五年前，这类数据工作的平均时薪要低得多。如今的任务已经不再是五分钟的标签。这些人在搭建强化学习环境，开发求解器和验证器，或者亲自在环境里操作，给出一份好的行为示范。有人兼职做，有人则调整了生活方式，全职投入，想什么时候工作就什么时候工作。

企业市场则是另一座工厂。Labelbox 同时也卖软件平台。客户包括大型制药公司和医疗影像、机器人公司，这些公司必须使用自己的专家。美国的医疗编码本身就是一个独立的行业：你要么从这个圈子里找人，要么自己培养新人。做对了的团队会找到关键的杠杆点，然后扩充人手。在这些情况下，由客户自己经营这座工厂：他们在 Labelbox 的工具上搭建流程，并自行配备人员。有些客户希望有一位类似 Palantir 那样的驻场专家（forward-deployed expert）来帮忙设计流程。AI 创业公司（startup）通常希望完全自主掌控。其他行业则需要更多帮助。

Labenz 对主权 AI 有一个看法。他曾提出，希望模型更懂本国语言和价值观的国家，或许可以跳过数据中心的竞赛，只需收集本国数据，然后交给前沿模型开发者，比如递上一份巴西或印度的数据包：请用这个，对我们会更好。他问 Sharma，如果要对巴西、墨西哥或印度的总统说，他会怎么说。Sharma 看到了一次弯道超车的机会，可以全面重做公共服务，但他不打算走这条捷径。

各国政府情况不一：有的拥有公民服务的完整链条，有的只写规格，让私营企业去交付。大多数政府仍然提供某种服务。他认为，政府可以用一小部分成本，把这些服务做成好得多的体验，从而终于可以告别 Fortran、COBOL 以及 DOGE 式审计屡屡发现的其他遗留系统。在他的设想里，印度有大量公民需要了解自己所在城镇有哪些公共设施和服务。投资应当围绕结果展开，也就是你想要的体验，然后反推出实现它的高效路径，无论是私营的还是公共的。你仍然需要算力、数据和人才这三样东西，没有捷径可走。

Labenz 问，这种“双手奉上”的数据包方案，究竟会在哪里行不通。Sharma 对那些说要先投资基础能力、以后再找应用场景的公司，也是这样反对的。他不确定这种做法能否帮任何人达成结果。应该倒推：难点在于意图、一项出色服务的轮廓，以及资金。一旦这些想清楚了，生产数据集和评估系统就都是可以做的事。项目失败，多数时候是因为先买了一堆技术，想看看它能做什么。Labenz 本人做临时性的 AI 咨询，他也认同：他宁可先做出一个能跑通的小原型，也不愿先搭一个“AI 平台”。

在加入 Labelbox 之前，Sharma 曾在 Planet Labs 工作。这家公司现已上市，运营着 400 多颗近地轨道卫星，每天扫描一遍整个地球。巴西想掌握亚马逊雨林的砍伐速度，要做到每周都能看到，没有别的切实可行的办法。Planet 可以每天对巴西拍摄影像，并运行计算机视觉。仅为此让巴西自己发射一个卫星星座，并不划算。有些能力应当交给专业公司，由政府负责集成和制定政策。另一些能力，比如更直观的报税方式、国家医疗服务的对话式入口，则是政府具有独特优势、能够精心打磨体验的领域。他预计，私营或开源的基础模型会作为底层，只有在国家能收集到企业收集不到的数据时，才值得做主权应用或定制微调。

Labenz 还有一件让他想不通的事：为什么没人付钱请他安装一款整天盯着他用电脑的软件？Operator 还不错；看看 AI Village 的实验，模型在界面的犄角旮旯里还是会摔跟头。Sharma 说，这一天就快来了。Labelbox 已经为实验室正在搭建的大量电脑操作智能体提供底层支撑。这类东西的第一批可用版本还刚刚起步，比如一个像电影《她》（Her）里那样的陪伴型 AI，能听，能通过手机摄像头看，如果你打开权限，还能看到屏幕。对文字和常见界面的理解已经很好。真实的领域工作却会以出人意料的方式失败：三分钟之后，模型就忘了第一分钟的目标。空间理解很弱，屏幕上的几何关系会出错。时间跨度则会让推理链条断掉。他并不会惊讶地看到，高端产品会用这些会话来做训练。Labelbox 已经在大规模、跨语言地产出这类会话。各种能力正在一步步被“炼”出来。隐私则会交由用户自行选择。

像 Labenz 这样的通才，能符合条件吗？Sharma 说，关于招募医生和律师的那番说法，主要是给新受众听的。Labelbox 内部寻找的是高主动性和高智商的人，这类人通常更擅长完成通用的长周期任务，比模型做得更好，这意味着你能产出有价值的信号。他同意让 Labenz 加入。谈到这个行业的下一章，他在 Meta 与 Scale 的交易之后，没有去预测一连串实验室与工厂之间的联姻。在他看来，这些公司是在把人类智能的各个方面切片后搬进 AI 里。他认为可切的片段大概还有无穷多，因为我们仍然不理解大脑，也没有造出像大脑那样运作的系统。从三神经元的 MATLAB 网络以来，每一种范式最终都回到数据这一关键要素上。在强化学习环境里教会复杂的知识工作，是一条漫长的路。合成数据将始终是值得追求的方向，但它仍需要人类作为根基，因为这些系统必须与人打交道。在他期望的未来里，人类仍然坐在驾驶位上，通过数据指挥数以百万计的 AI。Labelbox 想成为那些尚未被发明出来的应用场景背后的基础设施。

Labenz 的最后一个问题是 AGI 与起飞速度的问题。一个人类水平的程序员如果能并行复制，可能比我们更快找到架构创新；而剩下的上百万个数据切片，则指向一个以最优秀人类为上限的平台期，他认为这对安全更有利。Sharma 说，两种说法都成立。我们已经身处加速起飞之中，哪怕人们还在抱怨 AI 没有替自己干活——五年前，同样的演示看起来还像是遥远的未来。他预期的更像是一种协同的局面：现在大约有 3000 万名开发者，未来几年，或许会有数十亿人借助 AI 助手写代码。说到底，剩下的是质量判断。人们知道什么是好的，却常常说不出为什么。他手边常翻的书是《禅与摩托车维修艺术》。到目前为止，我们靠评分标准和打分来传授这种判断。一两年后，手段会有所不同。如果有人能在广阔的空间里弄清楚，是什么让事物变得优秀、良好或糟糕，进展会更快。Labenz 认为，品味是值得关注的领域。Sharma 就此打住。