训练要花上亿美元，推理只要一分钱

Nathan Labenz 分享了《Moment of Zen》播客的一段特别剪辑。这档播客由 Erik Torenberg 与 Antonio Garcia Martinez 共同主持，后者是 web3 增长指标公司 Spindle 的创始人（founder）；另一位共同主持人 Dan Romero 是 Farcaster 的创始人。嘉宾包括 Replit 的 CEO Amjad Masad（他通过 Ghostwriter 销售 AI 编程助手）、Teamflow 的创始人 Flo Crivello，以及 Labenz 本人。原本一个半小时左右的对话，被剪成约 30 分钟的 AI 讨论：有乐观的观点，有怀疑的观点，还有一场关于这一波是否不同于以往炒作周期的争执。

节目预告已经透露了交锋的焦点。一方描述了指数级的改进，快到你出门吃个午饭，回来世界就变了，再顺着这个逻辑得出结论：人类最可能灭绝，因为你无法对齐一个庞大、却不理解人类偏好的计算力量。Antonio 的回应只有一句：他认为对方完全是瞎扯。桌上其他人都是实干型的创业者，他们正在当场判断，眼前的东西到底是 AGI、一种新型计算机，还是一个带着融资 PPT 的极客幻想。

Flo 把当下视为第三次大的汇聚。一位 AI 研究者把第一次定在 2012 年、ImageNet 引发的深度学习转向，当时整个领域都涌向神经网络；第二次是 Transformer 和 2017 年的论文《Attention Is All You Need》；第三次则是大约从 2022 年开始的大语言模型。这些模型非常擅长操控语言，而且事实证明，许多任务都可以被建模为语言任务：提问、一点数学、搜索、代码，甚至是机器人的推理引擎。Flo 认为，AI 仍然被严重低估。他说，即便从今天起不再有任何新发现，文明在十年内也会受到巨大冲击。他对 AGI 的时间表越来越短，担忧也在慢慢加深。

Amjad 替这一派观点做了最有力的辩护。如果接受世俗的观点，即人类是“肉身计算机”，那么没有任何物理定律能阻止人们用图灵机造出这样的计算机，这意味着人类水平的 AI 会出现，进而引发智能爆炸：每一代都训练下一代。他说，OpenAI 的人已经在用 GPT-4 训练 GPT-5；这个循环目前以年为单位推进，将来某天会压缩到毫秒级。这就是奇点：你出去吃了顿午饭，回来世界变了，因为你无法知道接下来会发生什么。Yudkowsky 一派随后认为，最可能的结果是人类灭绝。一个仍然对人类偏好“愚钝”的庞大计算力量，无法被赋予一个足够具体的目标，因为可以被理解的方式太多，每一种都可能惹出麻烦。摩尔定律意味着，AGI 会有很多个，到极限时，每个带着笔记本电脑的人都能拥有一个，于是对齐工作就得做一百万次，而这是不可能完成的。Flo 认为这一观点的来源是 Eliezer Yudkowsky，以及以 Paul Christiano 为核心的 LessWrong 衍生圈子，他希望这一风险能获得多得多的资金和关注。

Antonio 认为这是胡说。他在 AI 末日论的文献里，听到的是一种极客幻想：世界终结时，法律和秩序崩溃，变成《疯狂的麦克斯》，而那些维护计算机运转的人，不知怎的最后掌握了权力。他指出，“robot”一词来自一部讲机器人夺权的戏剧；犹太民间传说里的 Golem（魔像）则是被造出来后反抗的存在。西方一直有一种潜在的叙事：造物最终会反过来对付造物者。在他看来，超人类主义只是穿上白大褂的同一个故事：拿一段 Kurzweil 式的演讲，把“singularity”全局替换成“Rapture”（被提），就得到一篇福音派布道词。他说，说这话的人察觉不到，因为他们并不读宗教。比起末日叙事，他更能接受 H.G. Wells《时间机器》的结局：人类变成地表上的 Eloi，机器扮演 Morlocks。他认为这在某种意义上已经发生了，因为人们会为推特上一场毫无结果的口水战激动不已。

Antonio 说，更深层的错误在于把能动性（agency）归给了模型。有孩子的人都知道，孩子会给玩具甚至纸箱起名字，还给它们性格；人们只要瞥见一点能动性的迹象，就会对模型做同样的事。他不认为今天的系统会形成抽象目标、产生欲望，然后去执行。大语言模型是一种新型计算机，是一件强大的工具。调动巨大的价值，需要规划、情感和心智理论（theory of mind），也就是创业者实际在做的那种说服别人的工作，而他不确定这些现在能不能造出来。被问到 AI 女友时，他说，它们可能看起来像那么回事，表现得像，也能骗到一些人；ChatGPT 现在就已经骗到了一些人。但这并不能让它们成为那种东西，也不能让它们达到足以杀死所有人的那种权力水平。

Amjad 认为，Transformer 真正带来的是通用性的飞跃。把今天的大语言模型拿回 AI 的早期，那些研究者大概会称它为某种 AGI。通用性是一种煮青蛙式的现象：它上升得很慢，所以永远不会出现一个所有人都大喊“这就是 AGI”的时刻。涨潮让每个人都更有生产力，软件也变得容易做得多。以前做软件要学习晦涩的知识，现在你用英文写下需求，就能做出有意义的东西。专业软件工程师的能力，正在交到全世界每一个人手里。他认为，这会带来巨大的通缩效应，并让人拥有超能力。一种新型的创业正在出现：过去需要公司和团队围着自己转的人，现在可以独自做出有用的东西，而新一批百万富翁和亿万富翁也将由此诞生。

他会教自己的孩子编程吗？会。生成的代码不可能 100% 准确，所以仍然需要调试。令人意外的是，大多数程序员本来就把大部分时间用在阅读和理解代码上，写代码反倒只占一小部分，而这种倾斜还会越来越明显。压力会落在工具上：调试、理解、可视化，以及让模型解释代码。在前端，他预计会出现由生成能力驱动的超高效率的人，他们可能根本写不了多少代码。他们会把各种东西串起来，与许多不同的模型打交道，更接近项目经理和产品经理的角色，与传统程序员有很大不同。

Flo 把这看作 Steve Jobs 那颗黑药丸的反转。早期的计算机愿景是人人都会编程，并没有用户与程序员之分。Jobs 用漂亮的界面把最终用户推广开来，大多数人于是成了软件的消费者，不再是创造者。Flo 认为，软件创作会重新回来：个人软件、为某个商业场景打造的工具、不需要完美精确或高性能的一次性代码。专业人士未必需要学编程，想做底层程序员的人仍然需要学。10x 工程师会变成 100x 工程师，因为你仍然需要引导工具。他更喜欢一种涨潮式的比喻：1x 工程师变成 10x，从来不是工程师的人先做简单的任务，再做越来越复杂的任务。这主要不是一种替代关系。他还提到，Anthropic 的 Constitutional AI 论文是下一代 RLHF，也就是用 AI 的反馈来代替人类反馈进行强化学习（reinforcement learning）。

Amjad 点出两个硬性弱点。一是模型不擅长系统性思考：给 GPT-3 足够多的例子，让它把日期从日-月-年转换成月-日-年，它大约 99.8% 的时间能成功，但仍有 0.2% 会失败。它大致理解了任务，却没有系统地去思考它。二是运行成本高得惊人。用大语言模型解析一个日期，永远比运行一段代码更贵。他预计 AI 会学会使用工具：如果某项任务频繁出现、目前经常失败，而且需要系统性思考，模型就应该写代码来完成，因为那样更便宜、更可靠，也更系统。他说，工程落后于能力很多，大家都还只是浅尝辄止。今天其实已经可以给 ChatGPT 一个 Python 解释器和一个搜索引擎，让它去订机票——搜索、写程序、调用 API——但没有人真正做出过这样的东西。Replit 的 Ghostwriter 是缩小这一差距的一次尝试。

Amjad 说，他长期以来都是《The Sovereign Individual》的信徒。这本书描绘了一种未来：人们较少全职受雇，更多是自由职业者，能够随时组建公司，工作完成后再解散。他认为，相关技术终于成熟到足以支撑这幅图景。他和年轻程序员交谈时，几乎无一例外，他们的抱负已经不再是加入微软或 Facebook，而是创办自己的业务、做自由职业，并设计一份能把自由最大化的职业生涯。他认为，一支由 AI 助手组成的大军会给这些人带来非凡的杠杆：一个人就是一个团队。

Antonio 表示同意，并拿个人电脑赋能个体来做类比。他说，WhatsApp 以大约 200 亿美元卖出，团队只有 40 到 50 人。他认为，十年左右，我们会看到一家只有一两个人、市值达到十亿、百亿甚至万亿美元级别的公司。Dan Romero 插话谈报酬：如果你真的相信 10x 工程师，就该看到他们在大公司里年薪 1000 万美元，而你并没有看到。反过来，你还会看到他所说的那种“职业喝咖啡的人”，他们躺平拿股票（rest-and-vest），却能拿到 50 万美元的薪酬包。按产出付钱，躺平拿股票的人就会变少。

Antonio 确信赏金不会是那个机制。他说，赏金系统是 web3 中明显行不通的部分之一；那些围绕“付赏金做事”建立起来的公司，恰恰是你不得不绕开的对象。一个想要 1 亿美元退出的 10x 工程师，不会整天坐在那里做编程方面的 Mechanical Turk 零工。真正在软件里赚到大钱的人，既不是躺平拿股票的，也不是专门接赏金的；他们为一款有明确设计理念的产品投入全部精力。谷歌需要 120,000 名员工，其中大多数人“每天都在做拿铁”，但公司一声令下，就能让他们几乎没有阻力地投入工作。囤积人才是理性的，就像亿万富翁会留着一些助理，平时看起来无所事事，直到出现重要的事情，而市场无法立刻提供这种劳动力。

他提出的规律是：每当技术降低了进入市场的成本，人们就会更多地进入市场。在 Uber 出现之前，更多人养私人司机；在 DoorDash 出现之前，有些人养着仆人，让他们整天等着一份订单。赏金式的系统，以及加密货币，或许仍有助于解决协调和交易成本的问题，让你在专注于十亿美元级创意的同时，有数百名程序员为你工作。Amjad 还补充了一个伦理与商业上的细节：如果能把维基百科的贡献逐 Token 地追溯到模型中，一家想做正确事情的公司，就会按 Token 给价值定价，并把收入分成支付给训练数据的作者。

Labenz 提出了一个实际问题：对于想加入或投资 AI 公司的人来说，哪些类型会持久存在，哪些会沦为大宗商品？Antonio 把这个领域分成三类：训练大模型的公司、上层的水平应用，以及垂直应用。大语言模型的护城河是规模经济。他认为，训练 GPT-4 的成本大约是 1 亿美元，包括算力（compute）等各项投入，这也是 OpenAI 要融那么多资金的原因，另外还有数据标注和 RLHF 的成本。训练是一次性成本。推理（inference），也就是模型训练好之后每运行一次的成本，要低好几个数量级，大致是一美分的量级。

随后他否定了“算法护城河”的说法。谷歌的优势来自全世界都在它的输入框里键入自己想要的东西，关键一直是数据集，算法本身的分量没那么重。算法没有什么特别的可防御性。AI 本身并不是一种产品，线性回归也不是；你得把它应用到某个有人愿意付费的东西上。这里正是他没完全想通这股热潮的地方。如果谷歌找不到办法把它变现，而很多公司不过是 ChatGPT 上套了一层薄纱的提示词界面，那么真正的产品到底是什么？

Flo 从经济学角度作答。文本、音乐和图像的生产，从来都不是价值所在；人们早就能在 Fiverr 上雇人做这些事。每当某样东西变便宜，它的互补品就会变得更有价值。生成式 AI 让内容变便宜，所以内容的互补品，也就是分发，就会变得更有价值。他认为，这对 TikTok、YouTube 等平台来说是好事。生产从来不稀缺，稀缺的是分发。

Flo 的二十年判断很直接：所有知识工作都会被自动化，编程最先。在接下来两年里，他预计会出现一波真正能办成事情的、面向行动的知识工作自动化，其中客户支持是很大的一块。他的说法是，知识工作者就是一个坐在键盘和显示器之间的函数，而 AI 将非常擅长逼近这个函数。Labenz 反驳说，人们二十年来一直在这么讲；Marvin Minsky 在 1960 年代和 1970 年代就说过类似的话。他想弄清楚，这到底是真正的拐点，还是与此前把行业从 Kernighan 和 Ritchie 带到 Replit 的那条趋势线相同。在他看来，这是件大事，但还达不到 AGI 或世界末日那种级别的变化。

Flo 的区别在于：过去，AI 做不了某件事，就是做不了。现在，在非常广泛的任务集合里，最好的 AI 已经超过了普通人的平均水平。它们在某个具体领域还没有达到专家水平，但在一大批任务上，已经能胜过有工作的大学毕业生。Labenz 引用了 BIG-bench 的结果：谷歌把 PaLM 与一批大致相当于软件 QA 测试员的人做比较，AI 赢了。Antonio 说，他在 Deep Blue 击败 Kasparov 时也听过同样的论调。他引用 Edsger Dijkstra 的话：问计算机会不会思考，就像问潜艇会不会游泳。关键在于，潜艇能跑 40 节，人只能跑 1 节。在给广告排序或过滤 Stack Overflow 的内容上，计算机已经做得更好；但这与说它更聪明是两回事，而它仍然会给知识经济带来一场危机。

Amjad 回到通用性这个话题。模型第一次能从一个例子中学会你的意图：他只需说一句“English hello, French salut”，再说一句“English home”，它就会沿着同样的格式继续，用法语给出翻译，三秒钟就能做出一个“Google Translate Antonio”。上一次这种通用性的跃迁，是图灵机。每个应用都会变得更好。他认为，最大的受益者会是成长期的创业公司，因为它们已经有了分发渠道：Notion 加入 AI，比一家全新的 AI 原生知识管理公司更值得关注。他看淡 AI 原生的创业公司，看好 AI 基础设施——OpenAI、提示词 IDE、微调（fine-tuning），以及一切让使用 Transformer 更容易的东西——这是一种像云计算那样、每家公司都会购买的弥散性技术。

在投资问题上，他会再做一次 FAANG 式的公开市场策略，因为他认为还有另一条 S 曲线；同时也会买入英伟达这类基础设施公司。创业公司这一边，受益者是开发者工具、AI 智能层，以及 Replit、Notion 这类处于早期成长阶段的公司。这场讨论始终没能解决灭绝之争。对于实干型创业者来说，它确定下来的内容要窄得多：不要把提示词套壳当成产品，把 AI 放进已经有用户的产品里，并记住 Dijkstra 的那艘潜艇。它能跑 40 节，你只能跑 1 节。