一次 100 美元的看病与一美元的 AI：GPT-4 已在拆解工作

这期节目里，Nathan Labenz 与联合主持人 Erik Torenberg 在《The Cognitive Revolution》中回过头来，解释他在对 GPT-4 进行红队测试时向 OpenAI 提出的一个论断：经济将发生转变。他说，具体的细节仍在摸索之中。他在那两个月早期测试中所用的方法非常简单：让模型扮演人们本来就会花真钱请教的专业顾问，然后一直聊下去，直到看出它的回答有没有实质内容。

第一个角色是医生。在美国，哪怕只是一个健康上的担忧，也得先预约、开车过去，常常在候诊室里耗掉半天，而看完之后，很多病人仍然觉得自己并没有真正被听进去。相比之下，设置一个 AI 医生则是“轻而易举”的事：先写一段角色设定的提示词，再来回对话即可。Labenz 发现，与他真正去过的几次门诊相比，这种对话极易复现。他不是医生，做评估也很谨慎，所以测试的次数不多，而且都是他自己的情况。

这些案例是他自己的一些小毛病，以及对三岁孩子的担忧，原本多半要打给儿科医生。在那两个月里，他们一家找到了一个明确的替代点。有一次，AI 给出的建议可靠到让他们干脆不打这通电话。事后证明那其实不是什么真正的问题，所以这算是个简单的案例；但如果没有 GPT-4，那通电话本来会打出去，最后却没有打。

牙医的测试更有戏剧性。Labenz 描述了牙齿上一处奇怪的斑点，模型告诉他，牙医给出的治疗方案听起来不太标准，与最佳实践不符。后来证明这话确实没错。他还试过移民法，试过帮祖母解决技术支持问题，甚至和一个三岁孩子玩过。对于一场虚构的邻里篱笆纠纷，他请模型担任调解人，自己扮演双方，然后把对话记录发给一位做律师的朋友。律师说，法律上的答案明确无疑：篱笆在对方的地上，所以由对方决定。Labenz 觉得这种对比很能说明问题。在邻居们今后还得天天做邻居的情境里，人们真正需要的是调解，裁决反倒用处不大。可见，你给模型分配的角色，会直接改变它的用处。

群聊里的虚拟教练，给 Labenz（身体状况还算不错）、他怀孕的妻子，以及经常受伤的兄弟，都提出了具体的建议。Labenz 说，这种语气放到与真人文字教练的图灵测试（Turing test）里，恐怕会露馅。一个虚拟的汽修调度员，比满手油污的真人技师更有耐心，因为模型不介意在电话上一直陪着，直到来电者满意为止。一家五金店的店员为 Labenz 地下室里 1980 年代的卤素灯具推荐了一款特定灯泡；他搜索、下单，灯泡正好合适。一位太阳能顾问替他算了给手机充电与给冰箱、空调供电的账，并在一套零售级太阳能板的前提下，劝他放弃最后一项。他的妻子负责组织有上千人参加的纯素活动，通常会轮换不同的餐饮承办商。她看了 GPT 规划的菜单后说，比她合作过的所有承办商都要好。

失败的情况也要说到。数学仍然受限：SAT 风格的应用题做得前后一致，大学数学和微积分一开始也能应付，但很快就撞上天花板；而且只要 Labenz 假装成一个答错题的学生，模型就容易被带偏。这使它成了糟糕的老师，因为一个困惑的学生就能把它拖下水。化学方程式配平也是同样的模式：基础部分没问题，但学生如果故意埋下错误，它往往就糊弄过去了。日期有时也会像 Bing 那样漂移。不过，在十几个角色之中，覆盖范围从医学博士和律师，一直到五金店店员和汽修调度员，Labenz 的总结是：几乎在各个方面都表现很好。他指出，之后有两篇论文印证了这一判断：一篇是《GPTs are GPTs》，其中第二个 GPT 指的是通用目的技术（general-purpose technology）；另一篇是微软研究院的论文，主张把 GPT-4 视为早期的通用人工智能（AGI）是恰当的。

这些实验只是原始素材，经济层面的推断则是一个三步论证。第一步，如果审视今天存在的工作，并问语言模型能否完成其中某一份工作的全部，你几乎总会得出否定的答案：要么是因为需要的上下文太多，要么是因为其中一部分是体力劳动，而模型没有机器人身体。第二步，正因如此，Labenz 预计工作会被大规模拆解为一个个任务。《GPTs are GPTs》一文采用的也是同样的视角：一个职业由哪些任务构成，每项任务要花多少时间，其中哪些任务语言模型能直接完成，或者至少能把耗时砍掉一半。研究发现，约一半的工作中，约一半的任务会受到影响。

第三步，他借用了制造业的历史。在福特的装配线出现之前，人们本来就能造汽车，但公差很松，每辆车都需要工匠在现场临时解决问题。如今的一座半导体工厂，一粒灰尘就可能让它出问题。Labenz 认为，知识工作即将迎来同样的处理：把工作拆开，看看语言模型能做其中哪些部分，把它训练到输出足够可靠，再接入一套系统。大公司会率先行动，因为它们会买下最先进的系统，也能看到最大的节省；这种模式随后会逐步向下渗透。他把这称为知识工作的新的泰勒主义。

算账才是引擎。如果按小时付钱让人接电话，那么语言模型至少能把成本降到十分之一，通常还能降低 95% 到 99%。一次典型的美国门诊约 100 美元（Labenz 说这个数字可能偏保守），按当时的 API 价格，可以变成一段 45 分钟的对话，成本约一美元。呼叫中心的情况也许更接近十倍，达不到一百倍，但许多事情都会落在十到一百倍之间，再加上 24 小时可用，以及不会忘记你是谁的记忆能力。升级转接是最后剩下的人工环节：“能不能转给经理”，正是第一代模型把你交给人的地方。Labenz 猜测，这一比例起初约为 5%，之后会降到 1%，再到 0.1%。

他脑海里有一幅具体的画面：诊所前台。今天，同一个人可能既接电话、又排预约，还在办理登记时量体重和血压。他认为，最多几个月，就会出现竞争激烈的自动预约市场，随时都能打电话去约。病人得到更好的服务，诊所省下开支，理论上还会有一部分节省传递给病人。那个过去要同时做这三件事的人，还能不能保住工作，取决于规模：小诊所里，医生也许自己量生命体征；大诊所里，三个前台会变成一个。他说，创业者非常擅长填补这些空缺，而且会比人们预想的更快动手。错误在于非黑即白的思维。副驾驶与替代并非二选一，两者同时发生。

Torenberg 给出了经典的安慰。每一次技术浪潮都被认为会消灭工作，最后却创造出更多工作，因为人类的欲望是无穷的。美国从大约 90% 的人口务农，降到约 3%，工作却并没有消失。他提到 Labenz 在 Twitter 上与 Antonio Garcia Martinez 就那张农民比例图展开的一番交流，并问，这一次这个范式是否已经无济于事了。Labenz 说这是个难题，他预计自己会感到惊讶，但他仍然认为这一次不一样，因为目前并不清楚，人们究竟要转向哪里。

他借用了 Yuval Noah Harari 的一个框架：人类用肌肉做体力劳动，用大脑做脑力劳动，两者有些重叠，也没有明显的第三个去处。机器和化石燃料接管了大部分体力劳动，人们于是转向了脑力劳动。如果脑力劳动如今也被接管，第三类工作的候选就所剩无几了。情感劳动是其中一个；Labenz 自己的实验表明，模型在这方面已经相当擅长，包括认知行为疗法那种对话模式。另一个候选是本地化、定制化的服务经济，比如晚宴上的谋杀悬疑游戏，以及高度个性化的娱乐。AI 可以设计谜案，但人们可能仍然更愿意和其他人一起玩。这是一种期待，算不上劳动力市场的规划。

他给工作下了一个定义：那些人们不一定想做、因此必须付费、若无人去做就做不成、并且只有人类能做的事情。他说，这一类工作正在萎缩。他并不担心自己会因此无聊。即便他所做的一切都被自动化，他仍然会研究 AI，去读那些他现在没有时间读的历史书。那些一直想学钢琴、却总觉得太忙的人，也许终于有了时间，而教他们的可能正是 AI。真正扎人的是下一句：这场表演的尽头，不一定有钱等着你。丰富的生活与一份薪水，是两个不同的问题。

Torenberg 担心社会会像《哈利·波特》那样，分裂成“麻瓜”和被超级增强的阶层，并回忆起与 Replit 的 Amjad Masad 的一次谈话，聊到那位 1000 倍效率的开发者。Labenz 认为，软件需求会上升，尤其是在价格极低的时候，然后他追问：到底哪一类软件需求是真正无限的？游戏和个性化娱乐是诚实的最终形态，即便它们也会撞上一天只有 24 小时这一硬约束。原创科学和硬核工程仍超出这一代模型的能力范围，语言模型不会自己搭起一条半导体供应链；但这些稀有的专家本来就寥寥无几，而未被触及的领域也仍在缩小。速度是另一个不同之处。Labenz 来自底特律。教科书上说，汽车行业的工作岗位离开后，经济会自行调整；但许多美国中西部城镇再也没能恢复，怨愤成了一股政治力量。那还只是慢速的版本。他认为，接下来两到五年，这种冲击会同时压缩到许多行业之中。社会历来依靠代际更替来适应。如果几年之内有大量在业人口同时受到冲击，他不知道该怎样调整。

Labenz 说，监管不会阻止这场转变，但它会决定谁能在什么许可下做什么，以及按什么时间表去做。他一直对利益集团反应之慢感到惊讶：否认已经跑在了行动前面。他并不指望这种状态持续下去。美国医学会（AMA）和美国律师协会（ABA）的领导层看到这些数据，会设法保护自己的会员。没有执照行医或执业本就违法；下一步是把未经许可的医疗或法律语言模型也定为违法，或者至少要求有持证的督导人员。FDA 已经就把语言模型当作医疗器械来监管有过一些动静，这意味着需要提供安全性证明。Labenz 若能在今年内躲过关于谁可以使用这些模型、谁必须监督、以及如果 OpenAI 的产品提供医疗建议，谁来承担责任的第一批争斗，他才会感到惊讶。

他的经验法则很直接：一个职业的现有地位越高，它设置限制的能力就越强。客服工作的组织方式并非如此。麦当劳的免下车点餐通道很可能会由语言模型驱动，国会里也不会有人为它出头。如果限制没有奏效，他预计，在医生人均稀少的地方（他举的例子是刚果民主共和国），人们手里有手机、心里有问题，于是会出现跳跃式的采用。随着人们清楚地看到封堵它并不符合公共利益，这些工具会逐步向上渗透，一直进入收入阶梯的更高处。Torenberg 则更为愤世嫉俗。他认为恐慌会不断扩散，教育界会以“公平”为名，继续把教师置于学生之上，而医生、教师工会和律师手中的权力，足以造成比人们愿意看到的更多的伤害。他不认为他们能实质性地拖慢 OpenAI。他认为，最终会出现 Marc Andreessen 那张图表所描绘的局面：住房、医疗、教育等严格监管的行业越来越贵，不受监管的行业越来越便宜，两者的分岔会越拉越大。

Labenz 承认短期内会有这场争斗，但怀疑它会形成永久的锁定。核电站和第二大道地铁之所以能被叫停，是因为它们固定在一个地方。他说，他最近听的一期《EconTalk》谈到国家的形成，把谷物地区和块茎地区做了对比：谷物可以储存、可以征税，而土豆会烂，所以早期国家总是在能征税的地方形成。AI 就是块茎，它没有固定的所在地。中国有防火长城，却依然有 VPN。即便美国禁止消费者使用医疗模型，OpenAI 也可以在内罗毕设一家子公司，人们依然能够触达它，除非监管变得极其严苛。需求会从缝隙里挤过去。深冬的深夜，孩子生病，若有一次只要百分之一成本的对话，人们会主动去找它。他认为，最终的较量在于速度，而不在于 AI 医生最终能否被咨询。

能力的发展也超出了这个故事本身。Labenz 描述过一种假设情境：模型如果进步得足够慢，公众就能容忍一个糟糕的 AI 医生，并让它留在市场之外。但现实是，去年一年冲破了那样的世界。当天上午有一篇论文显示，GPT-4 胜过了 Med-PaLM；Med-PaLM 2 则在前一两周发布，两者在标准化医学问题上不相上下，都达到了专家水平。人们第一次听说这件事时，它已经是专家级别了，这使既得利益者的权力争夺更容易被看穿。恐惧、不确定和怀疑，仍可能在几年里吓退消费者。他不会对 2028 年仍在争论这件事感到震惊。社会曾经依据高层的安全论证，把非暴力犯罪的人关进监狱，之后又基本放弃了禁毒战争。关于 AI 医生，他认为，谁真正受到伤害、谁真正受到保护，这个问题会变得更加明显。他乐观的一面是：五年，对于守住直接获取的底线来说，已经是很长的时间了。

Torenberg 把话题转到士气上。这二十来年，焦虑主要集中在蓝领的自动化上，以及卡车司机会失去什么样的意义感，其中还包括关于全民基本收入的讨论。结果证明，那些工作持续的时间比预期更长。白领工作反而更容易受到冲击，而身处其中的人对有用性和身份地位更加敏感。他们一生都在爬阶梯，被告知自己成功、特别、重要。Torenberg 承认，看着 ChatGPT 在综合、总结和分析上远远超过自己，他感到有些泄气。问题与其说在于资源，不如说在于：人们经历了学校、研究生院以及其他种种关卡之后，将如何感受到自己仍然被需要。

Labenz 把这看成另一种拉平的力量。长期以来，一股政治上的怨恨一直针对那些声称自己凭功绩走到今天的人。他说，很快，我们中会有更多人处在类似的船上，这甚至可能让人们彼此都温和一点。反应仍会分裂。他刚刚看到一位三维美术师的视频（这段视频是 Torenberg 发给他的）：这位美术师失去了这份工作里他最热爱的一切，如今整天坐着给 Midjourney 写提示词，觉得自己没那么有创造力了。这门手艺的另一半同样真实：有些人脑子里一直有故事，却从来没法把它们视觉化，如今终于做到了。两种人都存在。

他也留意到一次哲学上的翻转。人类曾经以智力区别于动物，并把这当成统治世界的理由。如今的反向说法则是，使我们相对于 AI 而显得特别的，是感受和情绪，也就是那些我们相当确定模型并不具备的动物性特质。尴尬之处在于，这些特质大多与动物共有。使我们区别于动物的东西，把我们归入了 AI 那一边；使我们区别于 AI 的东西，又把我们归入了动物那一边。眼下，人类正位于这张维恩图的中央，而智力上的特殊感一旦消失，将会是一股持续很久的心理气候。

一段在网上迅速传播的 TikTok 视频，把这两种真相放进了同一个画面。一位医生与 GPT-4 对话，看着它吐出一个有力的诊断，然后整个人垮了下来：他读了四年医学院，而这东西一下子就给出了答案。视频迅速走红。Labenz 看到的几条最热门评论全都来自女性，大意都是：“至少我去看病、讲述自己的问题时，ChatGPT 可能会愿意听我说。”医生的地位岌岌可危；病人则积压已久地觉得，自己从未被好好服务过，而一个更有耐心的倾听者会是一种升级。这两种情绪同时出现在同一块屏幕上。Labenz 猜测，生活满意度的去向是人际关系，几乎所有关于幸福感的研究都把它视为重要变量。他认为，人际关系会在一定程度上被商业化，成为高度本地化、独具一格的服务，前提是像 Replika 这样的产品不会好到连这一块也挤占掉。

Labenz 并不宣称知道社会会怎样。不过，他确实认为，每个人都正被推向一种新的均衡，在其中你其实无法真正选择退出。如果一个经济体中，每家医生诊所都提供 24 小时预约，你还怎么保持自己是那个只在九点到四点之间接电话、收费更高，并把这当作留下理由的诊所？所有激励都指向快速采用。他说，关于地位和意义的感受，必须与工作究竟如何被重组分开来梳理。

Torenberg 以一个政治经济学的论点收尾，这个论点连 Ezra Klein 这样的左翼人士都在推动：善意的自由派把政府变得如此复杂，以至于它成了一个否决型政府（vetocracy），很容易否决，却很难建设。未来几年将检验，当对消费者更好的交易已经显而易见时，机构和专业组织究竟拥有多少权力。当公众代价已经清清楚楚，它们会优先考虑消费者，还是优先考虑服务提供方？

Labenz 对听众的提醒是：这是对一场没人准备好的变化所做的诚实判断。他引用 Tyler Cowen 的话：各方面都有大量的自我安慰，而这档节目想做一个不自我安慰的地方。关键在于，按照技术自身的条件去理解它：它能做什么、不能做什么，以及考虑到这些优势和仍然存在的弱点，它很可能会怎样被应用。在此刻，这项工作给不出整洁的答案，也给不出令人安心的高确定性展望。它把思考的任务留给了听众，留在一个仍然充满不确定性的环境中。