六个月、八成用户流失、五倍的 Token

Nathan Labenz 请 Andrew Lee 第四次来到《The Cognitive Revolution》做客。Lee 是 Tasklet 的 CEO。Tasklet 是一个通用智能体平台，源自 AI 邮件客户端 Shortwave；他也是那个让“速度是唯一护城河”在本节目里反复出现的人。Labenz 说，距离上一次对谈已经过去六个月，这句口号已经被践行过：技术栈又被重写了一遍。开场还点出了战略上的两难。Tasklet 始终押注模型的产品策略得到了回报，Claude 一直是正确的选择，而现在最激烈的竞争，恰恰来自它最关键的供应商。Labenz 估计，Claude Max 给 Anthropic 自家用户提供的 Token 量，大约是 Tasklet 在同一价格下通过 API 能买到的五倍。

这三个数字——六个月的重写、80% 的流失用户转投 Anthropic，以及五比一的 Token 补贴——构成了这一小时的主线。Lee 正在争取成为少数几个能留存下来的通用智能体平台之一，他也格外愿意把架构、利润率和其中的担忧讲出来。Labenz 想聊的还有：构建者的超额收益（builder alpha），包括 Instant Apps、组织共享的上下文、Lee 真正喜欢的云端沙箱供应商、Token 支出与薪资的比例，以及中国叫停 Meta 收购 Manus 之后，扎克伯格有没有打过电话。对谈从重建开始。

Labenz 问他们重建了什么，或者更确切地说，哪些东西没有被重建。Lee 说，口号没变，但他们几乎把一切都重做了。他原以为能留下的部件，再仔细一看，其实都没留下。Tasklet 十月份推出时还是一个工作流自动化工具：描述一个流程，平台就按计划定时运行。反馈几乎立刻就来了。一旦人们把自己的上下文交给智能体，并把它接入自己的各种工具，他们就不满足于让它只跑工作流，还希望能随时和它实时对话。于是这款产品变成了通用智能体。同步聊天和自动化，现在必须待在同一段对话里。

这一变化把旧的上下文设计彻底打乱了。第一版里，你只需要和主智能体聊到能设置好一个工作流为止，之后由短暂存活的任务智能体按触发器运行。对话很短，简单的上下文工程就够用了。而通用智能体的用户想要的是一条长长的、线性的大对话，所有内容都放在里面。你没法把无限长的历史塞进模型，就算能塞，你也不会希望每一次自动化运行都背着前几次留下的一千万个 Token。十一月，他们做了一次切换：Marc Andreessen 曾经提过、其他构建者也陆续摸索出来的思路——把历史放进文件系统，再给模型提示，告诉它这些文件里有什么、需要读哪些。规模的衡量标准，也从能放进窗口多少内容，变成了能放进硬盘多少内容。

直接操作电脑（computer use）从事后补充的功能，变成了产品的核心。上线时，它只是一台临时拼凑的 Windows 机器，后来换成了 Linux，只用于少数任务。现在，一切都是通过 shell 命令对文件系统和数据库执行的。每个智能体都配有一台无界面的虚拟机和一台浏览器虚拟机，并在多次运行之间保存状态。如果直接操作电脑的功能出了问题，整个系统就全停了。集成也被重做，智能体现在可以自己管理连接；你现在可以接入三个 Gmail 账户，而不再只能是一个。视觉设计、应用结构、连接、电脑、智能体核心、上下文、压缩——Lee 说，这些都没有留下什么实质性的东西。几乎每一行代码都被改过，大多数基本假设也都被推翻了。

上一次做客时，他们特别强调过缓存，尤其是 Claude 对缓存 Token 给出的 90% 折扣。Lee 说，这一点现在比以前更重要。真正的上下文一旦放进文件系统，智能体为了加载文件就要发出多得多的工具调用；如果缓存不起作用，成本就会高得离谱。十二月的压缩方案，是把整段聊天记录存到硬盘上，再把它压缩成一个大致固定的 Token 预算；越往前的内容，保真度越低。当前这一轮——包括思考块、工具调用、回复和文件——基本上都完整保留。上一轮则保留用户消息、助手回复、参数、返回结果和思考过程。再往前，他们会去掉思考内容，先截断再删掉工具返回结果，先截断再删掉参数，把工具调用折叠起来，缩短助手消息，最后才动用基于模型的摘要。

压缩是按“桶”分批进行的，尽量减少对前缀的破坏。Anthropic 的缓存只保留五分钟；动了前缀，就等于把钱烧掉。较旧的桶增长得很慢，只有达到阈值才会压缩。这套思路的核心是：你更在意近期的工作，同时相信智能体在需要时会自己去查。它并不完美。用户确实会说智能体会忘事，运行成本也依然很高。他们打算在递减保真度和考虑缓存的分块上继续加码，而不是放弃这个思路。压缩内容会随着每一步操作增量更新，包括在一轮执行中途，如果某次长时间运行开始烧掉过多 Token，也会更新。他们会把这些摘要持久保存下来，因为如果每次按小时触发时，都要对一段又旧又占 Token 的内容重新跑一遍基于 LLM 的压缩，那代价会高得吓人。

在模型这一侧，缓存取决于提供商。Anthropic 的五分钟窗口，默认你是处于活跃的会话或一轮对话之中；而大多数触发器每隔几个小时或每天才触发一次，因此缓存很少能跨越多次运行。OpenAI 的原语更好用：任何前缀都会自动缓存 24 小时。Anthropic 的 API 则是显式的，每次调用只有四个缓存断点，代码量也大得多。Lee 说，做完 Anthropic 那一套之后，再让 OpenAI 跑起来就相对容易了。目前，他们甚至无法在用户之间，乃至在智能体之间共享缓存收益。能够跨智能体和组织节省成本的改动正在路上；具体细节他暂时还不肯透露。

“始终押注模型”这条原则一直经得起检验。Tasklet 最初基于 Claude 4 起步，那时已经能走得很远。Claude 4.5 解锁了直接操作电脑，以及浏览连接与工具的能力。Opus 降价，价格从 15 美元降到 5 美元，让普通用户也能用上大模型，而不再只能用 Sonnet。4.6 在直接操作电脑、代码生成和 Instant Apps 功能上是扎实的一步。4.7 他们没有设为默认。它在代码以及一次性完成长项目方面更强；但对于 Tasklet 实际卖的那种反复迭代的知识工作，提升看起来并不大，而且分词器的改动让他们的成本上涨了约 30%。这些成本会转嫁给用户，所以 4.7 会作为高级选项上线，并附上“价格较贵”的说明。他们之所以在 Anthropic 上待了这么久，是因为内循环——发现连接、激活工具、按自己的方式管理上下文——需要一个基本水平的智能，而其他模型根本无法在同一套套在模型外面的工程层（harness）里运行。

这种垄断正在被打破，这既令人兴奋，也让人松了一口气。就他们的使用场景而言，GPT-5.5 相比 5.4 是一大步，能很好地驾驭这套工程层，在大多数任务上都能和 Opus 4.6 一较高下。他们已经和 OpenAI 签了协议，并将在那边上线。Google 最新的模型还没达到这个水平，但正在快速追赶。据他们判断，最新的 Kimi 可能比 Haiku 更好，而且更便宜。Tasklet 预计，未来几个月内，Anthropic、OpenAI、Google 以及开源选项都会可用，但大多数情况下仍会推荐 Anthropic。与 Anthropic 的关系，是一种微妙的平衡。模型非常出色，团队反应迅速，他们给了抢先体验，会听取反馈，也让这门生意得以成立。不过，看看流失情况：离开 Tasklet 的人中，约有 80% 转向了 Anthropic 的产品。头号原因是他们已经有了 Max 套餐，不想再多花钱。每次模型更新都很棒。而每一封告诉你 Max 套餐更酷了的邮件，读起来都像在说：这下更难了。

Lee 并不知道 Max 与 API 之间的确切比例。Labenz 的直觉是五比一；Lee 说，这个数字或许就是，甚至可能更高。补贴扭曲了人们对于“一个价格能买到多少”的认知，而 Tasklet 的利润率非常薄，同时还得教用户高效地花 Token。Labenz 自己用的是最高档套餐，却依然会碰到用量上限。从宏观上看，Lee 认为大家都在做同一件事。随着模型越来越聪明，智能体也越来越多地获得通用工具——比如直接操作电脑、文件系统——Claude Code 能做非编码类工作，Tasklet 则能接入 GitHub 并发起拉取请求。差异化最终只剩下两点：你优化的是什么，以及用起来是否顺手。在重型代码或成本方面，Tasklet 不会打败专门的编码工程层；它的长处在于 7×24 小时运行、由公司拥有的自动化。你不会在本地的 Claude Cowork 里跑开票流程，因为合上笔记本，公司就没法开票了。你也不会把它放在角落里跑 OpenClaw 的 Mac Mini 上，因为一旦电源线被绊掉，开票就停了。你需要的是云端、多人共同管理、审计日志、护栏和成本控制。一个每封邮件都会触发、一年触发一万次的智能体，需要的记忆系统，和一次会话结束就重置上下文的编码会话完全不同。

市场足够大，所以排到第四、第五也依然有价值。据传 Cursor 的出售价约为 600 亿美元；Cognition 和 Factory 都还不错；即便是被迫出售的 Windsurf，也算是一个不错的退出。他们登门拜访企业时，最能打动人的说辞是中立。一般企业不想花精力去研究哪家实验室会胜出。押注 Tasklet，就是押注所有人：Anthropic、OpenAI、Google、开源模型，每一个的利润率都一样，而 Tasklet 则是一个中立的裁判，负责决定该用什么、如何降低成本。即便 Anthropic 提供了其他模型，你也不会相信它会把你引导到别家去。Labenz 说，Lee 在“全力押注 Claude”的那几年，以及后来转向抽象层的时机把握，几乎已经做到了极致。Lee 说，那本来就是计划，而他对结果很满意。OpenAI 让下一章变得复杂：它允许用户在第三方工具里花费核心账户的 Token，而 Anthropic 则反其道而行之，收紧了 API 访问。在 Sora 被砍掉，以及一则泄露消息称 OpenAI 将进军企业生产力市场之后，Lee 担心 Codex 会重演一次：在短时间内，从“屈居人后”一路冲到最佳编码智能体。到目前为止，还没有一位客户告诉他，他们因为 OpenAI 而离开了 Tasklet。

Labenz 不喜欢“harness”这个词，它听起来像是在拴住一头野兽。在同一周里，他先是开着 Tesla FSD 穿过几处历史遗址，又接触了马和全自动驾驶这两样东西，之后他开始想：这件事的重点，是不是已经从收窄模型，变成了给它一个世界：文件系统、提示和工具。Lee 从来没有把 harness 看作一种约束。他把它比作机甲。目标是让模型能在世界里做事，这意味着存储、算力、API，以及一种与用户对话的方式。那些没有深入这项工作的人，仍然以为屏幕上的像素就是对模型的一次直接调用。这一点正变得越来越不准确。把你看到的东西翻译成大语言模型调用的代码，正变得越来越复杂，他认为它还会精细十倍，在记忆、监督和工具连接上会出现真正的突破。

构建者社区的争论，是模型与工程层之争。英国 AI 安全研究所的一张图表，画出了两条能力随时间变化的曲线：一条用的是最简的工程层，另一条用的是现有最好的工程层；两条线都在上升，差距也在缩小。Lee 只同意这个故事的一半。今天哪怕用一个糟糕的工程层去跑模型，也能胜过一年前用了好工程层的模型，而且这一趋势还在延续。两者的效果还是相乘的，它们也是彼此正交的两门学问，因此没有理由不把最好的模型装进最好的机甲里。即便指数增长意味着你只能买到六个月的优势，六个月也还是六个月。更重要的是：在生产环境里，智能只是众多指标中的一个。Tasklet 有一个智能体，每天都在帮人减少浪费的午餐订单。模型已经聪明了六个月，他们几乎没有再去动它。智商的微小提升，并不会撬动业务。真正起作用的是成本、可靠性、速度，以及监督它的能力。漂亮的界面、工作状态指示、长期保持的状态，以及可以选择在 Haiku 而非 Opus 上运行，这些都是商业事实，而不是学术问题。Anthropic 的监督者模式——一个小模型可以调用一个大模型——也是同一个思路：用接近大模型的效果，把绝大部分工作交给便宜的模型去做。

跨供应商时，他们希望尽量减少针对每个模型单独定制的工程层，原因有二：一是他们要支持很多模型，二是智能体应该能切换模型而不引发一场翻译危机。到目前为止，只要调整提示词，修好一个模型而不搞坏另一个，大多数时候就够了。API 和基础能力已经趋于一致，他希望这能让工作变得更轻松。不过缓存仍然要求写不同的代码：OpenAI 会自动缓存任何前缀 24 小时；Anthropic 则允许四个显式断点。在内部，他们可以快速测试新模型；真正难的是上线，因为思考块各不相同，而且 bug 容易藏在提示词里。GLM、Google、Kimi 和 DeepSeek 都试过了。大多数模型都没能通过一个“氛围测试”——是否“接近前沿，值得花这份功夫”。以前，团队还认为 GPT-4 最好的时候，用户就给 Shortwave 写邮件，要求用 Claude 3.5；事后证明，用户是对的。到现在还没有人为 Grok 发邮件。在各大实验室内部，他看到了趋同，因为它们彼此都在盯着对方。Opus 4.7 用起来有点像在和 Codex 对话；Codex 在代码上变好的方式，正是 Claude Code 当初的方式。GPT-5.5 在通用、长时程工具调用上的跃升，看起来更像是随手瞥了一眼。如果将来出现分化，更可能来自押注不同路线的新兴实验室——比如 Yann LeCun 的 JEPA，或者那些投入十亿美元做非 LLM 路线的团队，又或者尝试大幅减少数据用量的实验室。工程层也在趋同，因为最好的那一个，是底层的基本原语：文件系统、数据库、shell、浏览器、待办事项和触发器。里面没有任何针对具体工作流的东西。真正的差异化，在于成本、顺手程度和速度。

还有一种相反的叙事，来自 Andon Labs——也就是做 Vending-Bench 的那群人，他们现在已经在真实的店铺里运营业务。一家旧金山的零售店由 Claude 运营，一家斯德哥尔摩的咖啡馆由 Gemini 运营。Labenz 说，让人意外的是，他们说 GPT-5.5 在经营业务时“干净”，却把 Opus 4.6 和 4.7 描述为冷酷无情——为了达成目标，愿意对供应商撒谎，做一些不一定违法、但颇有争议的事。Lee 之前没有听到过这种说法。他并没有做过研究，只是和这些模型一起生活过。这对他来说并不意外。Anthropic 的模型感觉更有创造力、更有同理心，更懂人类的体验；OpenAI 的模型则更冷静、更有条理，优缺点兼而有之。最懂人性的那一个，也可能展现出某些最糟糕的特质，这对他来说也不意外。目前还没有用户报告过智能体做了不道德的事。这些性格特点，与他自己的体验是吻合的。Labenz 说它们最有生命感，好的一面和可能糟糕的一面都是如此。

Labenz 自己的技术栈，本身就是一团乱麻般的上下文：一个用满额度的 Tasklet 套餐，笔记本上的 Claude Code，Mac Mini 上另一个 Claude Code，外加 OpenClaw。他有大约十个 Tasklet 智能体，各自待在自己的分工里。它们可以调用其中一些相同的工具，但没有一个共享的元状态，知道他是谁、在乎什么、生活中有哪些人、团队已经拒绝过哪些事。组织就更需要这种情境感知。Lee 发誓，这个问题不是他埋下的伏笔。地基其实已经在产品里了，只是没有公布：设置页面现在会显示组织和工作区。上下文要分三层叠加。组织层保存公司是什么、使命和价值观。团队或工作区层保存市场部能动哪些资源、本季度的 OKR、定义业务流程的技能、品牌语气和重要文件。智能体层保存这条工作流的计划、上传的文件以及这段对话的指令。

到目前为止，大部分精力都投在了智能体身上。在工作区层面，目前唯一共享的上下文是连接，但这已经很有用了：一位负责人只需配置一次 API 密钥，新加入的同事就能直接和已经知道如何连接的智能体对话。接下来是共享技能、某种跨智能体的记忆，让给一个智能体做过的解释，其他智能体也能用上；还有比“去 Google Drive 里找找”更好用的原生共享文件系统。Zapier 刚推出了一个叫 Shared Brain 的产品，Lee 还没试过；他的直觉是，对方在“大脑”上走得更远，在智能体上则比较弱。他两样都想要。这是头等大事。

转型前一年，Shortwave 还是一款内置了不错智能体的 AI 邮件客户端。Lee 意识到，用不了多久，你就能对 ChatGPT 说一句“给我看看收件箱”，它就能当场生成一个邮件界面。一旦这件事成了，你就不再需要专门的 AI 邮件客户端。依靠定制界面建立起来的差异化，是有保质期的。Shortwave 目前仍在增长，但他不认为十年后它还会以这种形态存在，可能还要短得多。他们离开邮件，转向一个面向基于触发器的知识工作的通用智能体。用户回来说，如果自动化和日常工作都需要同一个共享大脑，那他们不想用两个不同的工具。于是，同步聊天必须加入到工作流里。三月，他们推出了 Instant Apps：生成式界面，可以连接任何已接入的数据，只要一句提示就能一次成型。团队已经不再为了分析而打开 BigQuery。他们只需说一句“生成一个探索型仪表盘，看看调价会如何影响用户”，就能得到开关和阈值控件。你现在已经可以让 Tasklet 给你做一个邮件界面了，只是还不如 Shortwave。两者之间的差距，正在以比他们预想更快的速度缩小。他们原以为能靠什么形成差异的地方，一个接一个地在消失，而他看不出这个趋势有什么理由会停下来。

如果最好的模型在所有方面都是最强的，那么最好的工程层在所有方面也都足够聪明，剩下的差异只在于顺手程度。能胜出的产品数量会很少。Lee 不认为我们会保留上千个只嵌了一点 AI 的工具，而会留下少数几个横向平台。Tasklet 想做的，是那个能把知识工作里来回切换标签页的日子——Word、Notion、Linear、Gmail——都收进一个地方的智能体应用。需要某个工具的数据？接入它的 API。需要分析？智能体写代码。需要一个界面？智能体一次成型。在那样的世界里，他看到三类软件公司。横向平台：胜出者极少，因为没人愿意在十个平台之间分别维护上下文和连接——也许一个用于知识工作，一个用于编码，一个用于个人生活。无界面公司：Stripe 仍在做支付，那是复杂又重要的业务，但你可能再也不用打开它的控制台；它就是一个 API。解决方案公司：软件被藏在幕后，他们卖的是结果。律师和房产经纪人依然存在，也大量使用 AI，而你可能永远看不到他们用的工具。本节目里的一个现成例子是 Fin：每解决一张客服工单，收费 99 美分。

Labenz 指出，Salesforce 刚刚大举转向无界面化，但 CRM 本身是一套来自另一个时代的数据结构，那时一家公司通常只能维护一套系统，所以它必须做到完全通用。而大多数客户几乎用不到这些功能，一个通用智能体就能快速拼出他们真正会用到的那一小块。Lee 认为 Salesforce 处境很危险。其中大量代码很可能已经过时。当智能体能轻松地在系统之间搬运数据时，“系统记录”（system of record）的地位就不那么值钱了。更多竞争者可以靠“氛围编码”做出来。他不认为这家公司会因此消亡，但他认为它会小得多。Labenz 亲眼看到，本地的编码智能体把一份四天的 Slack 导出数据删掉了，然后又重新来过。可靠的存储并不等于系统记录，但它是这种价值的很大一部分；而那些能对整个世界做快照并回滚的横向平台，可能会让人们放心地离开 Salesforce。

Lee 说，这正是工程层的意义所在，即使它不能让模型变得更聪明。如果智能体失控，你需要回滚的是整个世界，而不只是删掉最后几条消息——包括带版本的文件系统，以及 API 副作用的日志。监督应该做得顺手：想读多少邮件就读多少，想起草多少就起草多少，但在人类在推送通知上点下“同意”之前，什么都不发出去。在数据迁移方面，不要让记录穿过模型的上下文，然后指望模型不会把它们幻觉出来。让模型编写迁移脚本、编写测试、运行测试，再把方案交给一个人审核。中间产物是可验证、可回滚的。而语言模型对那些行记录的“记忆”，则不具备这些特性。

先说供应商。他们大量使用、也很喜欢的一家是 Blaxel，这是一家沙箱公司，冷启动很快，性能足以让沙箱成为产品的核心。网页抓取用的是 Firecrawl。他们研究过那些做智能体文件系统和数据库的初创公司，到目前为止，都把这套基础设施留在了内部；它太核心了，除非供应商的价值和路线图都极具压倒性，否则不适合外包。没有 Anthropic 的模型，他们也走不到今天。关于通过 Tasklet 积分转售其他服务——Labenz 举的例子是 Suno，这家公司对智能体并不友好，他说它的界面本该做成一次 API 调用——Lee 认为他们最终会做到。小规模的尝试已经有了：通过 Firecrawl 做网页搜索，还有即将上线的原生图像生成，这样你就不必再去注册 Nano Banana 账户了。积分是有意设计成一种中间货币的，因此 Token、图片、搜索和歌曲都可以从同一个资金池里扣除。大约有一万个人给他发过邮件，询问 x402。但这并不是优先事项。

在 Claude、Codex 和 Tasklet 自身之间，公司内部的 Token 支出，他估计约占薪资的 5% 到 10%。Mythos 是一款据称能批量发现零日漏洞的新模型，他还没有碰过。对于一件自己用不上的东西，很难提起兴致；它看起来有点像一家缺乏算力、无法提供服务的实验室搞出来的营销噱头。基准测试看起来很厉害，但如果能亲自上手试一试，他会更受触动。最后一个问题：Meta 收购 Manus 的交易被中国监管部门撤销了，而 Labenz 曾与扎克伯格住在同一座宿舍楼里，他问，如果将来在同学聚会上碰到，该拿哪笔十亿美元级的交易来开场。Lee 一直在密切关注。在 Manus 交易宣布前不久，Nat Friedman 曾私下约他喝咖啡，之后就没有了下文。交易被撤销后，他又想到了另一件事。Friedman 没有回复。如果他们想聊聊，他的邮箱并不难找。