Sudowrite 卖的是摆脱写作卡壳，之后 800 万人围观了一场集体声讨

Nathan Labenz 是在五月第一次在 Twitter 上注意到 James Yu 的。当时 Sudowrite 的一段产品视频引来一波敌意，Labenz 认为这股敌意与对被取代的恐惧，以及编剧工会的罢工有关。这段视频现在的触达人数已经超过 800 万。Labenz 看过视频、试用了工具之后，真正打动他的是官网首页：它没有吹嘘模型能力，写的是：“你一直想要的那个不评判、随时在线、愿意读 30 份草稿的 AI 写作伙伴”。Yu 是一款长篇小说创作产品的联合创始人，这款产品早在 2021 年就已被《纽约时报》和《纽约客》提及，比 ChatGPT 还早两年。

Sudowrite 已经存在大约三年，其中大部分时间处于私测阶段。GPT-3 刚出来时（最初的 DaVinci 1.0），Yu 正在大量写科幻小说。大家都在用这个模型做表情包，他和联合创始人 Amit 则想知道它能不能真正帮到创作者。他开始用它来写自己的稿子，觉得有用，于是在 2020 年底把 Sudowrite 作为一个小玩具做了起来。他说，在那个早期的 GPT-3 上，幻觉对小说来说是一项很好的功能，算不上缺陷。这家公司是从小说社群和写作小组里长出来的。

那第一个模型只有 2000 Token 的窗口，也没有指令微调，所以你必须把它当作一个暗示性很强的自动补全来写提示词。第一个功能的名字取作 Wormhole，没有叫“写作”：它展示的是，在其他多元宇宙里，另外五个版本的你，可能会为下一段写些什么。这个名字定下了基调。它可能天马行空，也可能对不上你的声音，但它仍然可能给你启发。工作的目标，是让卡住的作家动起来；一个错误的建议被摆上了台面，因为看见错的东西，有时能让人看清对的东西。输出以卡片形式给出供人选择，不会直接倒进文档，这个习惯他们至今仍保留。

早期的技巧大多是少样本（few-shot）。“Describe”工具用于把选中的对象写得更丰满，它的种子示例取自 Yu 自己的小说，所以最早的版本更接近“James 会怎么描写这个”。用户的稿件上下文仍会把模型拉进一个文学性的潜空间（latent space）。提示词评估同样重要：Yu、Amit 以及深度参与的写作小组，组织了覆盖各种小说类型的评审小组。他们至今仍然这么做。

Labenz 一直回想着首页那句话，因为它几乎是反功利的。别的公司可能会卖“最好的文案，立即购买”。Sudowrite 对准的是作者的需求。Yu 说，这种定位从一开始就没变过。拿企业邮件工具来比较一下：那个领域讲的是生产力，是每分钟打多少字。他当初用 GPT-3，图的不是打字更快，图的是进入对的写作状态。

与小说作者和测试用户的早期访谈里，反复出现了第二个好处。这个工具固然让他们摆脱了卡壳，但也让他们不那么孤独了。大多数小说家是独自写作的专业人士，没有约稿就自行创作，身边没有编剧室。就算有写作小组，也是异步的。大部分时间里，只有一个人、一个键盘和一个脑袋。用户开始把模型当成拟人的对象：仿佛真的有什么东西在读他们的稿子。有人说，伴侣已经不愿再读他们的稿子了，或者他们羞于把初稿拿给小组看，但对 AI 就不会。

这句话被反复听到之后，改变了他们的论点。Sudowrite 并不只是逐词补全，它是一种与想法协作的方式，也是一种通过文化视角，借助潜空间里的相邻文本，与自己作品建立联系的方式。Labenz 想起了 Replika 的 CEO Eugenia Kuyda，她曾对他说，他们也许造不出能说话的 AI，但能造出一个会倾听的 AI。Sudowrite 的大多数用户属于长尾独立创作者：他们可能从没卖出过一本书，只是出于热爱而写作。

GPT-4 和最新模型带来的重大突破在于，系统能从 50,000 英尺的高空理解整个故事，不只是下一段。Sudowrite 正在从局部补全，走向逐场景理解，再到整个故事的弧线。新的分层模式 Story Engine，是一种尝试：用一种能让模型保持正确上下文的结构，与作者达成心灵上的默契。Yu 说，Claude 的 100k Token 窗口听上去很慷慨，但定价往往行不通，况且你也不总想在每一次推理里都塞进整部小说。更好的做法，是给作者工具，让他们在正确的时间喂入正确的上下文。

在局部时代，他们只要求很小的信号：这个场景是不祥还是快乐，里面有谁。现在，作者既能交出 50,000 英尺高空的全局视角，也能交出具体的细节：场景、在场的人物、任务是什么，以及他们需要的是一个情节节拍还是一个段落。早期的 DaVinci 就像老虎机：大概每 50 次拉杆，才会出一个值得留下的宝贝。现在的斗争，是让每两次拉杆里就有一次有用。他们为半人马而做设计，即一半人、一半 AI，“人要当半人马的头，别当屁股”。那些宣称模型什么都能做的 Twitter 演示，错过了写小说的重点。

写小说的方式和小说家一样多，这一点和企业邮件很不同。首要的用户体验问题，是即使作者从不采用 Story Engine，这个工具也要保持有用：先自由书写，或者先列大纲，两种方式都应该行得通。Yu 既写代码也写作，他想要的是一个讲故事的 IDE。作家们用过模板和 Excel；他们需要一个语言模型，去穿透场景中真正发生的事情那层面纱。程序员用 IDE 已经很多年了，小说家却只能自己扛下那些繁琐的苦差事。北极星是减少这些苦差事，好让他们留在自己热爱的部分上。

Labenz 想反向推导它的技术栈，就像人们拆解 GitHub Copilot 的提示词那样：一本书的摘要、章节标题、局部前后对比、填空。Yu 说，主要挑战是上下文填充，也就是在正确的时间、为正确的功能提供正确的信息。场景里对某个角色的丰富描写，可能需要这个角色的恐惧，也可能用不上。一个更简单的约束是：如果某人在第六章死了，那么第八章他就不该再走回来。长期的图景，是比大纲更细的时间线，加上世界状态，再加上静态事实（怕火、故事前提、类型、风格）；所有这些都输入到一个决策器里，由它挑出相关的内容。其中有些是启发式的，他们也开始用语义检索。

他把模型当作风格各异的笔。GPT-4 稳定、听规则，但说话像 C-3PO，不是最好的创意散文写手。Anthropic 的 Claude 擅长创意写作，遵守规则则弱一些。作者们对自己想要哪一支笔，意见各不相同。要提供一个好的基线，就得在文字层面理解每一个模型。人也不可能把整部小说都装在脑子里，所以幕后的算法采取了一种近乎拟人的视角：给模型同样有限、分层的上下文，就像人会用的那样。

他们仍然大量使用 DaVinci，尽管这些模型即将被下线。Yu 同意，人类反馈强化学习（RLHF）会把粗糙的棱角磨成某种可预测的东西，你远远就能闻到 C-3PO 式的含糊其辞。他们把较老的 DaVinci 与 GPT-4 混用。把前沿模型推进某个特定的潜空间，效果不如原版 DaVinci，但并非做不到。“Match My Style”让作者上传一整个场景；Sudowrite 会构造一个提示词，在不做微调的情况下，把 GPT-4 推向那种风格，利用的是模型在训练中见过的文学评论与正文之间的配对关系。它没法做到 100%，这也是他们计划今年探索开源模型和微调模型的原因之一。OpenAI 为企业市场打磨棱角，这很合理，创意写作并不是它的重点。

有些作者把整个场景生成出来当作初稿，但从不当作定稿，他们发明了自己的小窍门。其中一种是套件拼装（kit bashing）：同时运行两个模型，中间留一栏，把最好的段落拼贴起来，Claude、DaVinci 和 GPT-4 三者互相对照，就像视觉艺术家在照片上叠画一样。更老练的用户会引入开源模型，把大量输出重新混编。Yu 本人并不这样工作，但他们的许多小说家都是这样的。

Labenz 自己做的一个播客开场小应用，会把他五篇较好的文章、新的文字稿，以及一条风格指令一起粘贴进 Claude 2，因为只有那个长窗口装得下。超过大约一个半小时后，即使 Token 数理论上还装得下，模型也会丢失线索。他经常整篇重写；草稿就是拿来有效讨厌的东西，就像《辛普森一家》里伯恩斯先生在艺术展上说的那样：“我不是艺术评论家，但我知道我讨厌什么。”Yu 的建议是：用 API Playground，而不是 ChatGPT。系统消息很重要。在长提示词里，模型会和人一样忽略中间部分。把最重要的内容放在开头，尤其是结尾。Sudowrite 把风格放在最后，称之为“笔尖”，并再次强调：请以……的风格来写。

如果你要求模型*不要*做某件事，它往往会去做。Yu 把这叫作粉红大象综合征：别去想一头粉红色的大象。“不要太老套”可能让文字更老套。更好的办法，是给出完全不老套的陈述或引语，把模型拉进那个潜空间。Sudowrite 的标杆是：作者大约每两次生成就能用上一次。个人一次性的提示词，命中率会低一些，这在聊天里没问题。要想结果可复现，可以用一张表格记录：哪种措辞让你要重跑四次，哪种只要两次，然后不断迭代，直到得到一个属于你自己的“Nathan 提示词”。很多作者已经私下保留了一座提示词花园。Yu 认为，经营这座花园，会成为一种普通的写作实践。

Story Engine 从一场自由形式的头脑风暴开始：稿件页面、一篇维基百科条目、零散的笔记。模型擅长把这团乱麻整理成梗概和大纲，再把结构折叠回去，让它能像大语言模型理解事物那样，理解那个 50,000 英尺高空的全局。人的思维是联想式的，写作则是线性的；用 LLM 来写，意味着把它分层线性化。每个保真度层级各自保留独立的存储，并为任务挑选要喂入哪一层。有时用户在层级填完之后，才发现这部小说讲的并不是他们原以为的东西。Yu 仍把后端称为 v1。温度他们保持在相对较高的水平，并留一个可调的旋钮给用户，因为创意写作需要天马行空的想法，而幻觉在这里是一份礼物，不过参数之间会互相干扰。把温度调低，你可能就需要频率惩罚和存在惩罚来对抗重复。调动一个旋钮，就可能弄坏你没有留意的另一个。难题是老套，尤其是在 RLHF 之后；无论是温度还是 top-p，都不是解决它的锤子。

今天，Sudowrite 服务的是“大写 W”的作家：职业作家、自出版作者，以及自认为是作家的人。中期来看，Yu 认为这些模型能让从没想过写小说的人也达成这一目标，并在过程中通过观察底层的叙事技巧学会手艺。再往远看，一对一的媒体将成为可能。他有一个七岁的孩子。对那个孩子来说，智能体是默认设置，谈不上新鲜：AI 当然会讲故事、会画画，他自己也会。孩子和 AI 之间没有对立关系，也许电脑能帮他把一个想法充实起来。

他最近办了一场塞尔达主题的生日派对。他做了一段 AI 视频，把儿子的脸放在塞尔达身上，还安排了寻宝游戏，并配上塞尔达的 AI 声音和孩子们对话；孩子们问塞尔达怎么知道他们的名字。他不打算分享这段视频，它只是为派对做的。他原本绝不会为十几个孩子请一位配音演员。这种不规模化的个人化媒体，现在才刚刚成为可能，它更接近自己搭个网站，离经营一家媒体公司还很远。在光谱的另一端，他预计会出现一条并行的路线：完全由 AI 生成的小说和电影，或者由人类制片人居中参与生成的作品，包括专门为你一个人制作的电影。他并不完全相信这种东西能大规模出现。茶水间效应依然存在，人们仍然想找人类导演的作品，好有话题可聊。用老办法写成和拍成的书与电影，包括借助 Sudowrite 的那种老办法，都应该继续存在。阅读量在上升；即使身处 TikTok 的世界，书的销量也涨了。文化仍然需要一块可以让人聊起来的基石。

他把科幻当成一个元层面来看：技术人员读科幻，然后发布的产品，所依据的是40 或 50 年前写下的世界。要想象 30 年后的样子，他宁愿去读早年的吉布森或《三体》，也不愿刷 Twitter 上的演示。可控性仍停留在 iPhone 之前的水平。ChatGPT 或许是一个 iPhone 时刻，但他期待另一个时刻：到那时，系统能充分理解意图，创作不再像老虎机。有些人类应当留在回路里担任导演；他担心把人彻底移出回路，不过他并不与末日论者处在同一光谱上。Labenz 把赛博格主义（cyborgism）和 Neuralink 视为这一议程的近亲：与机器进行更高带宽的通信，比语言能捕捉的更接近内部心理状态。

录制前两三个月，Yu 在 Twitter 上发了一段大约九分钟的视频，展示 Sudowrite 的一次重大更新。单独看，Labenz 会说这是一次深思熟虑的实现。结果，Yu 一时间成了作家圈的头号公敌。这是他第一次被“取消”（cancel）。他仍然认可这段演示。如果要补充细微之处，那就是：它非常适合写初稿，但不是“一键写完整部小说”。这件事的分歧比反对 AI 要复杂得多。使用 Sudowrite 的独立作家，常常会告诉读者他们有一位 AI 助手，而那些读者会说：一年写 20 本吧，别只写 10 本，多给我一些。这个产品不是在真空里诞生的。他们与数百位小说家并肩工作，其中一些人拿到工具时喜极而泣。

他很清楚这根“高压线”。作家的报酬不够好；好莱坞正处在这场争斗之中，录制期间一项协议似乎就要达成。他说，作家应当为自己创作的作品获得公平的报酬，并且这个问题应当与他们使用的工具分开来谈。“我们不是出来取代作家的。我们是出来为作家造工具的。”使用方式的多样性，就像当年的 Photoshop 一样：有人生成整场戏，有人只拿来头脑风暴，一个字也不用。数字艺术当年也引来了同样的反弹；如今几乎没有人再问它算不算艺术。Sudowrite 还每周办一次课程，把产品使用技巧与提升创作能力结合在一起。Amit 和 Yu 都是小说作者，三年来从未转向。

更让他担心的，是作家社群里的一场猎巫行动：有人想把用了 AI 的人揪出来示众。他认为这只是一个过渡状态。Labenz 此前曾与三位编剧工会成员交谈，他们的问题是合同层面的：他们不希望把 AI 分派到附带报酬权利的角色上，只要拿到这份协议，他们似乎愿意继续尝试。Yu 对这场集体声讨的解读是，最关键的因素其实是 Twitter 本身。数据显示，几乎没有人看过前五秒之后的内容，而前五秒基本没有实质内容。转推，加上几个措辞够狠的账号，让他成了“AI 兄弟要抢写作饭碗”的典型靶子。他给其他开发者的建议是：Twitter 并不总是合适的渠道；不如让一位客户出镜，讲述真实的工作流程。发布照搬科技圈 Twitter 演示的套路，反而更容易被人从错误的表面去理解。

他们在 2021 年融过一轮小额资金。团队共七人，包括 Yu 在内，其中有四名开发者，四人中有三人是英语专业出身，本来就来自文学圈。从三月起他们就已经盈利，这让他们有余裕，能审慎地发展这项业务。风暴来袭时，第一反应是回复每一个人。他们埋头为那些提交功能请求的作家做产品。那个小小的屏幕对着他大喊大叫；他走出来之后更坚韧了，也更注意不要自己变成起哄者。他去找那些在进行细致讨论的人，并和他们交流。

付费用户几乎没注意到。有人在社群 Slack 里发帖，很多人问：等等，发生了什么？商业影响反而相反：那条推文正是他们盈利的部分原因。任何一场集体声讨里，都有一大群沉默的中间人：他们什么也不说，去看看产品，自己做判断。他们不发推。作为创始人，你听到的大多是那一小时里在线、怀着某种目的的人。

Labenz 自己的公司 Waymark 也经历过规模较小的病毒式走红，然后遇到了典型的 AI 应用难题：试用用户、不小的 Token 成本，以及那些只需要一个成果、用完就退订的人造成的流失。Yu 的回答是，这依然是一个 SaaS 问题。AI 公司仍然是创业公司。分发、流失、定价，以及用户会不会相互推荐，依然比 Twitter 上关于模型的讨论更重要。你不能在演示上撒一点 AI 亮片就一飞冲天。炫酷的 Twitter 演示与一门盈利的生意之间，差距巨大。要深入了解客户和所在领域，直到工具变得不可或缺。AI 的毛利可能更糟：想象一个数据库，每保存、每更新一行就收 30 美分。你必须比普通 SaaS 调整数据库成本时更仔细地调整上下文窗口，以及试用用户能获得多少次免费推理。

Sudowrite 一直坚持一种类似苹果的哲学：用最好、最新的模型，然后你为此多付一点钱。创始人应当自上而下地选定这一哲学，是走前沿路线、大批量路线，还是自备 API 密钥（BYOK），因为这决定了受众。他们的用户偏向每天都在用这个工具的职业作家，Yu 觉得这个领域更好做，因为你能为价值收费。他花在定价流程上的时间，仍然和花在未来感功能上的一样多。“这也不是火箭科学，但确实需要下功夫。”

Labenz 一直在传播一个设想中的“AI 打包套餐”：消费者每月大约付 100 美元，就能基础使用上千个应用；每个参与的开发者大约能分到 10 美分，同时仍可以卖高级套餐，也较少担心试用滥用和病毒式的流量冲击。若有 100 万订阅者，每年的保底收入大约是 100 万美元。Yu 对此感兴趣，但魔鬼在细节，关键是分成怎么分，而且受众对小说来说可能太分散了。他开玩笑说，这就是推理的有线电视套餐。他还期待这样一个世界：OpenAI 或 Claude 提供“用……登录”，让你的智能、提示词和设置能在各个应用之间通用。协调成本很高，他也不确定 OpenAI 有没有这个动力，但对消费者来说这会更好。Labenz 引用了 Sam Altman 的话：很多人以为他们想把自己的应用放进 ChatGPT 里，但他们真正想要的，是把 ChatGPT 放进自己的应用里。

说到多模态，Sudowrite 大概不会深入去做。他们有一个小小的“可视化”按钮，后端用的是 DALL·E；他们想留在文本、故事线编辑和故事理解上。之后的一个扩展方向，是把 Story Engine 作为后端，服务于需要清晰故事结构的其他应用，比如一个以 Midjourney 为前端的产品，能根据它的格式生成分镜。文本的问题比图像更棘手，也更需要作者的判断。他对一种编剧室设备感兴趣，它能看见便利贴、听见讨论；也对一个更简单的想法感兴趣：带着 AirPods 在旧金山散步两小时，边走边说，回到家就已经有一份由随意漫谈整理成的大纲。被问到哪个被大家忽略的工具值得推荐时，他不会说 ChatGPT。作为程序员，他一直在用 Cursor 改写选中的函数，做的事超出了 Copilot 能做的范围。为了塞尔达派对，他把 Midjourney 和 Pika Labs 结合起来做动态效果，用 DALL·E 把提示词丰富起来，再用 ChatGPT 生成一百条以整栋房子为范围、塞尔达主题的寻宝线索。