两天做出原型：a16z 如何把一篇斯坦福论文变成 AI Town

Nathan Labenz 在这一期 Cognitive Revolution 节目的开场，就抛出了一个贯穿全场的问题：一个学术界的 AI 想法，要多快才能变成你真正能点开的东西？他的嘉宾是 Yoko Li 和 Martin Casado，两人都是 a16z 的合伙人，专注于基础设施与 AI；还有 Convex 的首席技术官 James Cowling。Convex 是一个 TypeScript 开发平台，a16z 曾对其投资。他们一起推出了 AI Town，这是一个开源模拟项目：由语言模型驱动的智能体在虚拟地图上行走、相互交谈、制定计划。它的实现参照了斯坦福的论文《Generative Agents》，其记忆设计把原始的观察记忆，与随时间生成的更高层次的反思结合在一起。

Labenz 原以为，这个项目一定符合 a16z 关于模拟世界的某种投资逻辑。他后来了解到，事情比这更随性。像 Convex 这样的现代平台，已经让这类软件变得非常容易搭建，以至于学术研究如今几个月、几周，甚至几天就能出现在应用里。AI Town 运行在一个共享的运行时之上，它处理大量的大语言模型（LLM）API 调用和其他异步事件，正是这些让小镇显得有生气。代码采用 MIT 许可证，任何人都可以复刻（fork）。

他认为速度之所以重要，是因为周围的文化已经先变了。大语言模型通过图灵测试，距今约有一年；人们在 Character.AI 上每天要花好几个小时，那里排第一的用途是恋爱向的角色扮演。Inflection 的 Pi 上线头一百天，和用户之间的消息往来达到 10 亿条，等于每天约 1000 万条。语音合成和视频深度伪造也越来越难分辨真假，所以像 AI Town 这样门槛低的模拟框架，让大量由 AI 充当居民的世界看上去近乎必然。这种影响往往带来益处，有时也会带来害处。

Labenz 问，a16z 为什么要为由智能体居住的模拟打地基。Casado 说，这家公司有两个习惯。第一，合伙人都是实干者：软件开发者、创始人，做过产品的人；第二，共识本身被视为一种风险，因此公司专门去找共识还很少的地方。他提到了 Netscape。浏览器刚出现时，它被视为孩子们聊天和玩游戏的东西；当时任 Sun 首席技术官的 Eric Schmidt 在公司内部禁止使用它，因为他认为这会让人无心工作。成熟的行业往往对每一波新浪潮都不以为意，直到边缘地带出现某种有创造力的东西。

Casado 特别补充说，AI Town 本身并不是公司的正式项目，它最初是 Li 的个人爱好。在 a16z，大家会在周末和夜里写自己的项目。她之前做的是 Companion App：一个实验，把 AI 当作可以谈心、可以向它学习、可以与之共处的对象。她创造了好几个性格各异的角色。其中一个叫 Alice，她常常在自己为大家做的那款应用里，不停地给 Alice 发消息，那款应用本是她为大家做来玩的。

Casado 接着点出了笑点：Li 对 Alice 太投入了，竟不希望别人跟她说话，于是把 Alice 从应用里拿了出来。之后她又做了一个男性版本，名叫 Alex。她自己用这款产品时发现，同伴之所以“活”起来，靠的是真实朋友身上也会有的那些细枝末节，比如喜欢健怡可乐还是普通可乐，再加上一套真正记得每一次互动的记忆系统。上线之后，社区又提出了新的问题：AI 能不能加入群聊？跟它们玩游戏，又会发生什么？

就在这时，Li 开始寻找一个共享环境，让同伴们能彼此交谈，也能与人交谈。她和同样是程序员的丈夫用一个周末，在 Phaser 里赶出了一个客户端原型，实现的是斯坦福那项生成式智能体研究，该论文的第一作者是 Joon Sung Park。单人玩法已经很有意思，接下来的问题则是多人联机，以及如何让其他人复刻这座小镇并运行自己的版本。Casado、Cowling 和 Convex 团队纷纷加入进来，最终他们以 MIT 许可证将成果开源，任何人都可以复刻，包括用于商业项目。

Cowling 聊播客时总会谈到简单。他希望大家去读 AI Town 的源码：这些想法并不复杂，但很精巧。记忆就是一份对话日志；系统每隔一段时间，就让 OpenAI 把这份日志总结成更高层次的反思；随后，向量检索再把这些记忆送入后续的提示词。他说，简单并不等于容易想到，他把抽象设计的功劳归给 Li 和团队。这个项目的内核只做了几件基本的事，最终得到的效果，看起来却像是涌现出来的群体行为。

他补充说，这些模型在某种意义上确实是一种生命形式。他有一次漏掉了字符串上的引号，结果误把一段代码当成对话交给了模型，然后看着它开始评论他的代码。二十年前，他靠做游戏挣学费，每一种行为都是算法：角色如何从 A 点走到 B 点，全靠一棵巨大的 if-else 决策树。如今，模型成了大脑：你告诉它去哪里、如何互动，它就自己完成。但这一点并没有改变对事务、全局状态、多用户机制和强保证的需求。Convex 正是在这里派上用场的。

Convex 是一个全栈平台，由运营过超大规模基础设施的人打造，目的是让前端开发者也能写出工业级强度的 TypeScript 应用。Cowling 的推介思路是：很多 AI 应用都有一个好想法，比如获取一些向量嵌入、再去检索，而真正的难点是搭建应用的其余部分。Li 最初的原型把全部逻辑都放在浏览器里，这没法运行一个多人联机的世界。开发者布道师 Ian Macartney 帮他们把它改造成了服务端游戏引擎：每个游戏引擎本质上都是一个循环，而 Convex 的数据库在底层负责事务和日志。Li 的结论是，现在任何人都能写一个游戏引擎了。明天你就可以把仓库复刻成“Cat Town”，再加上几个循环，剩下的就交给平台去处理。

屏幕上看到的是一个带房屋和角色的虚拟关卡，每个角色都是一个前端，背后连着一个带有背景故事的模型：Bob 是个脾气暴躁、不爱跟人打交道的园丁；Paul 有一些藏着的秘密，时不时会露出一点。他们四处走动，走近时就开始交谈。所有对话都不是写死在代码里的。Labenz 向习惯 Python 笔记本的人指出了架构上的转变：共享运行时意味着，一次缓慢的推理不会让整个小镇冻结。Li 想要的是一个最大公约数：前后端使用同一种语言，也就是 TypeScript（2015 年以来），因为 Python 在笔记本里很好用，而真正部署上线的是 JavaScript。AI Town 大部分是在两周内完成的，原型本身用了两天。看看 OpenAI 的调用位置，就会发现通用语是一句普通的英文句子。

Labenz 问，程序员在哪里结束、模型从哪里开始，语言之争是不是终于可以结束了。Casado 承认，模型已经强到这种程度：围绕它们去写代码，感觉就像给超级计算机套上一个算盘。他有一部分想法是，干脆给它们一套键盘、一台显示器和一只鼠标，直接用英文告诉它们该做什么。接着，他提出一个他自己也知道有争议的观点：他不认为这些模型会取代形式化语言。凡是关于在世界中导航、与物体交互、做出决策的事，都可以放手交给模型。但在分布式系统里生成那些权衡可扩展性与正确性的代码，并非它们的设计初衷。

Casado 第一次见到 Cowling 时，Cowling 还是麻省理工学院的博士生，研究的是数据库和分布式系统，那是世界上最复杂的系统之一。Casado 说，这类工作需要一个形式化的系统，让你能把为了扩展所做的权衡清楚地表述出来。他不确定那条界线究竟划在哪里，但他喜欢用物理定律来打比方：你需要一种形式化语言来制定这些定律，然后模型在这些定律之内工作。两者不会互相取代。你永远不会写出一个变成模型的程序，模型也永远不会去制定物理定律，因为你需要强有力的保证。

Cowling 大量借助 AI 辅助编程，尤其是在接手一个陌生代码库或陌生语言时，他一点也没有感到威胁。凡是能让软件工程师意识到，他们的工作在于思考，并非敲代码，都是好事。判断力、架构品味和常识依然有用武之地，也没有人会因此放弃数据库这个概念。Labenz 认同这种把模型当作工具来使用的框架：他要的是语言模型去使用他的数据库，语言模型本身不必充当数据库。Cowling 用烤蛋糕来打比方。即使你是厨师，也不会自己去种麦子、磨面粉。抽象层会不断抬高，应用开发者应该尽量少做底层的事，好把精力放在让产品与众不同的地方。

随后，Casado 点出了整场争论背后的规则。程序中存在一个不会变小的最低复杂度，那就是精确地描述你想要什么，也就是一组权衡取舍。你可以用形式化语言来写这些权衡，输出没有歧义；也可以用自然语言来写，但自然语言会有歧义。众所周知，自然语言是有歧义的：一条狗给我叼来一个球，我把它踢了，你就分不清被踢的到底是狗还是球。没有内在复杂度或权衡的代码，可以交给模型。凡是需要清楚描述自己想要什么的地方，仍然需要形式化语言。工作的世界是无限的，所以要写的代码也仍然是无限的。只不过，你不必再把同一段代码粘贴第五十次了。

Li 在自己的开发方式上也感受到了同样的转变。过去她写小游戏时，会把游戏状态硬编码进手边的任何逻辑里。现在，如果某一层状态不需要事务系统那种权衡，她就可以把控制权交还给模型，让它去做一些神奇、不同而且不可预测的事情。这种不可预测性本身就是特性。用户喜欢 AI Town 的地方，正是他们很难说清接下来会发生什么，这会给他们带来一阵多巴胺般的快感。她提到 a16z 的投资组合公司 Ideogram：输入一句话，就能得到一张漂亮的图片，而且图片上还带着真正的文字，每一次生成都让你想再按一次按钮。

她说，这门手艺的关键在于找到那个旋钮。在你承受不起意外的地方，要牢牢掌控：服务器不能宕机，事务不能失败；而在你想看到与你定义并不完全一致的东西的地方，就放松那一层。Labenz 把共享的 Convex 运行时描述为：庞大、弥散的语言模型智能与严谨计算之间的接口，是一个定义明确的地方，用来保存状态、执行事务，同时让人和模型互动。Casado 用一个书柜来说明同样的道理。如果他请 Cowling 来家里组装一个书柜，他会希望说明书用形式化语言写成，免得出一点差错。自然语言不适合干这件事。AI Town 这类系统的好处在于，你两者兼得：形式化的物理定律，以及不断给你惊喜的创造性元素。

Cowling 借用了建筑行业的一个概念，他称之为“复合近似”。在一个严肃的工程项目中，轴承必须放在精确的位置上；而在某个时间到岗，则可以是近似的。应用开发者也应该用同样的方式来划分系统。凡是需要 `fsync` 真正写入磁盘的地方，就用正式规范的平台、一条 if 语句、一个代码块。凡是近似答案就很好的地方，就用模型，何乐而不为？AI Town 的某个复刻版本加入了真人玩家，他们可以四处走动，和智能体聊天。任何托管这个演示的公司，首先担心的都是攻击性内容。几年前，答案大概只能是关键词匹配，既麻烦又不管用。现在，你可以直接问模型这条消息是否得体，它的表现相当不错。

Li 坚持说，从来就没有什么战略文件。他们是一群程序员，觉得周末做这个会很好玩，于是就一直做下去了。如果你加入 Discord，会发现 Casado 晚上就在那里写下一个功能：一个可视化编辑器，让任何人都能拖放图块、布置一座小镇，之后还能在上面运行智能体。他们希望有更多集成、更多待合并的 PR（Pull Request），也希望有更多彼此从未见过面的人，一起为同一座小镇出力。它是开源的，她说，这正是它的妙处。

被问到人们按下 fork 按钮时心里应该装着什么，Li 提到了 Emily St. John Mandel 的小说《宁静的海》，这位作者也写过《Station Eleven》。她不剧透，她从中得到的启发是：我们或许生活在一个模拟之中，而这并不会让模拟变得不那么真实。你在那个世界里做过的事，以及你倾注其中的情感，依然是真实的经历。她心里认为，每个人都应该拥有一个自己运行的世界，一个倾注热情、经历、记忆和互动的地方。至少对她来说，AI Town 的目标，就是让任何人都能复刻自己的世界、加以定制并去探索。也许有一天，那个世界里的智能体会创造出另一个模拟。谁知道呢。

Labenz 已经能看到它的好处：比如一个语言学习环境，你可以用西班牙语参加一场虚拟派对，把生疏的口语捡回来。他也看到有人沉迷其中，逐渐忘了日常生活。游戏很快就会变得更容易让人迷失其中，哪怕只是一个随手做的业余项目，也正走在通往企业的路上，而这些企业必须认真对待这一点。他希望给那些匆忙做模拟的开发者一些建议，尤其是打算把它们做成产品的人。

Casado 的回答是把镜头拉远。这些模型是人类运行过的最大规模的计算任务，也是我们创造过的最复杂的东西。直接与其中一个交互，只是一种交互方式；而当你身处回路之中时，你就成了限制因素，因为人并没有那么有创造力。让模型彼此交互，也与世界交互，它们覆盖的状态空间，可能比宇宙中的原子数量还要多。现在就去预设会有哪些应用，还为时过早，就像互联网刚诞生时，没有人知道亚马逊或雅虎会是什么样子一样。他的建议是，把这看作对一种新生命形式的探索。抱着开放的心态去接触。它们不会杀你，它们也不会互相残杀；而我们几乎是在预先扼杀自己面对前所未见之物时的惊奇能力。

Cowling 也落在同样的早期判断上。从很多方面看，这都是一片“蛮荒西部”，能够亲眼看着想法萌芽、并亲身参与其中，是非常有意思的时代。Li 半开玩笑地说，你也该出去晒晒太阳，然后对“上瘾”的担忧提出了不同看法。这取决于你怎么理解游戏。她是一位兼职漫画家；对她来说，用数位板画画也是一种游戏，她很容易就沉浸其中。电视刚出现的时候，人们说它会毁掉所有人。小说普及的时候，人们说读者会陷入另一个世界，再也无心思考别的事。游戏并不是非此即彼的。它就是一种不同的体验，就像生活中的任何其他经历一样，各有不同。

Casado 最后重申了所有权的安排。AI Town 是一个社区项目，并不由他们三人独占。它最重要的目的，是激励人们去动手做。他们会继续改进它、简化技术栈，并让它更容易被复刻。他说，如果听众听完这一期节目后，受到启发去发布一个应用，并亲自去验证，那就是一个极好的结果。