三名工程师，三周时间：Stripe 近半员工每周都在用的内部大语言模型（LLM）工具

Emily Glassberg Sands 是 Stripe 的信息负责人，她负责的范围包括数据科学、增长、机器学习基础设施、业务应用和企业技术。2021 年，CTO David Singleton 找她，请她负责数据科学，她于是加入了 Stripe。当时她对 Stripe 了解并不多，但她知道有数百万家企业在上面收款，这意味着能接触到这些企业以及相当大一部分经济的有趣数据。她认为，Stripe 不仅有能力帮助企业更有效地经营，还能弄清楚哪些干预真正能提升长期成功率，并在某些情况下亲自采取这些行动。

她现在身兼两职。第一职是让 Stripe 各处都能有效用好数据，从内部决策到数据驱动的产品都包括在内，其中既有机器学习基础设施和数据清理这类不起眼的工作，也有一批面向用户推出的生成式 AI 新尝试。第二职是自助服务业务：大量中小企业和初创公司来到网站，选择一种集成方式，并随着业务模式的需要，逐步用上发票、订阅、计费、税务或收入管理工具。Stripe 多年来一直在欺诈和风控领域使用传统机器学习。不过它首先是在为互联网搭建金融基础设施。

大语言模型成为热点时，Stripe 也和很多收听这档播客的公司一样，经历了一次“这到底要怎么办”的时刻。Sands 回忆说，她看着那些技术突破和产品发布，既惊叹，又有些不知所措。服务用户的机会显而易见，但具体是什么，以及怎样才能快速而安全地把它做起来，却并不清楚。故事的开端是三名工程师，他们用三周时间临时拼出了一个内部测试版，叫 LLM Explorer。它是一个类似 ChatGPT 的界面，面向 Stripe 的 7000 名员工，目的是让大家弄清楚如何把这些模型用到自己的工作中。

多年来，Patrick 和 John Collison 一直在守护一种自下而上做实验的文化。Sands 的团队认为，实验本来就会发生，因此希望它能做得又好又安全。Elad Gil 对企业采用大语言模型的情况做过一个分类，分为三类：外部产品、内部工具，以及 Intercom、Zendesk 这类厂商自行加入的 AI 功能。他说，大多数公司一开始都是先构想产品，最后收敛为一个内部工具，让员工先上手试用。Stripe 是有意沿着这条路走的。LLM Explorer 是位于多个后端模型之上的前端。它最初用的是 GPT-3.5 和 GPT-4，现在已经接入六个以上的模型。从一开始，它就内置了个人信息剥离和还原等安全功能。

他们建了一个 Slack 频道，还办了一场黑客松来造势，但其实并不需要。几天之内，Stripe 就有三分之一的人在用这个工具。日志显示，大家用它做的事五花八门，这让团队有机会把分享放进产品里，不必散落在私下的 Slack 讨论串中。上线不久，他们又加入了预设功能：保存并分享提示词，搜索、点赞，看看哪些内容会浮上来。一夜之间，就出现了约 300 种可以复用的交互模式。至今仍有数千名 Stripe 员工通过 Stripe 风格指南来修改文案，无论是撰写官网的产品营销人员、写冷邮件的销售开发代表，还是准备演讲话术的高管。每周活跃用户接近 3000 人，差一点就占到公司的一半，其中既有工程师，也有大量销售和营销人员。她认为，技术本身就能催生社区，让人们不必各自在私下重复写同一个提示词。

要从内部原型走到生产级系统，还需要第二种机制。机器学习加速器会为一到两个“披萨团队”划出专门资源，可以设立不止一个，用来孵化新的 AI 方向。LLM Explorer 本身就是从一个加速器里诞生的。否则，把三名工程师从 Radar 团队抽调出来去做一个 Explorer，几乎是不现实的。资金来自 Singleton 所在的 CTO 办公室：一个“披萨团队”、相对稳定的六个月预算、一份粗略的章程和里程碑，以及团队要边学习边迭代的期望。其他加速器则偏应用端，包括支持、面向用户和内部运营的智能体（Agent），并探讨即使市场上有第三方工具可买，能否自研一套方案覆盖多个内部应用。

这种人员安排方式，几乎和大规模扩招背道而驰。加入加速器的人，绝大多数都在 Stripe 工作了很多年。他们轮换进入，加速器也有可能成为他们的长期去处，不过这要由他们自己决定。公司把这套结构视为内部人才的一条成长路径。录制这期节目时，已经有四个这样的加速器；至于合适的数量是六个、八个还是十个，目前还没有定论。与此同时，团队还在帮助各垂直产品团队直接采用大语言模型。

在面向用户的应用里，Stripe 发现大语言模型有两方面的用处：自动生成代码，以及加快信息检索。Radar Assistant 和 Sigma Assistant 就是例子，两者都处于测试版阶段，并正在逐步扩大推出范围。Radar 是 Stripe 最早推出的非支付类产品之一，它是一套机器学习系统，在底层自动识别并拦截欺诈交易，无需用户指示。Radar for Fraud Teams 位于其之上，允许用户编写自定义规则，例如拦截来自你没有客户的国家的 IP 地址。过去，这些规则都要手工编码。现在，Radar Assistant 让人们用自然语言描述规则即可。

防欺诈，速度很关键。你必须比骗子跑得更快。借助这个助手，从欺诈分析师到技术背景较弱的人，一大批人都能快速实施规则，而不必经过开发人员。Guo 指出，这种模式可以迁移到其他场景。许多决策引擎本来就是启发式规则与机器学习的结合。能把明确的自然语言策略交给系统执行，并且少依赖工程师帮忙，这种能力同样适用于核保（underwriting）和其他决策，而不只是欺诈防控。Sands 又从另一个角度补充道：对一些客户来说，这意味着能使用自定义 Radar 规则的员工范围扩大了；对很多小企业来说，这还是它们第一次能用上这类方案。它们一开始就是靠支付链接和托管发票接入 Stripe 的，手边没有开发人员，也根本不会想到去编写欺诈规则的代码。正是自然语言让这个工具触手可及。她说，这种普惠的效果，与 Stripe 创立时的理念是一致的。

Sigma Assistant 在另一个场景里用了同样的思路。Sigma 是 Stripe 基于 SQL 的报表产品。对大多数用户来说，其中的数据几乎就是他们的全部收入情况：哪些客户、在哪里、买了什么、花了多少钱、谁留存、谁流失，这些都是许多公司决策背后的依据。有了这个助手，员工就不必会写 SQL，直接用自然语言提问即可。测试用户的问题已经五花八门，从“我们 12 月产生了多少收入”，到“哪类客户的付款往往最拖延”。计划在当年稍晚时候扩大推出范围。

把视野拉远到未来三到五年，Sands 认为，这个问题的规模远比一家金融科技公司一年内能推出的东西要大。把生成式 AI 应用到整个经济体，究竟意味着什么？可以从支付优化入手。Stripe 在前端和后端都已经在这方面做了工作。模型的渐进式改进，仍在逐季带来可观的基点提升。她并不觉得，基于金融数据的基础模型比传统方法高出 100 到 200 个基点是什么离谱的事。接下来的问题更进一步：Stripe 能否成为用户的“经济操作系统”？例如：提供洞察和建议的仪表盘；提供客户层面预测的 API；以及自动运行的定价、推荐和折扣。Stripe 已经把支付、退款和争议处理抽象化了。更高阶的任务，比如用户的价值、合适的价格、地域策略，可能是下一步。从宏观层面看，CPI 和小企业指数有参考价值，但都滞后。实时支付数据或许能加快洞察和响应的速度。

探索开始一年后，运作模式依然在不断迭代。现在是四个团队，也可能是六个、八个或十个，外加对垂直团队的支持。她所提到的北极星目标始终如一：让非技术用户做到以前做不到的事，同时让技术用户的速度快一个数量级，主要途径是自动化代码编写和加快信息检索。这些工作既来自现有的垂直团队，也来自各个加速器。

Explorer 很快就被改造成一个内部 API，让 Stripe 员工能以程序化、安全的方式构建生产系统。目前有 60 个应用依托于它，其中一部分是内部应用，少数是对外应用，而这些早期尝试后来成为公司加大投入的产品项目。不同用例有各自的默认模型，但各团队在成本、延迟和性能上仍有自主权。最昂贵的应用会向相应的本地团队计费，中央团队则与他们一起关注单位经济效益、质量、规模和延迟。集中管理企业协议和基础设施，换来了规模经济。这套做法并不强制统一。在自建还是外购的问题上，市场上有好产品的地方，他们会把外部工具组合起来用，比如用 Flyte 和 Weights & Biases 做训练类的追踪；而需求独特的地方，他们就自己做。交易级（charge-level）实验平台是内部自建的，因为在这一粒度上，对延迟和可靠性的要求太高，市场上的产品达不到。

撇开 Stripe 不谈，被问及金融科技 AI 最大的空白在哪里时，Sands 给出了三个方向。第一是商户身份识别，也就是这家企业是做什么的、卖什么，以及在复杂的监管环境中，是否符合卡组织或 BIN 赞助方的规则。这是一个既难又有价值的问题，不仅对市场拓展很重要，对信用评估、可支持性和网络接入同样关键。第二个方向是集成。Stripe 已经有支付链接这类无代码产品，大语言模型也能写代码，但在决策日益复杂的情况下，如果没有一支支付工程师团队，要构建稳健、面向特定用户的金融集成，仍然有大量工作要做。第三个方向，是在支付数据之上搭建一个层，它不仅能让支付运转得更好，还能帮助企业自身成长。她指出，Stripe 的利益是一致的：用户成长，Stripe 就成长，经济也随之成长。

这一数据层不只是构想。Radar 就是一个明显的例子。终端用户可能会注意到的，是优化结账套件：一组前端支付优化功能，包括按照对该客户最相关的顺序动态展示支付方式。她说，这些小细节积累起来，会体现在转化率和商户收入上。不太显眼的，是大量后端优化。Stripe 用机器学习调整发给发卡行的授权请求，找出重试提示和路由的组合，从而挽回了约 10% 的误拒交易，全球范围内规模达数十亿美元。所谓误拒，就是好的交易被当成可疑交易而遭到拒绝，既损失了收入，也惹恼了客户。

类似的手法也出现在其他产品中。在计费的周期性扣款中，智能重试会找出失败付款（例如因余额不足而失败）的最佳重试日期和时间，并把拒付率降低约 30%。Radar 会考量一笔交易的上千个特征，并在 100 毫秒以内判断，Stripe 上数十亿笔合法支付中的每一笔能否放行。转化、授权、欺诈防控和成本优化，都是数据规模能带来更好终端用户体验、更多业务收入和更大互联网经济的领域。

Stripe 确实掌握了经济走向的丰富信息，并用它指导内部决策。至于这类信息的一个版本，即比 CPI 或小企业指数早六个月的数据，能否开放给用户，仍是一个处于早期的开放问题。它既属于宏观层面的“经济操作系统”构想，也属于微观层面。这些信号不会导致招聘规模忽大忽小。平均而言，新增 10 人还是 1000 人，与宏观环境的关系并不大，更多取决于 Stripe 在哪里看到了服务用户的机会。眼下这一波 AI 创业公司就是例子。它们的需求与之前几波有根本不同，这就引出一个问题：现在该在哪里投入，才能抢在需求之前布局。

Sands 的职业生涯贯穿着一条主线：先在学界，后到业界，始终用数据去理解个人和企业如何做决策，并让这些决策变得更好。大学期间，她在纽约认识了一位剧作家，对方告诉她，美国舞台上的剧目中，由女性创作的不到五分之一，并请她帮忙分析原因。几位出色的剧作家捐出了四部从未公开过的剧本。Sands 把这些剧本寄给了数百家剧院，只替换笔名，分别署名 Mary Walker 或 Michael Walker。同一个剧本，如果被说成是女性作者所写，被搬上舞台的可能性就更小。更重要的是，剧院界是在乎的，他们想把最好的剧目搬上舞台。这项研究引起了关注，也带来了改变。如今，美国舞台上一半的剧目出自女性之手。正是这段经历，让她攻读了经济学博士学位，也让她在 Coursera 只有 40 人时离开学界加入了这家公司；而 Stripe 习惯于在自身生态中扮演善意的角色，这一点也吸引了她。

她在 Coursera 工作了约八年，从一名普通的个人贡献者，成长为负责整个数据团队的领导者。最早的产品都是显而易见的方向：个性化发现、个性化学习体验，以及更具规模化能力的教学。团队很快转向了劳动力市场，利用教育数据帮助学习者和企业衡量并弥补技能缺口，让人们进入合适的岗位。她说，人们接受教育有两个原因：培养技能，以及让这些技能在劳动力市场上获得回报。AI 可以为基础学习提供定制化内容，把高质量的教学带到那些原本得不到它的地方。教育的第二项作用，是证明这段学习、获得资格认证，这同样重要。在世界经济论坛的工作中，她推动用数据让技能更多地成为劳动力市场的“货币”。Coursera 的企业产品也朝这个方向发展。她认为，最公平的做法是衡量技能。这并不能替代更好的教学，它所承认的是个人真正需要从教育中获得什么。

Stripe 是伴随着一波波创业者成长起来的：市场平台和社交平台、早期的 DoorDash、Instacart、Postmates、Twilio，然后是 SaaS，如今是 AI。Sands 指出了这一波的四个不同之处。第一，AI 创业公司一开始就有高昂的算力成本，这迫使它们更快地建立变现引擎。第二，需求从第一天起就是全球性的，比如数字艺术、音乐，以及其他没有国界的产品，它们希望立即跨境提供。第三，面向消费者的 AI 很大程度上依赖订阅。第四，由于它们变现得更早，精干的团队就得比准备好的时候更早地像真正的企业一样管理财务，这也是 Stripe 的收入与财务自动化套件正在被采用的原因。Gil 把这种情况与 1970 年代的四年股权归属相比，当时公司四年就能上市；他也把它与雅虎、eBay 这样的早期互联网公司相比，这些公司几年内就实现了盈利。他认为，快速变现，正是产品与市场契合，加上被压抑已久的需求释放出来后的样子。

Stripe 自己的数据印证了这种激增的感觉。过去一年里，平台上的生成式 AI 公司数量出现了巨大增长，从大多数听众都没听说过的两人团队，到拥有数百万用户、超大规模扩张的创业公司，比如 Otter.ai 和 Midjourney。看看 Forbes 上一年的前 50 家 AI 公司榜单，其中过半数都在用 Stripe。很多顶尖创业公司往往还没有真正开始变现。这里引人注目的是，有相当一部分公司变现早、速度快，既包括基础模型层的 OpenAI 和 Mistral，也包括应用层的写作工具 Moonbeam 和视频剪辑工具 Runway。她说，这相当了不起。