30 秒看懂
Glen Coates 是 Shopify 的核心产品副总裁,也是 B2B 批发平台 Handshake 的前创始人。他与 Sarah Guo 和 Elad Gil 对谈,讨论这家已经占到美国电商约 10% 份额的公司,如何在把 AI 交到商家手里的同时,重建商品数据模型和搜索。Shopify Magic 的工作规则很明确:模型可以提议文案、回复和属性,但最终仍需要人点击保存。Coates 更大的押注是:一位熟悉每个开关的副驾,能让更多人真正开始创业,而不是被后台挡在门外。
- 1同一层的重复建设,会永远拖累上层的每个团队,而且只有最上面的两三个界面拿到新功能时,客户也跟着买单。
- 2Shopify 的 AI 任务在于:让世界上有更多人真正获得创业的机会。它要做的,远不止把后台界面修得更好看。
- 3Coates 为 Shopify Magic 定下的发布规则是:功能可以提出修改建议,但不能直接落地。必须由人读完草稿,再点击保存。
- 4结构化的商品数据,绝不只是后台的小优化分类、颜色和材质,能让商家在谷歌、Facebook 和亚马逊上更容易被找到,排名因此更靠前,赚的钱也更多。
- 5如果 Rabbit 押注的以图形界面(GUI)而非 API 驱动软件这条路真的奏效,Coates 认为其战略意义显而易见:世界上最大的应用商店就是网页本身。
- 6有用的搜索系统,必须同时应对两种截然不同的查询。这双鞋是不是 Nike,是事实问题;这本书适不适合六岁女孩,是观点问题。
按章节阅读完整文稿
Shopify 一直让被收购来的创始人执掌产品
Glen Coates 进入 Shopify 走的是一条弯路。他是计算机科学专业的毕业生,职业生涯早期在电子游戏行业工作,2008 年突然拐了个大弯,搬到圣地亚哥,负责一家环保购物袋公司的美国业务,那是一种自带购物袋的生意。这家公司大量批发销售购物袋,正是批发的工作流程给了他创办 Handshake 的想法:先做一个给销售代表用的 B2B 订单工具,再为买家自己做一个店面。在纽约干了将近九年后,用他的话说,Handshake 已经成了只做批发的 Shopify。
收购于 2019 年完成。Coates 用大约一年时间做 B2B 和批发业务,这正是这笔交易的初衷。到录制节目的那个 5 月,他在公司已快满五年。2020 年是疫情的第一年,他被调去负责结账功能的“Code Red”(红色警报)。那场救火结束后,他一直负责核心产品组:在线店铺、结账、后台、开发者平台,以及应用商店(App Store),其中也包括主持人想聊的那些 AI 产品。
他解释说,Code Red 并非比喻。Tobi Lütke 会给全公司发邮件,宣布某件事是第一优先级,而且在执行上也是字面意义的:如果负责这个项目的团队来求助,你就得放下手头的事。2020 年,结账功能出了三四五种不同的故障。高峰期,有两三百人围绕问题的各个部分忙了整整一年。救火结束后,Lütke 问了一个更有用的问题:Shopify 怎么会走到这种地步,让这些故障有机会首先发生?
答案指向组织架构。Shopify 原本有十二到十五个规模小、彼此割裂的业务单元;重组之后变成三四个,更接近产品的真实形态,但每个单元都大得多,领导方式也必须不同。Elad Gil 注意到这支领导班子有个不寻常之处:Shopify 管理层里,有很大一部分人是以创始人的身份被收购进来的。Coates 在下一层级也看到同样的模式:有九到十个人直接向他汇报,每人负责一个两百人左右的研发组织,而其中同样有很高比例是创始人。他把这种文化追溯到 Lütke,后者已经不再回避为公司指明方向。Coates 转述 CEO 的逻辑:如果说 Lütke 擅长什么,那就是立场极其鲜明;而在互联网电商领域,他的判断准确率足够高,因此果断本身就能加速公司的发展。以前做过创始人的人能体会“最终责任在你”的那种感觉,并借此推动团队冲破“委员会式设计”带来的僵局,那种僵局扼杀了很多公司。
第二套结账引擎,是压在上层每个团队身上的长期税
Gil 的第二个问题,是收购公司的另一面:买来的技术要怎么处理?Meta 很长时间里都让 WhatsApp 保持独立。谷歌曾经花了一年半时间做身份识别层,而其他团队几乎没有发布任何东西。Coates 的思路是工程师式的:看清技术栈,同一层里不允许出现重复。陷阱在于,你往往要过很久才会发现,两样东西其实处在同一层。
Shopify 的结账本质上是一台协商引擎。它接收购物车,套用店铺的业务规则,再把这些转化为一笔销售协议,其中包括税费、关税和运费。旁边又长出了一些相关工具:开票,以及下单后修改订单。这些项目通常一开始都很小。比如,一位顾客打电话说忘了输入折扣码,于是有人立项,给已有订单加上折扣。接着,同一个界面又学会了修改运费,然后是添加购物者忘记买的商品。几年后,团队回过头来才发现,自己已经把结账功能重新做了一遍。
这笔成本会立刻体现在别人的路线图上。一个团队要增加国际定价功能,就得同时把它嵌进结账、订单修改和开票这三处。本该一个月完成的活,要做六个月,因为底层本该只有一个东西,结果却有五个。把这五个合并回一个,是正确的答案;但 Coates 说,这也像在有人住的房子里重修地基,总不能让所有人都先搬出去。
真正的解决之道有两个习惯。第一,要对自己何时在无意中制造了重复,形成非常敏锐的直觉,这样就不会陷进去。第二,一旦发现自己已经造成了重复,就要咬牙吃下这口苦药,把副本合并掉,因为否则那一层之上的每个团队都会永远为这种重复买单。付出代价的不只是研发部门。多数团队会只实现最重要的两三个界面,跳过第四和第五个,于是依赖这些路径的商家,会遇到一个看上去一样、行为却不一样的东西。他们掀开表层一看,才发现底层乱成一团。
AI 的作用,是给车配上一位早就熟悉每个开关的司机
Shopify 是较早采用 AI 的公司,Gil 把这归功于公司里坐着一位技术敏锐的创始人。Coates 说,过去十二个月,团队一直在找不同模型究竟适用于哪些场景。照他的说法,公司的使命是赋能创业者:让创业和经营企业变得简单,使更多原本迈不过那道坎的人,有机会去尝试。过去的做法是,软件一开始很简单,随着生意做大,再逐步展现出复杂的功能。他指出,失败公司的墓地里,埋满了同时想服务小企业和大企业的公司。既简单又强大,是 Shopify 面临的难题。
老办法是命令式的。Shopify 过去靠给商家提供最好用的开关,并在合适的时机把这些开关展示出来而赢得市场,但最终还是要商家自己去拨动。AI 打开了另一种可能:给车配一位司机,让他熟悉所有开关怎么用。即便开关本身很好,很多人一想到要学会后台管理,还是望而却步。他们可以跟 copilot(副驾)说明想做什么,只是自己动手做不了。Coates 说,这是一个极好的机会,能让真正有机会起步的创业者越来越多。
这样的小例子不胜枚举。有多少人因为不是文案高手,写商品描述就卡壳,觉得连自己的蜡烛都描述不好,结果迟迟按不下那个醒目的绿色上架按钮?Shopify Magic 和 Sidekick 的上线速度,比很多大公司都快。Sarah Guo 提出了那些公司普遍卡住的问题:输出是非确定性的,老办法的质量流程用不上了,那么该怎么判断某个东西已经好到可以发布?
Coates 目前奉行的原则是:每个 Shopify Magic 功能都可以提出修改建议,但不能直接落地。他说,如果置信区间足够高,这个原则可能会改。模型可以生成文字,但在商家读过并保存之前,它不会真正存下来。它可以根据对店铺的了解,起草一条对“你们的运费政策是什么?”的回复,但商家仍要亲手按下回车。人类在环中,既是风险控制,也是训练信号。每一条建议都会产生一个三类反馈的闭环:原样采纳、稍作修改后采纳,或者直接拒绝。在创始人的意义上,Lütke、首席运营官 Kaz Nejatian 和 Coates 都相当敢于冒险,太安全了,他们就会觉得无聊。他们不会越过的底线,是伤害商家的生意。他们愿意把风险扛到 Shopify 自己身上,同时在商店前面保留“必须由人点击保存”的关卡。一两年后,如果某个商家有 99% 的建议都不经修改就被采纳,产品或许会提供完全自动的模式。他们现在还没到那一步。从这里就能看出逐步爬坡的走向。
商品数据模型那次枯燥的重写,才是解锁 AI 功能的关键
被问到 Shopify Editions 里最酷的是什么,Coates 没有先谈图像生成。他先谈的是地基,并先声明自己是个电商迷。Shopify 最核心的数据模型是商品,十来年间几乎没有什么变化。他认为,靠一个相当简单的模型做到美国电商约 10% 的份额,已经非常了不起。但商品目录一复杂就暴露出弱点:选项很多,颜色和尺码也很多,Shopify 就开始吃力。他们正在更新这个模型,以支持数量大得多的变体。
这次重写之所以这么难,是因为典型的平台税。变体数量庞大,迫使 API 从不分页改为分页,这对整个应用生态都是破坏性变更,而破坏性变更很难处理。除了变体数量,他们还嵌入了一套标准商品分类体系,包含标准的类别和属性。商家创建一件 T 恤时,Shopify 会自动识别类别,然后用 AI 猜测属性值:根据上传的图片判断是绿色和黄色,根据描述判断是棉质。
这些结构化元数据首先有助于商家自己店铺内的搜索。更重要的是,当同样的商品被推送到谷歌、Facebook 和亚马逊时,额外的结构让它们更容易被找到。Coates 说,这会带来更靠前的排名和更多的收入。数据模型做对了,数据质量保持在高水平,效果就会在真实生意的漏斗前端显现出来。Editions 还推出了 AI 图片编辑的第一版,商家可以替换背景,无需昂贵的拍摄,就能把商品照片拍到专业水准。他说,Shopify 的很大一部分工作,是帮助像他妈妈那样在家做生意的人,看起来和全球最大的公司一样专业。
然后是搜索,这对他来说很有切身感受。他最近才知道 LBD 是小黑裙的意思。如今 Shopify 的搜索仍然是非常字面的关键词匹配。他有一段内部视频,记录的是他在自己真正会光顾的一家店里气得不行的样子:他搜“sweater”(毛衣),商品目录里只有“sweatshirt”(卫衣),结果为零。“到 2023 年了,这种情况怎么可能还存在?”他对公司这样说。语义搜索就是解决办法。即使商品标题里没有 LBD 这几个字,搜它也应该能找到。搜“Christmas themed shoes”(圣诞主题的鞋子),团队给他看的结果是返回了红绿相间的鞋。“适合去婚礼穿的东西”或“适合去海边穿的东西”,过去都搜不出来,除非商家在描述里写过这些词,而商家几乎从不这么写。他的标准很简单:一家小店的搜索,凭什么不能和谷歌一样聪明?
底层的工作并不光鲜。团队要组装数据集、做微调,并按品类挑选嵌入模型,因为服装、时尚、礼品和家居用品的表现各不相同。近两三个月出现的多模态模型,让他们得以试验:文字描述、图片和分类属性各应该占多大权重。他们还在摸索这个比例。Guo 指出,视觉模型意味着,原本就存放在商品照片里的大量信息,终于可以变成文字,并与商家的其他信息汇到一起。对买家来说,“婚礼上穿的东西”这种搜索真正能用,是件很痛快的事。对于一个经营了五年、有 10000 件商品的商家来说,要求它给每个 SKU 补填五个属性,简直是噩梦。一个能做出 90% 正确率猜测的模型,正是把这些商品目录一路带到今天的办法。
Sidekick 的最后 5%,是未来五年的技术
对 Shopify 而言,完美的 AI 世界还缺什么?Coates 指出的,是所有搭建智能体(agent)的人都有过的那种感受。一个类 Sidekick 的大语言模型(LLM)智能体,十分钟内能做到约 75%,再往上冲到 95%,就是一段艰难的爬坡。前半程让黑客着迷,后半程才是真正的工作。“剩下的 5%,我看是未来五年的技术。”他说。
他谈起幻觉时几乎是乐观的。当有人抱怨大语言模型在产生幻觉,他的回应是:幻觉本来就是这份工作的一部分。模型每输出一个 token,都是在产生幻觉,只不过你更喜欢其中一些幻觉而已。Sidekick 这个名字就是产品定位。它应该让人感觉像是旅途中的同伴、教练或助手,像一个或许已经看过这部电影的人。从 75% 到 95%,正是他们目前所处的过程。
在 Shopify 这边,他们不断改进训练集,并收集更多带有用户反馈的对话,来把产品打磨到位。每隔几周就会出现新模型,他们可以用同样的训练集和评测,或许能获得一次阶跃式的提升。创新同时发生在研发团队内部和外部,Coates 说,你永远不知道每周会带来什么。Guo 补充了外部视角:嵌入模型越来越好,人们正在开发合成数据工具,以及覆盖整条 RAG 流水线的工具,因此从演示走向正式产品的阵痛应该会减轻。她指望 Shopify 保持在技术前沿。Coates 说,他们一直在努力待在那里。
如果智能体点击的像素和你一样,网页本身就是应用商店
在 Shopify 之外,Coates 总是会提到 CES 上的 Rabbit R1。他身上穿着那件 T 恤,他是 Teenage Engineering 的铁杆粉丝,这款硬件让他很兴奋。值得关注的问题不在设备本身,而在于大语言模型智能体究竟会学习哪一种界面。对 Sidekick 来说,智能体究竟是在底层调用 Shopify 后台的 API,还是像人一样钻进网页应用的像素里,一点一点地点击?Rabbit 选择图形界面(GUI)作为接口,并训练模型去操作网页应用。Coates 说,如果这套方法真的奏效,其战略上的妙处立刻就显现出来:等于拥有了全世界最大的应用商店,因为全世界最大的应用商店就是网页。
Guo 也向 Rabbit 的创始人 Jesse Lyu 问过同样的问题。他之前的公司尝试统一各种 API 的操作;这一次他走了相反的路,理由是:如果你的生存依赖于别人的界面,你就无法掌握自己的命运。Coates 认为,从第一性原理出发,这个想法也站得住脚。Sidekick 本来就以侧边栏的形式运行在后台里,就在商家身边。这个名字本身就在说:我在你身边,咱俩都在用这个 Shopify 做生意。一个点击的像素和你一样的智能体,闻起来几乎就对味。每次你上线一个新按钮,一个足够聪明的模型就能学会使用它。业内也有人泼冷水:想法很酷,但做成的难度大得离谱。他说,一如既往,这东西每周都在变。
他关注的另一场争夺,是 Perplexity、谷歌和 ChatGPT 之间的三角之争。ChatGPT 在大语言模型界面上很强,但在搜索上还谈不上出色。谷歌的搜索非常出色,但还没真正想明白大语言模型。Perplexity 处在中间,押注原生于大语言模型的搜索,是值得去攀的那座山。这场争夺背后藏着一个产品问题:人们想要的是硬事实、观点,还是十条结果的压缩摘要?如果摘要出现了幻觉,他们又能容忍多大程度的含糊?Gil 开始看到一些早期玩家在退化:不断堆叠限定语和安全提示,或者让模型以某种方式去收集信息,结果要么拖慢回答,要么让答案变得更糟。人们来找大语言模型,是为了对杂乱的网络数据做一份好的综合,而不是一份差的综合,也不是一个搜索过程。他们要的是答案。
Coates 在思考店铺搜索和 Shop 应用时,反复用一个测试来检验。一位朋友的女儿快六岁了,他想买一本经典的儿童读物。在谷歌购物里搜索“classic children's book for six-year-old girl”(适合六岁女孩的经典儿童读物),结果一团糟。亚马逊返回的全是胡说八道。ChatGPT 对“给一个六岁女孩推荐十本好的儿童读物”的回答,列出的书单让他觉得很惊艳。反过来,搜索“纽约某家店里 10.5 码的 Nike Air Force 1”,ChatGPT 就表现得很糟。Gil 曾在谷歌工作多年,之后负责过 Twitter 的搜索。他认为,大语言模型的世界仍然需要旧时代的“单框”直觉:识别导航式的购物查询,并把它导向正确的地方,而不是假装模型什么都要包办。Coates 给这件事划了一条界线:这双鞋是不是 Nike,是事实问题;这本书适不适合六岁女孩,是观点问题。好的搜索必须正确地处在事实与观点的中间位置。即便在电商内部,人们搜服装和搜工业零件的方式也不一样。Guo 投资过搜索公司 Neeva,并且很看好 Perplexity 团队。她补充说,谷歌在分发渠道上的掌控力确实存在,但技术和用户期待都在变化,并不能确定搜索是否曾经是一个永恒不变的单一市场。
同频道的其他文章
39:23EN → 简体中文
1:09:44EN → 简体中文
35:39EN → 简体中文
42:44EN → 简体中文
38:14EN → 简体中文
45:10EN → 简体中文