30 秒看懂
Harry Stebbings 采访 Sierra 联合创始人 Clay Bavor,讨论他与 Bret Taylor 如何建设公司、开放权重模型与前沿模型的经济性、企业部署及管理。Bavor 提供的客户统计、表现估计、竞争说法和未来预测属于公司主张或个人观点;访谈没有独立核实。
- 1为何不预训练基础模型Bavor 说 Sierra 认为持续资本成本对于其战略而言过高,因此选择微调开放权重模型。
- 2按任务选择模型他预计常规任务将转向更便宜的模型,而复杂任务可能值得使用前沿系统。这是预测,并非需求无限的证明。
- 3内部智能体Bavor 描述 Sierra 的内部智能体和连接公司工具的共享网关,访问受个人权限约束。
- 4Token 预算他引用对部分工程师高额支出的观察,并预测未来预算可能增加。他说 Sierra 自身用量较低;这些并非全行业测量。
- 5企业部署Bavor 说嵌入式团队帮助 Sierra 实施客户特定工作流程,同时承认前沿部署团队并非总是必要。
- 6董事会与公司文化他介绍频繁的董事会会议、书面备忘录,以及旨在兼顾高标准与家庭空间的价值观。
要点建议
- Bavor 说 Sierra 使用微调的开放权重模型,并依赖其他公司进行资本密集型预训练。
- 他预计公司会根据任务组合使用模型,但他对前沿能力需求的预测仍不确定。
- 算力供应、能源、推理效率和推理工作负载都可能影响 AI 服务成本。
- 据其联合创始人介绍,Sierra 的企业战略将可复用平台能力与针对客户的部署工作结合。
- Bavor 说公司使用内部智能体并通过 AI 工具评估候选人,同时保留人工判断。
- 他将工艺精神、工作强度和家庭描述为自己与联合创始人希望平衡的价值观。
按章节阅读整理后的全文
从 Google 到 Sierra
Bavor 解释他和 Bret Taylor 为什么创立 Sierra,以及为何选择不预训练基础模型,并对比前沿模型和开放权重模型。
Clay Bavor 说,他和 Bret Taylor 在 Google 的产品经理培训项目中相识,并多年保持联系。此前几次合作机会未能成行,后来随着语言模型进步,两人认为合作关系和时机都合适,于是决定创立 Sierra。
Bavor 回忆自己在 Google 的 18 年很愉快,经理们给予他责任和学习机会。他从小就想再创办一家公司,但一直等到遇到合适伙伴,以及能够为小团队创造机会的技术变化。
从 Google 学到的一课是:为了交付产品,应愿意深入技术栈到必要程度。Bavor 说,在智能体成为常见话题之前,Sierra 就建立了自己的智能体框架和架构。这是他对公司工程方法的描述。
Sierra 曾短暂考虑预训练基础模型,但认为持续的资本支出过高。Bavor 说公司转而利用模型实验室和云供应商的投入,同时针对自身需求微调开放权重模型。他区分了这项工作与从零训练前沿模型。
Stebbings 询问,为企业定制的更便宜开放模型是否会削弱前沿模型供应商。Bavor 预计组织会同时使用两者:常规任务可能不需要能力最强的系统,而复杂工作可能值得更高成本。他对未来需求的看法是预测,并非已证明的普遍结果。
Bavor 认为,曾经昂贵的模型能力可能变得更便宜,并进入开放权重系统。合适选择取决于任务难度和错误成本。他的成本比较是示意,不能证明不同模型或应用的质量相同。
主持人询问开放模型能够完成多少企业工作。Bavor 说完全自动化的工作仍相对很少,并指出几个可能约束:模型、应用和组织采用。他没有提供能够区分这些因素的测量数据。
算力、模型经济性与内部工具
访谈考察推理成本、算力供应和模型选择。Bavor 描述内部智能体、权限和可能的 token 预算。
Bavor 认为编程、发现和其他复杂任务对高能力模型的需求可能很大。他称需求“实际上没有上限”,但这是对其预期的表达,并非字面上需求无限的证据。
谈到 token 经济性,他区分单个 token 的价格与推理和智能体工作流程的总支出。即使硬件效率提高,推理时使用更多算力的模型也可能消耗更多 token。额外算力与质量的关系取决于模型和任务。
Bavor 将硬件效率、开放权重模型、能源和可用算力列为影响价格的因素。他说,如果需求增长快于供应,基础设施约束可能限制成本下降速度。这是经济情景,并非有保证的价格底线。
Stebbings 询问在设备上运行模型是否能缓解数据中心压力。Bavor 预计本地硬件会改善部分消费者应用,但认为要求较高的工作仍需要大量数据中心算力。他对未来硬件和需求的看法仍是预测。
对话转向美国和中国的开放权重模型。Bavor 推测,两者差异可能部分反映了对前沿模型的大规模蒸馏;他没有提供具体模型的证据。这只是他的印象,不能当作任何公司训练做法的证明。
Stebbings 询问 AI 是否会让团队规模大幅缩小。Bavor 说,Sierra 一些工程师估计使用编程工具后交付功能的速度提高了数倍。这是员工对特定活动的估计,并非对总体生产率的受控研究,也不能预测每个组织的情况。
Bavor 说 Sierra 服务大型、有时受监管的公司,成功部署需要理解其系统、目标和关系。他称公司与《财富》50 强中的 40% 合作,并描述客户收入分布;这些是公司数据,访谈没有独立核实。
Bavor 介绍 Sierra 内部一个名为 Pinecone 的智能体,以及连接公司系统的共享 MCP 网关。他说员工通过网关使用自己的权限,而不是获得其他人私人文档的访问权。访谈描述的是预期控制措施,并非独立安全审计。
内部智能体使用为工程工作专门构建的配套系统,以及员工可以开发的共享技能。Bavor 说自己使用其中一项帮助审阅招聘材料,但仍由他本人批准。他将该工具描述为越来越有用,但尚非不可或缺。
他还描述一个以公司文档、董事会信函和运营审查为背景的战略助手。目的是帮助自己结合上下文思考优先事项,而非把组织决策完全交给模型。访谈没有独立评估其质量和保障措施。
被问到是否限制员工 token 支出时,Bavor 说高用量有时表明员工正在实验。他听说或观察到一些工程师的支出按年化计算超过 10 万美元,但说 Sierra 自身用量较低。这个数字并非全行业预算或要求。
他预测未来薪酬规划可能同时包括工资和 AI 使用预算。他说目前 Sierra 更愿意快速学习,而不是施加严格限制。他预计工程瓶颈会从编写代码转向审查代码和决定应当构建什么。
Stebbings 引用有关另一家公司 AI 支出的报道,询问 token 成本是否会占开发人员薪酬更大比例。Bavor 预测这一数字会更接近 20%,而不是主持人提出的较小例子。这是推测性估计,并非由财务数据确立的预测。
企业客户与部署
Bavor 讨论客户关系、竞争和 Sierra 的前沿部署方法,并描述产品复用和客户特定要求。
被问到企业供应商如何贴近客户时,Bavor 说他和 Taylor 仍亲自构建和使用智能体。他承认创始人无法在内部重现每个复杂客户环境,还必须理解最终用户的体验。
主持人描述初创公司和现有企业众多、竞争拥挤的市场。Bavor 同意竞争激烈,但声称 Sierra 比同类年轻竞争者规模更大、增长更快。他没有提供独立核实的比较,对市场集中度的预期也是他的个人看法。
Bavor 说,Sierra 通过与早期设计合作伙伴密切合作,学会了前沿部署的方法。工程师嵌入客户环境,了解业务流程并集成平台的第一个版本。他将其描述为既是学习方式,也是交付方式。
他说,产品不一定需要前沿部署团队也能使用,但专家帮助可以加快早期实施。Bavor 举出数周而非数月完成部署的例子;这些时间来自公司自述,并非对实施质量或结果的独立测量。
他认为客户服务智能体需求强劲,并说 Sierra 正在国际扩张,包括在日本进行收购。他对市场领先地位和需求的描述反映公司视角,并非经核实的行业排名。
Bavor 描述支持之外的应用,包括帮助客户发现产品、办理再融资和获得产品推荐。他将这些作为更广泛客户生命周期战略的例子。访谈没有独立评估转化率、准确性或其他客户结果。
主持人将 Sierra 与 Palantir 比较。Bavor 说,公司借鉴了前沿部署模式的部分做法,但希望通过积累特定行业的可复用专业知识服务更多客户。他的比较是战略愿景,并非对任何一家公司规模的已确立测量。
他说公司寻找可以强化平台的共同功能,同时有时也为大客户构建独特扩展。Bavor 认为编程智能体可以让这种工作更可行,而为一个客户开发的方案可能后来帮助另一个客户。这些是管理层预期。
董事会、融资与公司价值观
他介绍董事会备忘录、融资选择,以及公司对工艺精神、工作强度和家庭的看法。
Sierra 大约每六周召开一次董事会会议,较长和较短会议交替进行。Bavor 说,这样的节奏有助于公司在模型能力和客户需求快速变化时重新评估假设。
创始人提前发送书面董事会备忘录,而不是幻灯片。Bavor 认为写作迫使思考更加清晰,也让董事有时间准备。会议随后聚焦重要问题,而不只是展示结果。
他说备忘录也指出公司可以改进的地方。早期的一个例子是,尽管已有需求迹象,公司没有足够快地招聘招聘人员。Bavor 将这一经历视为对团队已有信息采取行动的一课。
被问到 Sierra 如何考虑融资时,Bavor 说创始人关注达到下一个里程碑需要多少资本,并考虑稀释,但不以不惜代价最大化估值为目标。他说他们接受了可能低于可获得水平的价格;访谈没有提供独立融资比较。
公司提出的价值观包括工艺精神、工作强度、家庭、信任和关注客户。Bavor 说卓越由人员、流程和产品中的许多细节构成,而对客户表现出的关怀有助于建立信任,让客户相信公司会如何服务其用户。
作为例子,他回忆高级员工在早期一个重要零售时期亲自监控智能体对话。这一轶事说明团队自称投入的关注,并不能确立智能体的准确性或客户结果。
Bavor 将工作强度描述为在竞争市场中保持速度和高标准。他说创始人必须以身作则,但应仔细选择直接参与能改变结果的地方,而不是介入每个细节。
他说有雄心的目标可以帮助团队反推必须具备哪些条件。他以在日本扩张、考虑通过收购建立本地业务为例,同时提醒截止日期可能导致工作占满所有可用时间。
Bavor 和 Taylor 先各自思考,再比较笔记,形成了公司的价值观。家庭这一价值观反映他们认为高要求工作可以与办公室外的重要承诺共存。这是他们希望建立的文化,而非对每位员工经历的保证。
Bavor 说,有孩子促使他更高效地利用工作时间。他描述了在长时间通勤中保持网络连接,以及为家庭留出时间。这是他的个人安排,而非对他人的规定。
他支持年轻公司采用面对面工作,因为他认为这有助于建立共同规范、关系和非正式传帮带。他承认远程建立同样联系存在挑战。其他组织和员工可能做出不同取舍。
Bavor 建议向优秀同事学习,并引用 Richard Hamming 关于研究的演讲。他将早期学习和持续努力比作复利:早期获得的技能可以支持后续工作。这一建议反映他的经历。
职业、领导力与家庭
Bavor 讨论职业早期学习、AI 原生招聘、与 Taylor 的合作以及从导师身上学到的经验,最后谈到育儿和自己的父母。
被问到在不确定的就业市场中年轻人应该做什么时,他鼓励他们熟悉 AI 工具并寻找学习机会。他说 Sierra 一些年轻员工尤其善于使用这些工具。他的例子不能解决更广泛的初级就业问题。
Sierra 改变了工程面试,让候选人使用自己选择的 AI 工具和 token 预算构建应用。Bavor 说,公司仍然考察架构、系统设计、产品思维和文化契合度,而不只是衡量工具使用。
谈到网络安全,Bavor 预计随着攻击能力提高,防御工作的重要性也会增加。他说自己不是专家,不确定通用 AI 工具还是专业产品能提供最佳防御。这是预测,并非产品评估。
Bavor 回忆与 Taylor 对如何加快工作的一次分歧:是改善流程还是更换领导。他说两人最终认为两方面都重要。他们的方法是相互质疑假设,寻找可行答案。
两位联合创始人将职责分为相互重叠的主要和次要领域,而非完全分离的部门。Bavor 说 Taylor 花更多时间在销售和工程上,自己更专注公司运营,但两人都参与产品和重要决策。
被问到 Sundar Pichai 时,Bavor 赞赏他在长期战略和产品细节之间切换,同时关注周围的人。这是他从共事经历中获得的个人一课。
他推荐 David McCullough 的《The Wright Brothers》,认为它讲述了发明、坚持和建立在早期技术之上的历程。Bavor 认为这个故事很好地描绘了创业,以及最终成就背后的反复实验。
作为父亲,Bavor 说他会建立家庭晚餐、与孩子共同制作东西等习惯。他尝试了解每个孩子的兴趣,以便参与并给予支持。他的方法反映自己家庭的情况。
他将婚姻描述为拥有共同目标的伙伴关系,同时允许每个人追求不同兴趣。对他而言,帮助另一方成长也是共同目标的一部分。这是个人看法,并非普遍规则。
Bavor 最后感谢父母支持他对计算机的兴趣,尽管技术不是他们的职业。他回忆父母愿意鼓励一个自己并不完全了解的爱好,以及这对他早期学习的影响。
他记得家人陪他购买电脑、参观 Macworld,包括父亲鼓励他增加内存。Bavor 认为早期鼓励对他后来在 Google 工作和创立 Sierra 有重要帮助。
同频道的其他文章
23:48EN → 简体中文
1:13:26EN → 简体中文
59:41EN → 简体中文
1:19:50EN → 简体中文
1:03:05EN → 简体中文
1:17:09EN → 简体中文