Bret Taylor 谈 AI 应用、模型成本与 Sierra 的建设

在这场 2024 年 10 月的对话中，Sierra 联合创始人兼 CEO Bret Taylor 与 Harry Stebbings 讨论 AI 应用、模型经济性和领导力。Taylor 也是 OpenAI 董事；他的观点反映了这些角色，以及 Sierra 在 AI 智能体领域的商业利益。

Taylor 并非一直打算从事科技行业。青少年时期，他在加油站每小时赚 4.25 美元，后来为一名机械师制作网站赚了 400 美元，便开始为当地企业制作网站。在 Stanford，一门计算机科学入门课加深了他对软件的热情。

他认为大多数技能可以通过专注学习获得，同时承认人与人之间存在天赋差异。创业还要求人能够承受紧张和不确定的环境；他不认同创始人只有一种性格类型。

他认为领导力也是一门可以学习的技艺。不同团队需要不同的激励方式，公司应该投资培训，而不是简单地给人贴上是否具有天生领导力的标签。

Taylor 说 AI 正处于泡沫中，但他将其与互联网泡沫时期比较：投机过热可以与最终改变经济的技术并存。他预测会出现持久的 AI 原生公司，同时承认个别估值和投资回报是另一个问题。

Stebbings 问初创公司估值高出很多是否使这种比较产生误导。Taylor 承认这一担忧，并说自己从建设者的角度看待问题，而不是判断哪些投资会产生特定倍数的回报。

Taylor 不预计基础模型会吞并所有软件应用。他将 AI 与云市场比较：在云市场中，基础设施、开发工具和软件应用都成为了重要类别。

他认为，企业通常想要解决方案，而不是持续承担自行构建和维护每种工具的负担。他将 Sierra 描述为一家应用公司，通过调整其他公司的模型来构建面向客户的智能体；这一判断反映了它的商业模式。

Stebbings 问 AI 服务公司是否会成为主要赢家。Taylor 预计随着成品改善，一些早期实施支出会下降，但认为企业围绕 AI 重组时，咨询和变革管理仍有价值。

他区分了较为商品化的基础模型和前沿模型。他说成本较低的开放模型可能足以完成某些任务，而前沿提供商可以通过有意义的改进暂时形成差异；这些领先优势的速度和持续性仍不确定。

Taylor 怀疑多数应用初创公司自行预训练大型模型的必要性，因为前期成本可能让公司偏离寻找产品市场契合的目标。他明确区分了 AGI 研究实验室、大型提供商和主要构建解决方案的公司；这是他的投资与产品判断，并非说预训练没有价值。

被问到模型是否会继续出现巨大跨越时，他说这并无保证，也可能进入平台期。他之所以乐观，是因为进步可以来自数据、算力和算法三个领域，包括训练与模型设计。

Taylor 主张负责任地迭代部署，以了解安全、滥用和现实世界影响。这是他作为 OpenAI 董事所偏好的方法；访谈没有证明仅靠迭代就能解决所有安全风险。

Stebbings 问追求 AGI 是否与构建消费和企业产品冲突。Taylor 认为产品和开发者访问可以传播研究成果，同时承认平衡使命和商业选择很复杂。

对于应用公司，Taylor 更倾向于相对适度的训练开支，以及与使用量相联系的推理成本。他预计随着硬件改善、蒸馏等技术产生更小的模型，推理会变得更便宜；这是预测，而非得到保证的成本曲线。

他认为大型云提供商进行重大资本投资，是因为前沿模型可能对其业务很重要。他预计规模会使少数基础设施提供商受益，同时承认其经济性很复杂。

Taylor 说开放模型变得实用的速度比他预期更快，并以 2024 年的 Meta Llama 3.1 为例。他预计市场将同时拥有专有前沿模型和开放模型，而不是一个模型满足所有用途。

他说，没有人知道达到类似 AGI 的状态需要多少算力、数据和什么方法，也不知道需要多少回报才能证明支出合理。他认为大型提供商可以理性地进行长期押注，而较小的初创公司面临不同的融资风险。

他预计预训练模型的公司之间会出现整合，而工具和应用业务可能具有不同、更可持续的成本结构。这是他的市场预测，并非已知结果。

Taylor 说，Sierra 帮助品牌创建面向客户的 AI 智能体，并提到 Sonos 和 SiriusXM 等公司。他认为对话软件可能成为客户交互的重要界面；Sierra 正向这一机会销售产品。

他将这一变化比作智能手机触摸屏足够好用、从而改变使用习惯的时刻。他认为 GPT-4 让对话式 AI 跨过了重要的质量门槛，但未来采用情况及具体系统的可靠性仍有待观察。

他预测，未来几年客户将越来越多地与品牌的 AI 对话。他不认为智能体会消灭网站和应用，而将其视为可能接管部分任务的额外渠道。

文字、语音和多模态体验可以减少消息沟通、驾驶或厨房等场景中的操作阻力。Taylor 认为，即使对话不是每项任务的最佳界面，便利性也可能让它变得重要。

他说，完全取代手机是可能的，但手机已经能很好地完成许多事情，而且广泛普及。他预计短期内手机仍是主要计算设备，可能与眼镜或耳机搭配，让人们减少看屏幕的时间。

他认为 WhatsApp 在对话式商业方面处于有利位置，并预计应用最终可能包含智能体。他说 Sierra 的目标是让品牌在客户使用的任何界面中部署其智能体。

困难的技术问题在于，生成式 AI 有创造性且非确定，而企业有真实的政策规定。Taylor 形容这种变化是从枚举每条软件规则，转向为智能体行为表达目标和护栏。

零售网站可以列举类别和路径；自由输入的智能体则可能遇到多样得多的请求。如果每个答案都事先固定，体验可能很机械；但不受限制的创造性也可能产生错误或损害品牌的回应。

他以取消订阅为例：智能体可以询问原因、提供获授权的折扣，如果客户仍想取消就处理取消。目标和护栏应界定允许的优惠和语气，同时为有用的对话留出空间。

他预计采用会从风险较低的任务开始，随着系统改善和企业信心增加而扩展。他说 Sierra 客户已经用智能体进行销售和订阅留存；这是公司的描述，而非独立审计的结果。

更多自主性可以让互动更灵活，也会降低控制力。Taylor 说，企业必须为每种工作流程选择允许的自由度，对风险较高的情况设置更严格的约束。

他预计会出现智能体工程师和 AI 体验架构师等新岗位，负责构建智能体和塑造对话。这些岗位类别及其未来规模是他的预期。

生成式系统挑战传统软件工程的假设：相同输入未必产生相同输出。Taylor 建议在努力预防错误的同时，也准备好应对错误的运营机制，并承认目前无法消除所有失败。

Stebbings 提出，合成内容可能侵蚀人们对所有信息的信任。Taylor 希望 AI 辅助工具和安全实践能帮助人们评估真实性，并主张从部署中学习；他并未声称这些工具能可靠地验证每条信息。

Taylor 说，他为 Sierra 寻求外部融资，部分是为了获得董事会问责和战略建议。他联系了此前共事过的 Peter Fenton，并重视这样的投资人关系：创始人在艰难决策时可以打电话求助。

在快问快答中，他说 AI 成本下降之快令他惊讶，并认为人们应将注意力从模型和硬件扩展到应用。这两点都是他当时的判断。

谈到董事会工作，Taylor 称赞 Fidji Simo，并描述了充分了解情况但不接管管理工作的挑战。他认为建议必须针对公司和 CEO 的情况，并以可靠的节奏获得正确信息。

他说 Mark Zuckerberg 任命他为 Facebook CTO，改变了他对自己领导能力的看法。Taylor 回忆，尽管自己不确定是否完全胜任，另一位领导者仍对他抱有信心。

对于 Zuckerberg 和 Marc Benioff 等领导者，他欣赏他们的长期视野，以及为遥远目标作出艰难短期押注的意愿。他也强调传达愿景的重要性，让员工理解工作为什么有意义。