30 秒看懂
Matthew Berman 逐段解读 OpenAI 2023 年 11 月 DevDay 的片段,重点介绍 GPT-4 Turbo、新的 API 能力、模型定制、定价和自定义 GPT。他欢迎这些发布,同时提醒开发者,依赖一个可能推出竞争功能的平台存在风险。 文中的价格、产品可用性和 GPT Store 计划时间表均反映 2023 年的公告,而非当前服务。他对公司股权、现场演示和未来收入分成的评论属于观点或猜测。
- 1更长的上下文GPT-4 Turbo 发布时宣布支持 128,000 token 的窗口;Berman 欢迎这一变化,同时指出长上下文中的信息回忆能力仍需测试。
- 2开发者获得更多控制演讲介绍了 JSON 模式、多函数调用,以及旨在提高输出一致性的 seed 参数。
- 3新模态与定制OpenAI 宣布了视觉、DALL·E 3 和文本转语音 API,以及 Whisper large-v3 和新的微调选项。
- 4历史 API 定价当时宣布的 GPT-4 Turbo 价格为每 1,000 个输入 token 0.01 美元、每 1,000 个输出 token 0.03 美元,比较对象是 2023 年的 GPT-4 价格。
- 5自定义 GPTOpenAI 演示了结合指令、知识和操作的定制 ChatGPT 体验;Berman 讨论了它们对竞争的影响。
要点建议
- 2023 年发布的 GPT-4 Turbo 拥有 128,000 token 的上下文窗口,知识截止日期为 2023 年 4 月。
- 开发者公告涵盖 JSON 模式、改进的函数调用、检索、视觉、图像生成和文本转语音。
- OpenAI 当时宣布降低 API 价格、提高速率限制,并推出有限的 GPT-4 微调实验计划。
- 自定义 GPT 结合了指令、额外知识和操作,而 Berman 希望看到对多智能体团队更好的支持。
- 当模型提供商推出独立开发者此前提供的功能时,Berman 既看到了便利,也看到了平台风险。
按章节阅读整理后的全文
GPT-4 Turbo 与开发者控制
Berman 回顾了更长的上下文窗口、JSON 模式、函数调用和可复现输出。他还讨论了检索和更新后的知识截止日期。
OpenAI 的 DevDay 带来了一长串公告。Matthew Berman 首先介绍 GPT-4 Turbo:与此前的 GPT-4 产品相比,他认为它更快、更便宜,速率限制也更高。本文记录的是 2023 年 11 月的活动;产品可用性、条款和价格均为当时信息。
OpenAI 首席执行官 Sam Altman 表示,GPT-4 Turbo 支持 128,000 token 的上下文窗口,约相当于 300 页文本,并称其处理长上下文的准确率有所提高。Berman 欢迎更大的窗口,尤其看好其编码用途,但指出模型可能漏掉长输入中间的信息,计划测试这一说法。
Altman 介绍了用于输出语法有效的 JSON 的 JSON 模式,以及改进后的函数调用,包括在一条消息中调用多个函数。Berman 认为这些功能对应用和智能体很有用。OpenAI 还宣布了测试版 seed 参数,使输出在大多数时候更加一致;这并不保证输出完全相同。公司还计划支持对数概率。
OpenAI 推出检索功能,让应用能够使用外部文档和知识。Berman 认为这会给围绕 API 构建检索增强生成产品的初创公司带来竞争压力。[2023 年开发者公告](https://openai.com/index/new-models-and-developer-products-announced-at-devday/)将检索描述为 Assistants API 的一项工具;这并不意味着检索或应用设计不再必要。
Altman 说,模型的知识截止日期更新至 2023 年 4 月,比之前更近。Berman 将它与当时新推出、能访问 X 上信息的 Grok 产品比较,预计围绕信息时效性的竞争会继续。
模态、定制与定价
主题演讲涵盖视觉、图像生成、语音、微调、速率限制和 Copyright Shield。Berman 讨论降价及其对开发者的影响。
主题演讲宣布通过 API 提供 GPT-4 Turbo 视觉功能、DALL·E 3 图像生成和文本转语音。Berman 对图像理解和开源语音识别模型 Whisper large-v3 的发布感到兴奋;后者能将语音转换为文本。这些是不同的能力和接口,并非一个模型完成所有任务。
OpenAI 将 GPT-3.5 微调扩展到 16K 版本,并邀请符合条件的用户申请 GPT-4 微调实验。另一个独立的 Custom Models 计划让选定组织与 OpenAI 研究人员合作,进行领域专属训练和后训练。Altman 表示该计划初期规模有限且价格昂贵;Berman 认为这可能成为可观的企业业务。
公司宣布将已有付费 GPT-4 客户的每分钟 token 限制提高一倍,并允许通过账户设置申请提高限额。Berman 对此表示欢迎,因为他在配合 AutoGen 使用 API 时遇到过速率限制。这些限制描述的是当时的服务,不一定是现在的账户限额。
OpenAI 还宣布 Copyright Shield:对于涉及普遍可用的 ChatGPT Enterprise 和开发者平台功能的受保障版权索赔,公司表示将为符合条件的客户提供辩护并承担费用。Altman 说 API 和 Enterprise 数据不会用于模型训练。这项保护有明确范围,不应理解为涵盖所有版权问题的保证。
2023 年发布时,GPT-4 Turbo 的价格为每 1,000 个输入 token 0.01 美元、每 1,000 个输出 token 0.03 美元,分别是此前可比 GPT-4 费率的三分之一和二分之一。OpenAI 也降低了新版 GPT-3.5 Turbo 的费率。Berman 建议将简单任务交给较便宜的模型,复杂任务使用 GPT-4。

Microsoft 首席执行官 Satya Nadella 短暂登台讨论合作关系。Berman 推测 Microsoft 的持股情况,并将这一合作与其其他开源合作关系对比;他在节目中估计 Microsoft 拥有 OpenAI 一半股权,这里没有证据支持。他预计开放模型和编排工具的进步会给专有模型提供商带来定价压力。
ChatGPT 与自定义 GPT
演讲转向集成工具、自定义 GPT 和现场演示。Berman 关注多智能体团队以及开发者面临的平台风险。
主题演讲表示,ChatGPT 正在纳入较新的 GPT-4 能力,并将浏览、代码执行、数据分析和图像工具整合到更统一的界面中。Berman 欢迎用户不必再手动选择工具,希望系统能够按需选择合适的能力。
Altman 将 GPTs 描述为迈向能够执行任务的助手的第一步:这些是结合指令、额外知识和操作的定制 ChatGPT。Berman 认为它们会直接与一些第三方智能体产品竞争。不过,自定义 GPT 是经过配置的助手,不一定是多智能体团队,也不一定是单独训练的模型。
一位演讲者演示了连接日历的 Zapier GPT,向它询问当天的日程和冲突。Berman 注意到演示后方还有一个浏览器窗口,猜测是否有人在后台准备操作。可见的窗口本身不能证明存在欺骗,也无法解释演示是如何安排的。

Altman 通过对话描述一个创业导师,演示 GPT Builder。界面生成指令和名称、预览结果、用 DALL·E 创建图像,并提供配置选项。用户可以上传文档作为额外知识,这展示了一个基于检索的用途,Berman 认为这一过程很简单。


OpenAI 表示,用户可以将 GPT 保持私有、通过链接分享,或在 Enterprise 工作区内提供给其他人使用,并宣布了推出 GPT Store 的计划。Berman 将其比作应用商店,预测会出现付费分发和收入分成;这些细节是他当时的预期,并非适用于每位创作者的既定条款。
Berman 认为最缺少的功能是专业智能体之间的协作。他认为 AutoGen 等系统有助于将复杂任务分配给多个智能体,并预计这一领域会继续发展。最后,他称赞 OpenAI 的发布速度,同时提醒开发者,完全依赖一家提供商会带来平台风险;使用多种模型是管理这一风险的一种方法。
同频道的其他文章
34:21EN → 简体中文
0:36EN → 简体中文
25:50EN → 简体中文
32:20EN → 简体中文
1:03:37EN → 简体中文
0:53EN → 简体中文