30 秒看懂
Matthew Berman 分享 OpenAI DevDay 伦敦站的片段,包括代码归功于 o1 的无人机界面、使用工具并进行模拟电话的旅行助手,以及语音驱动的教育界面。他还讨论了新声音、缓存输入价格和当时尚未发布的完整 o1。 视频由 AI Port 和 Turing Post 赞助。旅行演示中的派店是虚构的;据 [OpenAI 的公告](https://openai.com/index/introducing-the-realtime-api/),Realtime API 当时使用 GPT-4o 实时预览模型。文中价格和可用性均为历史信息。
- 1无人机界面OpenAI 演示了一个网页界面,其代码归功于 o1;演示者启动服务器并操作控制按钮。
- 2语音与工具Wanderlust 演示使用 Realtime API 回答旅行问题并更新界面。
- 3模拟订单演示明确指出 Ilan’s Posh Pies 是虚构商家,并使用 Twilio 进行模拟电话订购。
- 4互动教育另一场语音演示回答有关行星的问题,显示画面和图表。
- 5历史 API 更新OpenAI 于 2024 年 10 月宣布五种额外声音和缓存输入折扣;这些不是当前价格指南。
要点建议
- o1 编程演示展示的是人通过生成的界面操作无人机,而非模型自主驾驶。
- 旅行应用将 Realtime API 与应用自定义工具结合,用于更新地图和显示酒店详情。
- 一通打给虚构派店的模拟电话使用 Twilio 集成来演示订购流程。
- 另一场语音课程展示了互动视觉回应,但仅凭片段无法验证每个画面如何产生。
- 2024 年语音、缓存输入价格公告和 o1 可用性应结合当时背景理解。
按章节阅读整理后的全文
o1 与无人机控制
Berman 介绍 OpenAI 的无人机控制应用演示。演示者启动应用并尝试操作。
OpenAI DevDay 伦敦站刚刚举行,我想向大家展示几个演示。首先,团队展示一个全栈无人机控制应用,其代码归功于 o1。在片段中,一位操作者启动服务器、检查电池和视频流,然后测试起飞和界面按钮。视频展示的是人操作界面,而非 o1 独立驾驶无人机。
视频包含 AI Port 和 Turing Post 新闻通讯的赞助。我提到他们比较图像模型如何描绘不同世代的项目,并讨论模型输出如何反映刻板印象;这些例子用于介绍该项目,并不能确立适用于所有模型或世代的普遍结论。
旅行助手与模拟电话
Wanderlust 演示使用语音、地图工具和电话集成。订购使用的派店明确是演示场景。
接下来是支持语音的旅行应用 Wanderlust。我将其描述为 o1 使用语音,但 OpenAI 当时的文档将 Realtime API 音频模型标为 GPT-4o 实时预览版。演示展示的是应用将该 API 与自己的工具集成,不能证明语音交互由 o1 驱动。
演示者询问前往新加坡的旅行、可参观地点和酒店。对话进行时,应用显示文字记录、更新地图并展示酒店详情。演示者解释说,应用可以将 Realtime API 连接到开发者自定义的函数、API 和工具。

工具集成让应用能够在地图上放置标记、改变视图并显示信息。这是一个围绕语音和工具调用构建的应用演示;它在模拟场景中成功,并不保证真实旅行信息或每一步操作都正确。
演示者将地点切回伦敦 Chiswell Street 的 The Brewery 附近,询问适合观众的附近派店。应用显示三个选项。演示者明确指出,第二个 Ilan’s Posh Pies 是虚构的演示商家,另外两个则是真实商家。

为将演示扩展到界面之外,团队将 Realtime API 接入 Twilio 电话功能。一名同事扮演商家代表。演示者要求助手安排约 200 个派,肉类和素食各占一部分,并将预算控制在 1,000 英镑以下。
在模拟通话中,助手询问有哪些派,以及 100 个肉派和 100 个素派的价格。商家起初报价约 1,200 英镑,随后同意以 1,000 英镑成交,条件是在活动中介绍该商家。这达到所述的 1,000 英镑上限,而不是严格低于上限。

通话继续安排向场馆附近配送。这段交流展示了应用如何将语音助手连接到电话服务及人类接听者;这是使用虚构商家的模拟演示,并非真实商业订单的证据。
语音驱动的课程
演示者询问太阳系,界面显示行星和图表。Berman 看到了互动教育的潜力。
第二场演示用语音界面探索太阳系。演示者询问最大的行星,助手回答木星。随后对话转向地球及其特征,界面也随之改变显示内容。

被问及陆地和水的比例时,助手回答约 29% 是陆地、71% 是水,并显示饼图。演示者随后询问火星及其火山,助手介绍奥林匹斯山,并与其他大型火山比较。
我认为这种响应式对话和可视化是教育领域有前景的方向。我将内容描述为动态生成而非预设,但仅凭片段无法确定哪些部分是生成的、哪些是预先制作的。教育回答和图表仍应核查准确性。
声音、缓存输入与 o1 可用性
Berman 报告 2024 年的 API 更新和 o1-preview 状态。这些产品细节属于历史信息。
OpenAI 还宣布了五种新声音和提示缓存折扣:当时缓存文本输入打五折,缓存音频输入打两折。这些数字反映 2024 年 10 月的更新,而非现行费率;当前价格应查阅 OpenAI 后续文档。

最后,我报告说 DevDay 观众获得了 o1-preview 的使用机会,而 OpenAI 产品负责人 Olivier Godement 表示完整 o1 仍在开发中。我猜测观众获得访问权可能与欧洲地区的可用性有关,这只是推测。OpenAI 后来发布了改进版 o1,其当前 o1 页面称 o1-preview 和 o1-mini 已从 API 退役,o1 已弃用。
同频道的其他文章
34:21EN → 简体中文
0:36EN → 简体中文
25:50EN → 简体中文
32:20EN → 简体中文
1:03:37EN → 简体中文
0:53EN → 简体中文