OpenAI DevDay 伦敦站:o1 编程与实时语音演示

原标题OpenAI DevDay London: o1 Coding and Realtime Voice Demos

Matthew Berman 回顾 2024 年 10 月的无人机控制编程演示、语音旅行助手和互动太阳系课程。语音示例使用 Realtime API,该 API 发布时由 GPT-4o 而非 o1 驱动。

MBMatthew Berman主持 · Forward Future
频道
Matthew Berman
发布
2024年10月31日
视频
11:50
阅读
5 分钟
幻灯片
5
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 分享 OpenAI DevDay 伦敦站的片段,包括代码归功于 o1 的无人机界面、使用工具并进行模拟电话的旅行助手,以及语音驱动的教育界面。他还讨论了新声音、缓存输入价格和当时尚未发布的完整 o1。 视频由 AI Port 和 Turing Post 赞助。旅行演示中的派店是虚构的;据 [OpenAI 的公告](https://openai.com/index/introducing-the-realtime-api/),Realtime API 当时使用 GPT-4o 实时预览模型。文中价格和可用性均为历史信息。

  1. 1无人机界面OpenAI 演示了一个网页界面,其代码归功于 o1;演示者启动服务器并操作控制按钮。
  2. 2语音与工具Wanderlust 演示使用 Realtime API 回答旅行问题并更新界面。
  3. 3模拟订单演示明确指出 Ilan’s Posh Pies 是虚构商家,并使用 Twilio 进行模拟电话订购。
  4. 4互动教育另一场语音演示回答有关行星的问题,显示画面和图表。
  5. 5历史 API 更新OpenAI 于 2024 年 10 月宣布五种额外声音和缓存输入折扣;这些不是当前价格指南。

要点建议

  1. o1 编程演示展示的是人通过生成的界面操作无人机,而非模型自主驾驶。
  2. 旅行应用将 Realtime API 与应用自定义工具结合,用于更新地图和显示酒店详情。
  3. 一通打给虚构派店的模拟电话使用 Twilio 集成来演示订购流程。
  4. 另一场语音课程展示了互动视觉回应,但仅凭片段无法验证每个画面如何产生。
  5. 2024 年语音、缓存输入价格公告和 o1 可用性应结合当时背景理解。
全文

按章节阅读整理后的全文

只看原始文稿
01

o1 与无人机控制

Berman 介绍 OpenAI 的无人机控制应用演示。演示者启动应用并尝试操作。

OpenAI DevDay 伦敦站刚刚举行,我想向大家展示几个演示。首先,团队展示一个全栈无人机控制应用,其代码归功于 o1。在片段中,一位操作者启动服务器、检查电池和视频流,然后测试起飞和界面按钮。视频展示的是人操作界面,而非 o1 独立驾驶无人机。

视频包含 AI Port 和 Turing Post 新闻通讯的赞助。我提到他们比较图像模型如何描绘不同世代的项目,并讨论模型输出如何反映刻板印象;这些例子用于介绍该项目,并不能确立适用于所有模型或世代的普遍结论。

02

旅行助手与模拟电话

Wanderlust 演示使用语音、地图工具和电话集成。订购使用的派店明确是演示场景。

接下来是支持语音的旅行应用 Wanderlust。我将其描述为 o1 使用语音,但 OpenAI 当时的文档将 Realtime API 音频模型标为 GPT-4o 实时预览版。演示展示的是应用将该 API 与自己的工具集成,不能证明语音交互由 o1 驱动。

演示者询问前往新加坡的旅行、可参观地点和酒店。对话进行时,应用显示文字记录、更新地图并展示酒店详情。演示者解释说,应用可以将 Realtime API 连接到开发者自定义的函数、API 和工具。

Wanderlust 酒店结果
幻灯片 1 / 5Wanderlust 酒店结果旅行演示中,语音对话显示在所选酒店卡片旁边。

工具集成让应用能够在地图上放置标记、改变视图并显示信息。这是一个围绕语音和工具调用构建的应用演示;它在模拟场景中成功,并不保证真实旅行信息或每一步操作都正确。

演示者将地点切回伦敦 Chiswell Street 的 The Brewery 附近,询问适合观众的附近派店。应用显示三个选项。演示者明确指出,第二个 Ilan’s Posh Pies 是虚构的演示商家,另外两个则是真实商家。

虚构派店选项
幻灯片 2 / 5虚构派店选项界面包含 Ilan’s Posh Pies,演示者说明它是演示商家。

为将演示扩展到界面之外,团队将 Realtime API 接入 Twilio 电话功能。一名同事扮演商家代表。演示者要求助手安排约 200 个派,肉类和素食各占一部分,并将预算控制在 1,000 英镑以下。

在模拟通话中,助手询问有哪些派,以及 100 个肉派和 100 个素派的价格。商家起初报价约 1,200 英镑,随后同意以 1,000 英镑成交,条件是在活动中介绍该商家。这达到所述的 1,000 英镑上限,而不是严格低于上限。

模拟电话订单
幻灯片 3 / 5模拟电话订单助手与演示商家交谈时,画面显示通话记录和订单详情。

通话继续安排向场馆附近配送。这段交流展示了应用如何将语音助手连接到电话服务及人类接听者;这是使用虚构商家的模拟演示,并非真实商业订单的证据。

03

语音驱动的课程

演示者询问太阳系,界面显示行星和图表。Berman 看到了互动教育的潜力。

第二场演示用语音界面探索太阳系。演示者询问最大的行星,助手回答木星。随后对话转向地球及其特征,界面也随之改变显示内容。

太阳系课程
幻灯片 4 / 5太阳系课程语音驱动的教育演示显示地球画面。

被问及陆地和水的比例时,助手回答约 29% 是陆地、71% 是水,并显示饼图。演示者随后询问火星及其火山,助手介绍奥林匹斯山,并与其他大型火山比较。

我认为这种响应式对话和可视化是教育领域有前景的方向。我将内容描述为动态生成而非预设,但仅凭片段无法确定哪些部分是生成的、哪些是预先制作的。教育回答和图表仍应核查准确性。

04

声音、缓存输入与 o1 可用性

Berman 报告 2024 年的 API 更新和 o1-preview 状态。这些产品细节属于历史信息。

OpenAI 还宣布了五种新声音和提示缓存折扣:当时缓存文本输入打五折,缓存音频输入打两折。这些数字反映 2024 年 10 月的更新,而非现行费率;当前价格应查阅 OpenAI 后续文档。

Realtime API 更新
幻灯片 5 / 5Realtime API 更新画面中的 2024 年公告介绍新声音和缓存输入折扣。

最后,我报告说 DevDay 观众获得了 o1-preview 的使用机会,而 OpenAI 产品负责人 Olivier Godement 表示完整 o1 仍在开发中。我猜测观众获得访问权可能与欧洲地区的可用性有关,这只是推测。OpenAI 后来发布了改进版 o1,其当前 o1 页面称 o1-preview 和 o1-mini 已从 API 退役,o1 已弃用。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
6 张幻灯片1:03:37EN → 简体中文
Matthew Berman· 2026年10月23日Matthew Berman 团队测试 Kimi K3.1:动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试,内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。编程智能体Generative media评估+2
0:53EN → 简体中文
Matthew Berman· 2026年10月22日Sam Altman 谈 AI 与新知识的发现Sam Altman · OpenAIAltman 预计,数学发现方面的进展将延伸到生物学、材料和能源领域。AI for scienceMathematicsComputational Biology+1