OpenAI 2024 年 GPT-4o 发布会:语音、视觉与桌面演示

原标题OpenAI’s 2024 GPT-4o Launch: Voice, Vision and Desktop Demos

Mira Murati、Mark Chen 和 Barret Zoph 介绍 GPT-4o,并演示语音交互、视觉辅导、代码解释和翻译。

MCMark Chen讲者 · OpenAIBZBarret Zoph讲者 · OpenAI
频道
Matthew Berman
发布
2024年5月13日
视频
14:51
阅读
5 分钟
幻灯片
4
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

这段 OpenAI 2024 年 5 月发布会的剪辑展示了 Mira Murati 对 GPT-4o 的介绍,以及 Mark Chen 和 Barret Zoph 的现场演示。他们展示了语音打断与富有表现力的语音、手写数学题辅导、桌面代码和图表解读、翻译以及自拍描述。 发布时的定价和推出计划属于历史信息。这些演示展示的是选定的交互,其中包括模型在方程展示出来之前就声称看到了它的错误,并不能确立系统在所有情况下的可靠性。

  1. 1多模态模型Murati 介绍了模型对语音、文字和视觉的原生处理,并将其与此前的语音处理流程对比。
  2. 2历史 API 比较2024 年发布时,OpenAI 声称 GPT-4o 相比 GPT-4 Turbo 速度快一倍、价格低 50%,速率限制提高到 5 倍。
  3. 3实时语音Chen 演示了呼吸指导、对话打断和语音表达方式的变化。
  4. 4视觉数学辅导助手过早地说自己看到了题目,随后在题目展示出来后读出方程并给出提示。
  5. 5分享的代码与图表Zoph 分享代码和图表后,桌面演示解释了一个滚动平均函数并解读了温度图。
  6. 6自拍描述助手猜测自拍中的表情;这不能确立一个人真实的情绪状态。

要点建议

  1. OpenAI 在 2024 年将 GPT-4o 介绍为速度更快的多模态模型,并计划向 ChatGPT 免费用户开放。
  2. 演示者展示了可以打断的语音对话,以及讲故事时的声音风格变化。
  3. 数学演示中,助手在方程展示前就声称看见了它,随后引导用户完成解题。
  4. 桌面编程演示需要用户将代码和图表分享给 ChatGPT。
  5. 翻译和面部表情示例只是简短演示,并非对准确性或情绪理解的广泛评估。
全文

按章节阅读整理后的全文

只看原始文稿
01

介绍 GPT-4o

Murati 在 2024 年 5 月宣布模型、桌面应用及计划中的推出安排。她将语音架构及当时的 API 条件与此前产品进行比较。

在 OpenAI 2024 年 5 月的春季更新活动上,Mira Murati 介绍了新旗舰模型 GPT-4o。公司表示,它将为免费和付费用户提供 GPT-4 级别的能力。这段视频剪辑了发布会及其现场演示;所讨论的功能、推出计划和价格均来自当时,并不一定是当前的产品条件。

Murati 表示,公司将在接下来的几周逐步推出展示的功能。她还宣布了 ChatGPT 桌面应用,将其作为在现有电脑工作流程中使用助手的一种方式。

Murati 称 GPT-4o 比 GPT-4 更快,并在文字、视觉和音频方面有所提升。她说,此前的语音体验结合了独立的转录、智能处理和文字转语音组件;GPT-4o 则原生处理语音、文字和视觉,这种设计旨在降低延迟。

模型也通过 API 提供。发布时,OpenAI 表示,与 GPT-4 Turbo 相比,GPT-4o 速度快一倍、价格低 50%,速率限制提高到 5 倍。这些是公司发布时的历史比较,并非当前价格或限制。

GPT-4o API 发布时的比较
幻灯片 1 / 4GPT-4o API 发布时的比较OpenAI 在 2024 年的幻灯片中比较了它与 GPT-4 Turbo 的速度、价格和速率限制。
02

语音、打断与富有表现力的说话方式

Chen 和 Zoph 演示呼吸指导以及故事讲述方式的变化。Chen 介绍了对话打断和更低的延迟。

Murati 请研究负责人 Mark Chen 和 Barret Zoph 上台。Chen 告诉 ChatGPT 自己对现场演示感到紧张,请它帮助自己平静下来。助手建议深呼吸,随后对他夸张的呼吸作出回应,指导他放慢速度。

Chen 解释说,在展示的语音体验中,用户可以打断模型,不必等它说完。他还强调了更快的响应,以及系统对声音线索作出反应的能力。这是一场现场演示,并非对情绪识别的独立测试,也不能保证每次对话都有同样表现。

为了展示声音表达,Chen 请助手为 Zoph 讲一个关于机器人和爱情的睡前故事。助手开始讲述一个名叫 Byte 的机器人的故事;接着,Chen 要求语气更戏剧化、换成机器人声音,最后用唱歌的方式结尾,助手便相应改变了讲述方式。这段对话展示了在交流中按要求改变风格。

03

视觉辅导与桌面编程

助手最初在看见手写方程之前就作出回应,随后引导 Zoph 解题。团队接着分享代码和图表,请助手解释。

在视觉演示中,Zoph 要求 ChatGPT 通过提示帮助他解决一道手写一元一次方程,而不是直接给出答案。助手在他展示题目前就先说自己看到了;他纠正了它,助手随后等待图像。这个过早回应是演示中可见的错误。

视觉演示中的手写方程
幻灯片 2 / 4视觉演示中的手写方程演示者向助手展示 3x + 1 = 4,让它引导解题。

看到纸张后,助手读出 3x + 1 = 4,并询问应如何处理多出的 1。Zoph 在等式两边各减去 1,得到 3x = 3。当他需要另一个提示时,助手问什么运算可以抵消乘法;他选择除法,得出 x = 1。

团队接下来演示桌面应用中的编程辅助。Zoph 解释说,在这个配置中,语音界面无法自动看到电脑屏幕:他先选中并分享代码,然后才提问。ChatGPT 描述了这段代码的作用:获取每日天气数据、平滑温度序列,并在图上标注一个事件。

分享天气分析代码
幻灯片 3 / 4分享天气分析代码桌面屏幕显示 Python 代码和用于讨论代码的语音界面。

Zoph 询问函数 foo 的作用,以及使用和不使用它时图表会有什么区别。助手说,该函数对平均、最低和最高温度应用滚动平均,减少图中曲线的波动。随后 Zoph 生成图表并分享,提出另一个问题。

2018 年温度图
幻灯片 4 / 42018 年温度图演示者要求助手解读分享的平均、最低和最高温度图表。

ChatGPT 称图表展示了平滑后的 2018 年温度以及 9 月下旬一场降雨的标注。它指出 7 月和 8 月最热,最高温度大约为 25–30°C,并表示坐标轴使用摄氏度。这些回答展示的是对特定分享图表的解读,不能普遍保证图表解读准确。

04

翻译与自拍

演示者尝试了一个简短的英意互译请求和表情描述。Murati 最后介绍了计划中的推出安排。

针对现场观众提交的一个请求,Chen 要求助手实时翻译英语和意大利语。他指示助手将两种语言互译;剪辑中展示了一段简短对话,随后团队表示看起来有效。现有字幕没有保留完整的翻译对话记录。

接着 Zoph 请助手看一张自拍,说出他看起来流露出的情绪。助手描述了他的笑容,并认为他看上去开心而兴奋。这是在一次演示中根据图像作出的推断,并非对一个人内在情绪状态的可靠测量。

Murati 最后表示,团队希望让人们能亲自尝试这项技术,计划在接下来的几周推出展示的功能。剪辑以现场观众的掌声结束。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1