30 秒看懂
Matthew Berman 采访 OpenAI 的 Tibo,讨论他在 DeepMind 的经验、个人智能体与自动化系统、ChatGPT 和 Codex 的融合,以及超快速推理。Tibo 的说法反映其公司在采访时的重点和预测。
- 1减少管理智能体的摩擦Tibo 认为记忆、技能维护和子智能体协调都有改进空间。
- 2个人智能体还是自动化他区分了与个人协作的助手,以及按风险设置批准环节的自动化流程。
- 3为何重置额度Tibo 说重置最初是对服务中断或体验下降的补偿。
- 4速度取决于整个系统工具和网络开销可能削弱更快生成对端到端速度的帮助。
要点建议
- 产品团队需要在快速试验与统一、简洁的体验之间取得平衡。
- 个人助手与高度自动化的系统,在交互和监督方面有不同需求。
- 更快的 token 生成可能将瓶颈转移到工具、网络和人的注意力上。
- Tibo 将额度重置描述为补偿或分享访问机会,而非协同策划的营销活动。
- 对未来速度和成本的判断仍是预测,不能视为保证。
按章节阅读整理后的全文
从 DeepMind 到 OpenAI
Tibo 回忆早期聊天产品,并讨论组织文化。
Berman 请 Tibo 回顾他在 DeepMind 的经历,以及早于 ChatGPT 的内部语言模型聊天产品。Tibo 说他负责基础设施和研究产品,早期语言模型成果自然催生了对话工具的想法。
Tibo 回忆说,当时的研究环境很有创造力,但 DeepMind 并未为发布产品做好组织准备。他将其与 OpenAI 对比:据他说,后者的研究和产品团队紧密合作,并倾向于快速发布。
谈到早期聊天机器人是否让人觉得特别,Tibo 说最初连贯的回答更有趣而非有用,后来逐渐变得更有帮助。这段经历让他思考应该保留企业文化中的哪些部分、避免哪些障碍。
Tibo 将 OpenAI 描述为一个自下而上的地方,人们可以围绕想法组队并快速发布。同时,他希望产品有统一方向、简洁且质量过硬,而不是一堆互不相关的功能。
给创业者的建议是坚定信念、接触用户并根据反馈快速迭代。对成熟公司,Tibo 又提出更难的一点:即便新想法可能冲击现有业务,也要愿意重新分配资源。
Berman 问,公司成熟后是否更难维持这种文化。Tibo 认为组织必须保持面向未来,因为 AI 的发展方向不会等待企业调整现有安排。
Tibo 说,即使模型训练完成,基准测试也无法揭示它的全部能力。团队通过实际试用发现能力,这些发现可能改变产品设计。
例如,Tibo 说改进后的语音和听写让他能对手机说出任务,再让助手使用连接的工具。他认为界面改进会改变人们与系统交互的方式。
智能体与人的注意力
访谈探讨运行框架的摩擦、云资源和多任务处理的局限。
Berman 问编程智能体的运行框架还有哪些创新空间。Tibo 指出,维护技能文件、记忆不完善和手动管理子智能体都会增加负担;在他看来,这些机制打断了流畅使用助手的体验。
Tibo 希望助手理解用户的目标、日常工作和团队背景,适时响应,并主动提出有用想法。他将其作为产品方向,而不是宣称现有系统已经完美实现。
他认为笔记本电脑的设计围绕人类能力展开,而未来模型可能同时处理许多应用。因此,能力更强的智能体可能需要超出单台笔记本电脑的计算资源。
Tibo 说,更快的推理可能把瓶颈转移到网络延迟、工具调用或系统的其他环节。并行探索、测试和编译,可以让系统在个别操作等待时继续工作。
Berman 说,同时运行十几个智能体会增加认知负担。更快的响应也许能让他一次只处理较少任务;Tibo 认为,如何照顾人的注意力、何时打断用户,都是产品设计问题。
Tibo 设想快速语音交互、原型和报告能让人保持工作心流。他希望技术适应用户,而不是让用户不断迁就技术的运作方式。
个人助手与自动化
Tibo 区分个性化协作与自动化流程。
Tibo 区分了两个问题:为个人定制的智能体,以及复杂流程的自动化。前者强调个人背景与协作;后者可能监控生产日志或帮助修复安全漏洞。
对于自动化系统,Tibo 设想常规步骤只需少量人工参与,高风险操作仍由人批准。这是他提出的职责划分,并不能证明自主系统在所有场景下都安全。
ChatGPT 和 Codex
他描述共享智能体和适应性更强的界面。
Berman 问起 ChatGPT 和 Codex 的合并。Tibo 说,一些用户最初对此有疑问,但 OpenAI 的目标是共享底层智能体和运行框架,处理编程及其他工作。
Tibo 希望界面适应个人,而不是迫使用户在固定的技术和非技术身份之间选择。他设想同一类产品服务于任务、连接工具和需求各不相同的人。
Berman 问理想的人机交互是什么样,Tibo 强调自然语言和对细微语境的理解。他的目标是减少用户为了让系统理解自己而需要付出的努力。
Berman 问非语言信号是否重要。Tibo 设想助手能够理解白板上的想法,并自然地进行语音对话;他说,采访时语音使用量正在增长。
竞争与额度重置
Berman 询问市场情况及 OpenAI 重置额度的原因。
Berman 提到 Codex 据称已有 2000 万用户,并询问与 Anthropic 的竞争。Tibo 则强调 OpenAI 所称的重点:有能力且高效的模型,以及面向不同用户广泛提供产品。
当 Berman 追问定位与品牌差异时,Tibo 强调社区反馈和 OpenAI 的使命。他的回答主要描述自己公司的观点,并未详细比较两家公司。
Berman 问重置使用额度是增长策略,还是对开发者的善意。Tibo 说,这最初是团队出现故障或配置错误、导致用户体验不佳时给予的补偿。
Tibo 说,他觉得合适时可以触发重置,这个过程不需要和市场或财务部门协同。他还说,有时提供额外额度是为了庆祝或让用户试用新功能。
效率与自我改进
Tibo 讨论基础设施优化和研究暂停。
Berman 将额度重置与算力规划联系起来,问 Luna 所报告的降价有多少来自效率提升、有多少来自商业策略。Tibo 没有给出数字拆分,而是谈到提前规划算力和工程优化。
Tibo 说,先进模型可以帮助工程师重构服务栈,同时改善成本与速度。他称普通运行速度在三个月内提高了约 60%;这是采访时的公司说法。
他表示 OpenAI 希望将显著的效率收益分享给客户,而不是全部留给自己。谈到算力分配,他说这些改进让团队能在相近算力范围内容纳更高吞吐量。
Berman 问,用一个模型改进另一个模型是否属于早期的递归自我改进。Tibo 广义地使用这个术语,将模型帮助改进推理基础设施、内核、产品及人们使用模型的方式也包括在内。
谈到据报道暂停前沿强化学习工作,Tibo 说能力越强,安全和对齐就越重要。他表示,暂停让团队有时间理解并加固系统,然后再重新开始。
Berman 问重新开始训练是否有预先设定的目标。Tibo 说安全团队经历了讨论和探索,形成了一套较明确的原则;他在采访中没有给出具体门槛。
更快的推理带来什么变化
两人讨论故障响应、创作流程和工具延迟。
谈到超快速推理,Tibo 说 OpenAI 会在故障响应等每秒都重要的高风险场景使用它。团队在需要迅速试验想法、赶上产品决策时,也可能申请使用。
两位嘉宾都提到自己有 ADHD,但偏好不同:Tibo 常常喜欢切换上下文,Berman 则更愿意集中处理少数任务。Tibo 说,即便如此,当他想专注时,快速响应也有助于保持心流。
Tibo 说,当智能体需要生成大量代码、工具调用较少时,更快的 token 生成速度帮助最大。如果网络或工具开销占主导,端到端加速可能远小于生成速度的倍数。
谈到员工是否总用最快模式,Tibo 说 OpenAI 限制内部使用,并把大部分容量留给客户。这是他对采访时公司资源分配的描述。
对于外部用户,Tibo 期待非文本协作:在共享画布上生成不同方案、选择图片,或实时调整原型。他认为快速反馈能让创作迭代更流畅。
Tibo 预测,随着硬件和 token 效率改善,很快的速度可能在一两年内接近标准配置,而更昂贵的高一级服务仍可能存在。这是预测,不是承诺或有保证的价格。
使用机会与公众担忧
Tibo 讨论效率,并建议从实际用途中学习。
Berman 问如何回应担忧就业、环境影响或人工智能本身的人。Tibo 主要谈到效率提高、成本降低和更广泛的使用机会,并没有逐一充分回应这些担忧。
对于不敢尝试 AI 的人,Tibo 建议了解别人如何实际使用它。他说自己使用健康相关工具,在看医生前获得更多信息;这是他的个人经历,而不是用它取代专业医疗。
同频道的其他文章
25:50EN → 简体中文
32:20EN → 简体中文
0:22EN → 简体中文
45:08EN → 简体中文
0:32EN → 简体中文
12:14EN → 简体中文