Mark Chen 谈 GPT-5、合成数据与 AI 研究的未来

Matthew Berman 询问 OpenAI 研究负责人 Mark Chen，2025 年 8 月 GPT-5 发布前公司的氛围如何。Chen 说，发布过程通常经历早期兴奋、中途对模型能否达到预期的不确定，等到各个部分逐渐成形时又重新变得兴奋。

被问及研究实验室如何平衡研究与成功的产品时，Chen 说两者相互支持：研究突破带来有用的产品，产品又推动进一步研究。他希望研究接触真实世界，让人们体验其能力。

Berman 询问 OpenAI 从 GPT-4 中学到了什么，以及新的公开训练数据是否已经稀缺。Chen 说这个假设部分正确，但团队仍能改进并扩展数据来源，包括公开材料和授权材料。

Chen 对比了 GPT-4 对预训练的规模化与 GPT-5 将预训练和 OpenAI o 系列发展出的推理工作相结合。他说，目标是在需要时提供更深入的推理，在适合时快速回答，让用户不必每次手动选择。

另一部分工作是模型生成的合成数据。Chen 提到研究员 Sébastien Bubeck 领导的项目，并说它有助于改善 OpenAI 重视领域的数据覆盖。他将其描述为正在进行的研究项目，而非对人类创建数据的完全替代。

Berman 问，使用前代模型的合成输出进行训练是否只能带来有限进步。Chen 说，OpenAI 认为更高质量的合成数据有潜力带来超越表层知识的显著改进，公司已经看到足够的潜力，因此将部分成果用于 GPT-5。

Chen 拒绝披露合成数据与人类数据的确切比例，也没有给出与 GPT-4 的数值比较，但他说合成数据随着时间推移变得更加重要。Berman 询问哪些领域获益最多，并提出数学、科学和编程。

Chen 说，GPT-5 特别重视编程，同时他预计合成数据技术可以广泛应用。被问及其不足之处时，他没有指出必须排除的领域；他说一些领域比另一些更适合，但原则上认为这种方法具有通用性。

谈到早期技术押注，Chen 描述了探索架构、优化、推理和基础设施的团队。他们先提出大量想法，再随着证据出现逐步筛选，并整合最有前景的方案。他没有披露某个具体的新架构。

Chen 再次谈到结合推理和预训练的挑战。他认为 Max Schwarzer 领导的后训练工作使推理更快、更稳健、更可靠，从而能够在统一的用户体验中提供两种方法。

Berman 询问 OpenAI 如何在预训练与强化学习之间分配算力和资金。Chen 说，公司对两者都有大量投入：强化学习仍有许多早期研究问题，预训练在合成数据、架构和优化方面也有空间。

Chen 说，选择哪个模型快照发布在一定程度上是一门艺术。团队需要在消除令人担忧的行为、打磨细节与无限期等待各方面都完美的模型之间取得平衡。他表示，实际动手检查会辅助这一决定。

Berman 询问 Chen 个人的“感觉测试”包括什么。Chen 使用一道数学问题：利用小于 42 的各个素数模数的随机数生成器，构造模 42 的均匀随机数生成器，观察模型能否朝最优解取得进展。

在更日常的测试中，Chen 要求模型生成用户界面和物理模拟，例如弹跳物体或流体。他观察视觉上的合理性、代码稳健性和美观程度。好看的模拟能够提供有用反馈，但仅凭外观不能证明其物理过程正确。

Chen 还将模型作为写作伙伴，请它评论和修改自己的文档。他关注文风是否有说服力、是否吸引人，并说自己注意到 GPT-4 到 GPT-5 的创意写作有所进步。

Berman 提出喜剧是一项困难的测试。Chen 回忆，旧模型有时会因为文本显得奇怪、不真实而好笑；他认为推理模型的幽默能力正在提高，并提出理解笑话为何好笑可能是一项推理测试。

两人讨论了把 AI 用作个人决策的头脑风暴伙伴。Berman 重视听到自己可能遗漏的角度，Chen 则说模型能为利弊交错的情境提供一些看法。

Berman 询问中国开放模型和论文是否改变了 OpenAI 的方法。Chen 说，OpenAI 通往 AGI 的研究路线图几年来总体保持稳定，包括 DeepSeek 发布模型之后也是如此。他赞赏 DeepSeek 的架构工作和高效内核，同时表示 OpenAI 基本沿着既有计划推进。

被问及路线图有多具体时，Chen 指向开发能在回答前进行更长时间推理的模型。他认为这一方向是 OpenAI 开发通用智能的核心，并表示其推进独立于外部发布。

Berman 询问 GPT-5 是否出现了涌现能力。Chen 说，用户需要时间和实验才能发现这些能力，但他引用 OpenAI 内部的编程偏好结果，称其对早期模型的胜率超过 70%。他还称可靠性、幻觉和工具调用有所改善；这些说法反映的是 OpenAI 自身的评估。

Berman 说，自己的测试生成了更有视觉吸引力的前端和更长的单轮代码，有时超过 1000 行。Chen 表示 GPT-5 面向开发者进行了调整，长上下文和处理大型代码库是重点。两个例子都没有衡量模型在不同项目中的代码正确率。

Berman 询问未来会是一个通用的“全能”模型，还是许多专用模型。Chen 认为大型通用系统是合理的可能性，同时介绍了 OpenAI 对智能体组织协作完成复杂目标的兴趣。他认为单一系统还是组织更有效，仍是活跃的研究问题。

Berman 问，开发者围绕 GPT-5 构建智能体脚手架还有多少机会。Chen 预计针对具体应用的脚手架仍会有用，但希望更强、更可靠的通用模型能减少为弥补模型缺陷而设计的复杂变通方法。

记忆和上下文管理是脚手架的另一部分。Chen 称有限的上下文窗口是一项重大限制，并设想系统能够在更长时期内保留有用上下文，包括代码和个人文档，从而减少打断用户的次数。

Berman 问，极大的上下文窗口本身能否解决记忆问题。Chen 说，很大程度取决于底层架构：系统不仅要接受长输入，还必须高效整合并检索相关的较早信息。他没有声称已经找到最终解法。

谈到多模态，Chen 介绍了现有的图像和音频处理以及图像生成能力。他认为感知是智能的核心，并称在这些任务上，GPT-5 从复杂图像中提取相关信息所需的思考时间比以往推理模型大幅减少。

Berman 询问 Chen 在最初 Codex 模型中的角色，以及 OpenAI 为什么关注编程。Chen 说，编程模型可以加快研究本身，因为研究人员通过代码实现和测试想法。

Chen 回忆，早期 Codex 也需要新的方法来衡量代码生成进展。他将早期简单编程任务与复杂得多的竞赛问题进行对比，认为编程既能帮助研究人员，也可能推动科学进步。

被问及编程和数学是否是通用推理的关键时，Chen 说许多领域都能训练推理，包括数学、物理、写作甚至幽默。编程具有战略重要性，因为它是 OpenAI 日常工作及更广泛技术活动的核心。

Berman 询问强化学习如何验证创意写作或幽默等主观工作。Chen 说，提高验证器和强化学习的通用性是重要研究目标；但被问及模型评判和其他技术时，他只表示系统结合了多种方法，拒绝透露细节。

Chen 强调了 GPT-5、近期发布的开放权重模型，以及编程和数学竞赛成绩。他将 AtCoder 前三名的结果视为里程碑；这是他对竞赛系统的描述，并不证明每个普通用户都会获得同样表现。

Berman 问竞赛成绩如何转化为日常应用。Chen 说，团队追求的是相对通用的推理系统，而非只能解决单一竞赛的模型；他表示团队使用通用技术，几乎没有或只进行了少量专门调优。他认为广泛能力应能延伸到竞赛之外，但这一说法仍需要针对具体任务的评估。

话题转向 20B 和 120B 的 gpt-oss 模型。Chen 说，他对能够在常见消费设备上运行的模型感到兴奋，因为这能让爱好者、研究者以及有特殊需求或本地部署需求的用户更容易使用。硬件要求取决于具体模型和部署方式。

Chen 说，OpenAI 根据其安全准备框架测试了开放权重模型，包括对抗性微调是否会提高网络安全、生物或化学风险等领域的能力。他表示，模型在发布前根据公司阈值接受评估；这是 OpenAI 对安全流程的描述，并非安全保证。

Berman 询问团队如何选择总参数量和活跃参数量。Chen 说，目标设备和延迟推动了设计，早期与开发者的交流也帮助确定方案。目标是让这些模型能够实际运行。

随着熟悉的基准测试逐渐饱和，Chen 认为出现了测量问题：人类编写的、曾经困难的测试可能已不能很好地区分前沿系统。新基准正在快速开发，但尚无普遍认可的方法，有用测试的有效期也可能很短。

被问及 ARC-AGI-3 等交互式环境时，Chen 认为它们有用，但警告不要过度针对单一基准优化。他将广泛的测试集合视为判断通用推理是否进步的信号。

Berman 询问应该对担心编程职业前景的学生说什么。Chen 建议学习使用 AI 工具加快工作，同时形成自己的想法并深入理解技术如何运作。他提出的生产率倍数是期望，而非对每位工作者承诺的实测结果。

对于更广泛的知识工作者，Chen 预计经济会发生重大变化，但相信随着新工作出现，人们能够适应。他希望技术通过科学和经济活动提高生活质量。这些是他的预测，并非对就业或收益分配的保证。

从 2025 年的访谈向后看六个月，Chen 对扩大推理时计算规模、探索强化学习目标和优化感到兴奋。在约两年的时间尺度上，他希望 AI 系统能在 AI 研究方面达到与他相当的效率，并推动后续系统的创新；这是预测和研究愿景，并非已经展示的能力。