Forward Future Live：GPT-5、AI 基础设施、评估与编程智能体

Matthew Berman 与联合主持人 Hiten Shah 开启 2025 年 8 月 15 日的 Forward Future Live。他们预告 GPT-5 的两极反应、半导体出口规则和 AI 经济，并介绍嘉宾 Jordan Nanos、Tejal Patwardhan 和 Guy Gur-Ari。

两位主持人介绍了本期三位嘉宾，并谈到本周 GPT-5 所获得的不同评价。节目先回顾新闻，再进入采访。

Berman 在自己的测试中喜欢 GPT-5，但观众反应大不相同。Shah 觉得新模型失去了个性，认为这次发布说明人们很看重 GPT-4o 和 GPT-4.1。他对 API 路由的印象只是用户观察，并非每次 API 请求都如此的确认描述。

Shah 将此次发布描述为在一个充满不确定性的新领域快速推出产品。他称其为“YOLO”模型，是对发布方式的评价，并不是对团队实际流程的断言。

Berman 认为 OpenAI 低估了用户对对话风格的依恋。模型和系统指令会随时间变化，但完全更换模型尤其容易让这种差异显现。他指出，用户反应之后 GPT-4o 得以回归。

Berman 认为更改模型权重或系统指令可能影响其风格。更换模型后用户体验的大幅变化，让依赖熟悉语气的人感受到了这些区别。

Shah 认为聊天界面会促使人们像对待另一个人那样对待模型。Berman 区分了情感依恋和实际问题：已有工作流和提示可能围绕某个模型设计，无法总是原封不动地换用其他模型。

Berman 提到一份帮助用户从 GPT-4o 转向 GPT-5 的提示转换指南。Shah 说，他此前已在旧模型上使用结构化提示，并将这一转变视为学习如何传达需求的一部分。

Shah 说，他注重输入与输出的提示方式已经与部分 GPT-5 使用建议相似。他看到用户在学习如何获得一致答案，也感觉幻觉减少。Berman 有类似个人感受，但这不证明幻觉已经消失。

主持人问，除了数学和编程分数，如何衡量语气、个性等不那么容易量化的模型特质。Shah 描述了用人工判断建立评分器，再用模型给输出评分的方法，同时提醒真实用户的目标各不相同。

Shah 建议建立人工评分样本，再据此开发自动化评估。Berman 对比了可衡量的技术任务和对话品质，打算询问 Patwardhan 的团队如何处理。

Berman 提到有报道称，NVIDIA 和 AMD 同意将某些对华芯片销售收入的 15% 上交，以换取出口许可，随后又有报道称中国对这些芯片表达担忧。Shah 将这一安排理解为谈判；主持人认为中国的动机仍是开放的地缘政治问题。

Shah 指出中国正在投资本国半导体生态，并说芯片安排涉及多方。参与者承认，外部观察者并不了解谈判各方的所有目标。

SemiAnalysis 的 Jordan Nanos 加入节目。他说自己参与 ClusterMAX，测试新型云服务商的 GPU 服务，并介绍公司面向行业参与者和投资者提供的半导体研究、时事通讯、咨询和数据产品。

Nanos 认为中国通过投资、补贴和政策支持本土加速器及制造业。他说让开发者转向其他芯片可能减缓眼前工作，同时逐渐建立能力。他将报道中的 DeepSeek 延迟与这一转变联系起来，但承认这依赖报道和推断，因果关系尚未确认。

Nanos 认为适应不熟悉的加速器需要工程投入和优先事项调整。这可能推迟近期模型开发，但也可能在长期帮助建立生态。

Nanos 引用有关 DeepSeek 的报道，并提到它此前的发布节奏。他怀疑延迟发布的模型未必能达到人们的期待，但没有声称直接了解公司的内部时间表。

被问到时间线时，Nanos 猜测达到有用的生产规模可能需要五到十年，法规、设备获取和持续投资都是重大不确定因素。他区分了达到实用规模与在先进制造方面超越 TSMC，并预计后者需要更长时间。

Nanos 讨论了 Huawei Ascend 的不同版本及供应链。他声称所讨论芯片全部采用 TSMC 工艺，这不应视为已证实的事实：制造与封装可能因版本和出口限制而异。具体产品的组成和供应情况需要独立核实。

Nanos 预计 AI 芯片市场会增长，但不会由一家赢家通吃。主持人随后讨论一张梗图：AI 应用获得 1 亿美元经常性收入，却面临 1.2 亿美元模型供应商账单；这些数字只是示意，不是任何特定公司账目的证据。

主持人用假设的负毛利梗图质疑依赖外部模型 API 的应用经济性。Nanos 区分了某个定价方案能否持续与产品本身是否有用。

Nanos 说，编程助手在他的工作中已足够有用，即便经济模式需要改变，他也不认为用户会愿意放弃。主持人将当前风险投资补贴与早期低价 Uber 行程以及过去的高 SaaS 估值作比较。

Berman 回忆风险投资时代的补贴行程。Shah 将当前形势与普通软件公司曾获得极高收入倍数的时期相比较，并说投资仍需要真正的执行力和需求。

Shah 将这场竞赛描述为：持续资助增长和技术，直到需求与执行能够支撑可持续业务。Nanos 提到一些早期风险投资支持的公司在达到规模前曾亏损，并预计市场会找到与开发者支付意愿相匹配的模型质量和速度组合。

Nanos 以在机场叫车为例，说明用户可能不愿放弃便利。他预计供应商最终会找到用户认可的价格、速度与模型质量组合。

Nanos 将 GPU 买家分为三类：运行训练或推理的托管集群客户、自行管理基础设施的批量买家，以及需要按需启停算力的用户。他将 AWS、Azure、Google Cloud 和 Oracle 列为主要供应商，同时认为 CoreWeave 是一家规模较大的 AI 专业服务商。

Nanos 说，SemiAnalysis 跟踪了 130 多家新型云服务商，既有转型的加密货币矿商，也有主权投资和风险投资支持的集群。它们大多购买加速器，安装在数据中心后出租算力。吉瓦级项目代表巨额已宣布投资，并不证明每个拟议项目都已建成。

建设项目包括改造矿场、长期承诺以及按小时出租。主持人指出，运营商需要权衡 AI 基础设施与电力和设备的其他可能用途。

Nanos 将 CoreWeave 的地位部分归因于围绕 AI 集群构建的用户体验、支持和软件。他认为 2025 年新型云服务商的价格与服务对一些初创公司来说比超大规模云厂商更具竞争力，但也提醒大型云供应商正在积极争夺市场。

他认为未来的竞争一方面是用差异化功能证明溢价合理，另一方面也可能是客户只需要有限的集群功能。主持人转向 Google TPU 和 AWS Trainium 等自研芯片。

Nanos 从用户角度排列加速器生态：NVIDIA 第一，其后是 Google TPU、AWS Trainium、AMD 和 Huawei，另有其他专业厂商。这是分析师对 2025 年的判断，不是适用于所有工作负载的客观排名。

Nanos 指出，自研芯片不仅包括 AI 加速器，还包括 CPU、网络和存储。对选择基础设施的客户来说，实际问题是整个系统如何支持训练或推理。

他讨论 Google 的 TPU 合作关系，猜测更广泛地向外部提供 TPU 可能给 NVIDIA 带来更大的竞争压力。客户必须权衡总成本、性能和研究人员生产力，而不只是芯片规格。有关个别合同、持股和限制的说法是他当时的理解，这里未独立证实。

Berman 问 Google 为什么会扩大 TPU 的外部使用。Nanos 看到收入和合作机会；Shah 则指出，部分外部访问已经通过云合作安排存在，并问 Google 是否有足够容量同时满足自身和客户需求。

Shah 指出 Anthropic 等实验室可以从多个供应商获取算力。他区分了通过合作伙伴关系销售 TPU 使用权与广泛开放，并询问容量是否允许扩大供应。

Nanos 提到追踪加速器出货的同事称生产正在加速，同时承认自己对专有数据的了解有限。他根据模型开发商及其部署限制判断需求大幅超过供应；这是一项评估，不是公开的全行业测量。

Nanos 说，模型供应商曾报告难以向所有免费用户提供最新系统。他认为路由是让有限资源匹配请求的一种办法，但供需图景依赖不完整的外部信息。

Nanos 认为为每个请求匹配合适模型有助于分配稀缺算力。他还猜测，基于意图的广告或推荐链接可能为廉价请求提供资金。Berman 感谢他，并转向下一则新闻。

主持人讨论了据报道 Perplexity 对 Chrome 提出的 345 亿美元主动收购要约。Shah 怀疑这是宣传策略；Berman 询问拥有浏览器是否具有战略价值。对动机的判断只是猜测，要约也不等于收购完成。

Shah 将 Comet 和 Dia 等 AI 浏览器视为把网站当作上下文并自动执行浏览的应用。他认为浏览器可能商品化，或被拆分为特定用途的体验。Berman 则认为浏览器是重要的 AI 交互入口。

Berman 说浏览器可以成为 AI 的战略入口，并描述了自己轻松迁移到 Perplexity Comet 的经历。Shah 认为未来桌面产品可能具备针对特定用途的浏览器功能。

被问及哪个平台最重要时，Shah 选择操作系统，并认为不应忽视 Apple：其设备、芯片和软件整合可以支持本地模型。Berman 同意 Apple 拥有资源，但说自己使用 Apple Intelligence 的体验令人失望。

Shah 认为 Apple 整合操作系统和芯片的能力可能对端侧 AI 很重要。Berman 指出 Apple 过去曾成功跟随其他创新者，但他认为目前的 AI 发布面临不同挑战。

Shah 认为 Apple 可能需要先发布再迭代，而不是等待品类成熟。他称赞 Apple 的写作工具；Berman 则说自己转用 Pixel 以尝试 Google 的 AI 功能。这些是个人体验，并非系统比较。

OpenAI 的 Tejal Patwardhan 加入节目。她说自己的评估工作会定量衡量模型的知识、技能、工具使用和行为，这些结果会影响研究、安全与发布决策。Berman 问，当熟悉的基准测试逐渐饱和时，评估应该如何演变。

Berman 问评估人员如何超越已饱和的学术测试。Patwardhan 认为基准成绩提高是真实进展，但下一个挑战是衡量更像实际工作的复杂、开放任务。

Patwardhan 说，团队越来越希望测试类似真实工作的复杂、开放、长时程任务，而不只是有完整答案的考试。Berman 提到基于软件自由职业任务的 SWELancer，以及测试研究复现能力的 PaperBench。

她说，SWELancer 用美元表示完成工作量，让规模更容易理解；PaperBench 则测试常见研究活动：重新实现已有论文。复现可能是研究辅助的一块基石，但不能证明智能体能自主改进自身。

Patwardhan 说，重新实现已有研究有助于新研究人员学习方法并发现问题。模型协助这项活动可以支持研究，但只是通向更独立发现的早期一步。

Berman 问自由职业基准是否提供了赚钱蓝图。Patwardhan 认为模型可能帮助自由职业者加快工作，但没有对实际结果下结论。Shah 问评估人员如何选择用例。

Patwardhan 描述了两个目标：有意识地覆盖编程、科学等重要领域，同时测试广泛任务以评估泛化。她以数学和编程竞赛为跨领域技能评估的例子，并没有声称一个结果就解决了通用智能问题。

谈到个性和语气，Patwardhan 说自己主要研究前沿能力，但介绍了与 Model Spec 对应的系统性提示、重复采样与评分、A/B 测试和研究人员的直观体验。没有单一指标能完整捕捉用户偏好的范围。

被问到自己的非正式测试时，她说有时会要求模型讲笑话，但更多时间用于查看评估仪表板，寻找失败任务和技能缺口。她关心的是大量样本上的泛化，而不是某个钟爱的提示。

Berman 问 PaperBench 是否指向自我改进的 AI。Patwardhan 说，复现研究是一块早期基石；理解缺陷和提出新想法则是后续步骤。她认为潜力和衡量进展的必要性都很重要。

Patwardhan 说，自我改进既令人兴奋，也需要谨慎衡量。按照她的思路，模型需要先能复现工作，才可能被期望可靠地诊断和拓展研究。

她说 PaperBench 的一个意外发现是，论文作者很愿意帮助制定详细评分标准，部分原因是模型可能减少繁琐的研究工作。她还观察到，一旦基准成为目标，团队通常会在该基准上取得进展；但分数提高仍需要解释。

Berman 转向涌现式错位。Patwardhan 描述了一项研究：有问题的训练可能引发超出狭窄训练样本范围的不良行为。[OpenAI 研究](https://openai.com/index/emergent-misalignment/)考察了特定模型和合成训练条件；它并未证明所有错位都容易检测或修复。

Patwardhan 说，研究人员识别出一个与错位人格相关的内部特征，并探索及早检测它。他们还发现，在实验中相对少量的额外训练可以降低所测得的行为。这些是有范围限制的实验结果，不是普遍的安全保证。

Berman 问，在尚未完全理解内部计算时，可解释性研究如何发现令人担忧的行为。Patwardhan 区分了对潜在特征和思维链监控的具体、可处理研究，与理解模型这一困难得多的总体问题。

Patwardhan 认为，追踪特定潜在特征等聚焦的可解释性问题能够带来进展，而不必声称已经拥有模型计算的完整理论。

Berman 进一步追问思维链文本是否忠实反映内部推理。Patwardhan 说，过于直接地针对可见推理进行优化可能鼓励模型隐藏有问题的推理；她讨论了减少此类压力，同时承认无法保证忠实性。

被问到模型能做的每件事是否都能做成基准测试时，Patwardhan 说评估很难。创意写作就是例子：人们可能对质量有不同看法。Shah 部分依据目标受众判断写作；Berman 则说自己更难区分优秀与卓越。

Patwardhan 对比了有可验证答案的客观问题，以及需要人工或个性化判断的主观任务。随机比较和人类偏好仍能量化主观行为的某些方面，但结果取决于受访者和实验设计。

Patwardhan 解释说，人类比较可以将不同的人分配给不同模型，也可以让同一个人在多个输出中选择。此类实验能使主观偏好可测量，同时不假装所有用户都希望得到同一种答案。

话题转向个性化。Patwardhan 以表情符号为例：有些用户喜欢，而她更喜欢简洁回答。Berman 讲述自己要求 ChatGPT 避免废话，结果却反复收到“没有废话”的保证；Shah 则更喜欢稍微健谈且主动的风格。

Shah 介绍如何调整系统提示，让助手更健谈、更主动，以及为何不愿轻易改变有效的配置。Berman 将这一偏好与模型个性的更广泛讨论联系起来。

谈到安全，Patwardhan 描述了分层方法：过滤部分预训练数据、评估行为、安全训练（包括安全完成训练），以及部署后的监控与执法。多层措施可以覆盖不同缺口，但没有任何一层能保证绝对安全。

Shah 问 GPT-5 路由器如何接受基准测试。Patwardhan 说自己没有深入参与路由器工作；她的团队比较了底层模型与前代模型。她强调，解读头条准确率时需要控制脚手架、提示、测试时计算量、冗长程度和采样等因素。

Patwardhan 指出，即使是同一个模型，多次采样也可能产生不同答案。评估比较需要考虑设置和算力，不能把头条分数当成模型权重的孤立属性。

Patwardhan 对见证模型能力发展感到兴奋，希望看到更多对齐监控和可解释性研究。她还预计更广泛的使用会加深对模型行为和个性的理解。主持人感谢她参加节目。

采访结束后，Shah 说，相比头条基准排名，针对会计和金融等具体工作的评估可能对用户更重要。Berman 说自己让 GPT-5 根据业务财务数据制作预算与预测应用，但当时尚未查看结果。

Shah 说，模型转换财务数据时有时会出错，但也能发现值得调查的模式。这些例子是个人经验；财务输出仍需要核查。Berman 也想知道为什么普通会计软件不能更容易地提供自然语言报告。

主持人讨论 Google 的 Gemma 3 270M 开放权重模型和本地推理。Shah 希望在实际目标设备和用例上进行评估，包括与 API 工作负载比较，并提到本地文本转语音的进步。

Shah 说，有用的本地模型测试应在预定部署的实际电脑或手机上运行。他希望将其表现与目前发送给远程 API 的相同任务进行比较。

Berman 对比大型通用模型与更多专用模型和边缘计算的未来。Shah 设想类浏览器应用在本地处理网页上下文。两人都看到机会，但认为该领域尚未充分探索，而非已经大规模得到验证。

Berman 希望本地工具能让网页搜索和综合信息像托管聊天一样容易。Shah 预计部分工作负载会从付费云端推理转移到设备上；Berman 补充了潜在隐私与延迟优势，同时认为大型云端模型仍有必要。

Guy Gur-Ari 加入节目，讨论为大型代码库团队提供编程辅助的 Augment Code。他介绍了补全、下一处编辑、聊天和智能体功能。他后来纠正 Berman 的介绍：自己是联合创始人兼首席科学家，Matt McLaren 才是 CEO。

Gur-Ari 说，公司的核心论点是更强的模型仍需要相关上下文。他的团队花了约一年探索如何从大型代码库收集上下文，并将这一方法从补全扩展到智能体。他对竞争差异化的说法是公司代表的评估。

他回顾自己的物理学背景，以及在 Google 理解机器学习模型、解决数学和科学问题的经历。后来他与系统工程师 Igor Ostrovsky 一起构建面向大型企业的编程智能体，并在 Sutter Hill Ventures 孵化。

Gur-Ari 说，他在 Google 的研究涉及机器学习系统内部机制和困难的推理任务。编程提供了一个机会，让他将相关思路应用于面向大型组织的产品。

被问到定价时，Gur-Ari 说 Augment 当时按用户消息收费。模型从一条指令中调用更多工具、完成更多工作时，用户可能获得更多价值，但供应商的推理成本也会增加，而每条消息的价格不变。这里描述的是历史定价。

按消息收费存在张力：更有能力的智能体能根据一条指令完成更多工作，有利于用户，但额外的模型和工具调用会提高供应商成本。Gur-Ari 说团队正在考虑定价如何演变。

他解释了另一种权衡：如果按每个 token 或工具调用收费，智能体陷入循环或失败时，用户可能因此受罚。消息是用户发送的指令；按照他描述的当时方案，后续模型调用、工具调用和测试不算作单独的用户消息。

看到 1 亿美元收入与 1.2 亿美元模型账单的梗图后，Gur-Ari 承认推理成本很高，并纠正了自己的职位。他预计竞争、更便宜的模型以及可能出现的开放权重会降低成本，但说公司必须平衡优化与稳定的用户体验。

他预测系统会从一个智能体处理所有事情，转向能够使用不同模型的多个智能体。Berman 问产品能否自动路由任务，让用户不必选择模型。Gur-Ari 说这是猜测，但有可能发生。

在会话中途切换模型会失去已有模型的上下文缓存优势：新模型必须重新处理这些内容。Gur-Ari 说，质量提升必须值得付出这笔成本；他认为这是简单单智能体设计中限制会话中途路由的因素。

Gur-Ari 说，在会话开始时路由比积累了大量上下文后更容易。多智能体设计可能让系统更灵活地决定每个模型需要哪些上下文。

他偏好的多智能体模式由一个协调智能体处理高层计划和用户交互，子智能体执行范围明确的任务。这可以避免过多细节进入监督者上下文，并提供单一联系点。他也提到了更复杂的去中心化智能体群作为另一种方案。

主持人问子智能体会使用相同还是不同模型。Gur-Ari 说这仍是开放问题，取决于任务：系统可以混用托管模型或开放权重模型，带来灵活性，但不会自动保证成本更低或质量更高。

对于边缘推理，他持谨慎态度。当前前沿模型超过了普通笔记本的承载能力，但较小的子智能体可能在本地运行。支持用户各异的硬件会增加产品复杂性，因此他说，成本、速度或质量收益必须足够明显。

Gur-Ari 描述了 GPT-5 在 Augment 中的早期观察：工具使用能力强，能仔细探索代码库并给出结构清晰、易读的答案，但有时会在完成任务前调用更多工具。他强调提示和外围产品会影响行为，这些只是早期轶事性反馈。

他表示，Augment 中的模型行为受提示和集成方式影响，并非只取决于基础模型。团队仍在改善 GPT-5 集成，因此他的初步观察可能变化。

被问及 Claude 的百万 token 上下文窗口时，他说 Augment 动态管理上下文，使会话和代码库可以超出单个模型窗口的大小。更大的窗口仍有帮助，因为它能同时容纳更多相关信息，但成本可能上升，团队当时仍在测试。

Gur-Ari 称产品的上下文体验实际上不受限，是因为它会检索和管理相关信息，并不是模型拥有无限上下文窗口或完美记忆。Berman 和 Shah 注意到这一区别，并询问他偏爱的编程模型。

Gur-Ari 说，直到最近 Claude Sonnet 4 一直是他的日常主力模型，此前则使用过 3.5 和 3.7，但他拒绝透露正在尝试的新模型。Berman 开玩笑说是 GPT-6；Gur-Ari 否认。主持人随后对未具名模型作了没有证据的猜测。

他说，在不同 Claude 版本之间切换需要调整，也理解为什么有些用户更喜欢自己熟悉的行为。他没有透露正在测试的新模型。

Berman 感谢 Shah 和嘉宾，并结束直播。录制以主持人道别结束；问答贯穿各段采访，并没有单独的观众问答环节。