30 秒看懂
前 OpenAI 首席研究官 Bob McGrew 认为,让 AI 研究员的工作自动化可能带来大幅提速,却不一定引发无止境的智能爆炸:实验仍需要 GPU 等物理资源。他的公司 Arda 正将这一观点应用于制造业,目标是在产品变化时更容易重新设计产线。McGrew 说,Anduril 一位工程师使用其软件,将执行器虚拟制造规划从几天缩短至 90 分钟;他也解释了为什么与用户并肩学习对产品至关重要。
- 1自动化研究工作无法消除 GPU 瓶颈McGrew 说,OpenAI 的实验受限于可用算力及其连接方式,而不只是研究人员数量。他预计自动化能大幅提高效率,但这种提升并非无限。
- 2模拟更快可能让瓶颈再次转向实验McGrew 认为,即使预测实验结果的能力提高十倍,仍需要进行物理测试。Gil 则认为,模拟在某些领域可能比其他领域替代更多实验。
- 3产品频繁变化使定制自动化设备更加昂贵McGrew 将长期生产同一车型的产线与频繁变化的电子产品作比较。他希望自动化工位可以重新配置,而不是重建。
- 4Arda 称执行器规划从几天缩短至 90 分钟McGrew 讲述了首位 Anduril 用户用 Arda 软件规划执行器虚拟制造的经历。此后公司又参与其他产品的生产流程工作。
- 5通用模型可以协调专用制造工具McGrew 说,Arda 将前沿模型与运动规划、计算机辅助设计检查等专用工具结合使用。
- 6驻场工程师将用户问题转化为产品改进McGrew 描述了 Arda 产品负责人观察 Anduril 早期用户,以及团队修复所发现问题的过程。他说,这些经验必须转化为可重复使用的软件。
要点建议
- McGrew 认为,自动化研究员的工作可以改善算力利用,却无法消除实验的物理限制。
- 产品变化时,制造自动化必须能够以经济的方式重新配置,而不只是能完成单一任务。
- 先以共享、结构化的形式表示生产流程,再让智能体帮助改进。
- 让工程师与积极参与的用户一起工作,再将所学转化为可重复使用的产品功能。
- 根据任务选择机器人智能:受控工厂工位与陌生家庭的要求不同。
按章节阅读整理后的全文
为什么智能需要实体产能
McGrew 认为,自动化研究员仍需要计算资源。他认为提高实验效率能带来显著但有限的收益。
Bob McGrew 说,AI 改变了数字工作,但物理世界的大部分景象与十年前相差不大。即使是无人驾驶汽车,也仍会堵在路上。他认为,超智能需要材料、机器和基础设施领域发生变化。
Sarah Guo 介绍了 Arda 首席执行官兼联合创始人 McGrew:他曾任 OpenAI 首席研究官,也是 Palantir 的早期高管。Elad Gil 问,当一些人预计 AI 会自动完成研究员的工作时,他为什么转向物理系统。
McGrew 质疑仅靠自动化研究员的工作就会引发不可控的智能爆炸。这一论点假定研究员效率提高两倍或一百倍,发现速度也会按同样比例提高;但他说,研究人员并不是主要瓶颈。
实验需要计算资源。McGrew 回忆,2024 年在 OpenAI,现有 GPU 的数量、部署位置及其连接网络,比实验室能够招聘多少研究员更加重要。
他说,自动化仍可能带来一次性的巨大收益,类似从 GPT-4o 到具有推理和工具使用能力的 o3 的跨越。它可能减少工程工作中的浪费,改善实验选择,但不一定带来无止境的自我改进循环。
McGrew 假设 GPU 的有效利用率从理想状态的 35% 提升到 90%,以此说明自己的观点。越接近上限,剩余收益就越小;之后要继续进步,就需要其他变化。
便宜的假设让实验变得稀缺
Gil 问模拟是否改变物理实验的作用。McGrew 预计数字能力提高之后,物理限制会再次出现。
Gil 问,在实验和硬件限制进展的机器人与生物领域,前沿实验室和创业公司谁会胜出。McGrew 说,实验室让智能变得更便宜,但更好的假设也让湿实验室和计算基础设施等配套资源更加稀缺。
McGrew 不确定哪些公司会占主导,但他怀疑建设湿实验室一定是前沿模型公司的比较优势。离开 OpenAI 后,他有意选择不再创办前沿实验室,而是思考为什么强大模型对物理世界的改变如此有限。
Guo 指出,丰裕通常指食物和住房等有形事物。McGrew 说,完成项目需要做好所有必要步骤:加快住房设计的数字工作,并不能省去审批或施工。
他提出一个思想实验:数据中心建设者缺少推土机,于是 AI 计划建一座推土机工厂。但清理工厂用地也需要推土机。更好的计划不会立刻创造实物生产能力。
Gil 认为某些科学领域可能不同,因为模拟能够代替实验;蛋白质折叠预测已经减少了在实验室测定某些结构的需要。他将这种情况与确实需要制造新机器的工作区分开来。
McGrew 回应说,更好的模拟可能让每次实验提供十倍的信息,但数字工作进展很快,之后实验仍会再次变成稀缺资源。他认为这是有价值的提速,却不意味着物理限制消失。
他回忆在 OpenAI 时,曾带着一篇方法很吸引人的论文去找 Ilya Sutskever,对方却问:“结果是什么?”McGrew 说,即使在深度学习领域,许多有希望的想法也需要实验来验证。
为什么产品变化会让自动化成本高昂
McGrew 说,为频繁变化的设计重建定制自动化设备成本很高。Arda 希望让产线更容易重新配置。
离开 OpenAI 后,McGrew 花了一年与制造业领导者交谈。他认为,美国擅长设计创新产品,但尝试在国内制造其中许多产品时会遇到劳动力成本问题。
在他看来,频繁变化的产品很难以经济的方式实现自动化。他说,不同代 iPhone 的许多零部件都会改变,而为某一装配流程定制的机器未必能用于下一代产品。
McGrew 说,汽车制造商可以大力投资自动化设施,并在多年生产相似产品的过程中摊销成本。频繁改版的手机面临不同问题:自动化设备必须足够灵活,才能避免每次都花巨资重建产线。
他估计,亚洲约有一百万人组装 iPhone 或其零部件,旁边还有大约一万名制造工程师。这些工程师决定如何随产品变化建设、启动和关闭产线。
Arda 的目标是让变更自动化产线的速度更接近重新培训工人。McGrew 说,即使是手工产线,制造商也认为七天完成设计变更已经很敏捷;公司希望实现上传设计后,在同样时间内重新配置自动化产线。
Guo 问这种灵活性在哪些地方最重要。McGrew 指向国防、消费电子和数据中心供应链:这些领域的设计或投入品经常变化,许多装配仍依靠人工。
他以乌克兰战场上根据局势变化调整装备为例,说明从设计到生产的快速周期面临的压力。消费电子领域的竞争没有那么暴力,但同样会奖励快速迭代。
工厂工作单元与机器人感知
McGrew 对比了受控的工厂工作与开放环境中的机器人任务。他解释了感知能力如何可能降低对固定夹具的精度要求。
Gil 问,自动化需要人形机器人,还是改进现有工业机器即可。McGrew 预计两者都会出现,但特别提到能够随设计变化重新配置的机器人工作单元。
McGrew 认为,在许多原本由人操作的工位,一个摄像头加上一两只机械臂就可能够用。他说,现有机械臂已经能完成大多数相关装配操作;难点在于承担频繁重新设计周边设备的成本。
他区分了整理陌生卧室这类开放环境任务与受控、重复的工厂工作。工厂可以减少新情况,把物体固定在已知位置,但成品也必须满足严格的可靠性要求。
他说,传统自动化有点像鲁布·戈德堡机械装置:振动送料器和精确定位的夹具把螺母放到已知位置,让机械臂无需感知即可拾取,再将它拧到固定的螺栓上。
工作既包括设计机器,也包括校准。微小的偏差就可能让零件无法到达预定位置,而让新设备投入生产可能需要数月。
Guo 问强化学习能否帮忙。McGrew 说,感知能力可以容忍一定的位置偏差;通过学习获得的操作能力,也可能处理夹爪中位置不完全准确的螺母。他建议先从较简单的工位入手,再逐步处理更难的柔性零件。
这种灵活性仍必须满足工厂的可靠性要求。McGrew 说,产线可能需要在 99% 或 99.9% 的情况下成功组装设备;卧室里偶尔漏掉一件物品则是另一套标准。
与 Anduril 构建制造工作区
Arda 早期的工作将制造计划集中起来,供工程师和 AI 工具使用。McGrew 介绍了执行器案例以及公司向其他产品扩展的过程。
McGrew 说,Arda 花了一年与国防制造商 Anduril 合作开发软件,帮助制造工程师设计产线。Anduril 希望有一个统一记录生产流程的地方,以及能够随需求变化重新配置的工厂。
Arda 在一月获得系统访问权限,四月迎来第一位用户。McGrew 说,一名制造工程师使用该软件,在 90 分钟内完成执行器的虚拟制造规划;这项工作原本需要几天。
他说,这项工作扩展到了 Anduril 的多个业务部门,涉及无人机、导弹和 Fury 协同作战飞机。软件将制造流程集中起来,避免信息散落在许多文档中,以便 AI 智能体处理。
McGrew 将这一目标比作 AI 辅助编程工具 Cursor,但他说制造工程师首先需要类似集成工作区和结构化变更记录的东西。流程形成可用的表示后,智能体才能提供帮助。
他描述了两个方向的用途:提出设计修改建议,降低产品制造成本;以及帮助设计用于某个生产步骤的自动化工位。
为什么 Arda 从问题出发
McGrew 对比了 Palantir 以客户为先的方法和 OpenAI 以技术为先的研究。Arda 使用通用模型协调专用工具。
Gil 问为什么 Arda 使用现成 AI 模型,而不是自己构建大模型。McGrew 说,公司从能解决客户问题的最简单工具入手,而不是把训练模型当成目的。
他回忆,在 Palantir,团队从情报界的问题出发,与用户并肩工作,再把学到的东西融入产品。相比之下,OpenAI 经常先从技术入手,当时尚不清楚人们会如何使用它。
McGrew 记得自己曾建议 OpenAI 选一个客户问题,从那里扩展。他说,Sutskever 认为扩大训练数据规模,比与一个客户交谈能让模型学到更多关于世界的知识。
在 Arda,前沿模型可以帮助理解制造流程并协调专门工具。McGrew 以运动规划和计算机辅助设计文件检查为例,说明通用模型可以调度专用算法提供的能力。
他说,对于特定任务,前沿实验室以外的公司也能够较容易地使用较小的专用模型。在他看来,训练这样的模型、编写软件包或创建工具,都是提供所需能力的不同方式。
从 Palantir 到 OpenAI 机器人团队
McGrew 回顾了他对神经网络态度的改变、早期机器人项目以及 OpenAI 的机器人手演示。
Gil 问 McGrew 如何从 Palantir 转到 OpenAI。McGrew 回忆,2005 年他怀疑神经网络能否实用,因此离开 Stanford 博士项目加入 Palantir;2015 年前后,随着视觉模型改进,他重新考虑了这一判断。
他花了约一年半尝试机器人技术,自学深度学习,让机器人利用视觉下跳棋。他认为当时创业还太早,于是加入 OpenAI,原本预计向那里的研究人员学习几年。
OpenAI 机器人团队希望通过演示表明,深度学习可以推动机器人技术,并可能通向通用智能。咨询机器人研究者后,团队选择教机器人手解魔方;McGrew 说,两年后项目成功了。
通用模型与专用机器人工具
McGrew 认为,即使机器人数据有限,广泛的物理世界表征也可能帮助机器人。他看到了任务专用模型和快速设备端控制的机会。
这段经历让他对机器人手持怀疑态度,尽管他承认相关工程技术可能已经改进。Guo 问,近期能够生成机器人控制策略的通用模型,对构建机器人专用模型的团队意味着什么。
McGrew 说,机器人技术长期受训练数据稀缺的限制。遥操作机器人和记录示范的手持设备可以收集样本,但他将其成本与语言模型使用的大量广泛可得的数据作对比。
在他看来,模型不必只用与最终执行任务完全相同的机器人和数据来训练。模型可以先从互联网视频等数据中学习对物理世界的广泛表征,再针对特定用途进行适配。
他提醒,不要将每种新能力都称为自发出现:外界看似突然涌现的能力,可能反映了多年的针对性工作。尽管如此,他猜测通用表征的改善是机器人近期进步的重要动力。
Guo 问这对机器人生态意味着什么。McGrew 认为,更多人可以使用强大模型,但也存在矛盾:大型通用模型开箱即用的效果可能很好,却可能运行缓慢,或无法针对特定工厂任务微调。
这可能为专业机器人公司留下空间,让它们收集特定任务数据并适配模型。在受控环境中,智能体可以从多种工具中选择,而不是每个动作都使用最慢、能力最强的模型。
Gil 补充说,当平衡或安全受到威胁时,在公共空间或家庭中活动的机器人不能总是等待网络调用。McGrew 同意快速控制很重要,并预计更小的蒸馏模型或设备端模型会发挥重要作用。
在用户身边工作,同时避免变成咨询公司
驻场工程师与早期用户一起发现具体问题。McGrew 说,他们学到的经验必须融入可重复使用的软件。
Guo 问 Arda 如何与大型工业客户快速合作。McGrew 描述了前线部署工程:让工程师进入客户现场,了解其限制,并为准备采用成果的用户构建产品。
他将这一做法追溯到 Palantir 早年在保密场所的工作,当时用户无法自由披露工作流程。他将这种方法的许多功劳归于 Shyam Sankar,并说产品团队必须向用户学习,同时不能把保密工作视为普通需求。
McGrew 说,少数坚定的早期用户就能帮助团队快速迭代。他记得 Palantir 的一位早期用户告诉他哪些地方不能用;Arda 的产品负责人也曾坐在第一位 Anduril 制造工程师旁边,记录需要修复的问题。
McGrew 说,第一次 Anduril 合作让那位用户感到挫折,但团队在随后两周解决了他提出的问题。当公司转向零件多得多的导弹时,又需要找到另一位积极参与的用户,重复这一过程。
他说,企业销售需要高层支持者,也需要真正使用软件达成目标的人。大型组织由许多小团队组成,因此产品采用会逐个团队、逐个问题地推进。
第一个项目成功后,公司才有机会获得信任,接手飞机等更大项目。但 McGrew 强调,这种方式不同于长期派驻顾问:工程师必须把在客户身边学到的东西转化为可重复使用的产品功能。
机器制造机器,以及对未来的设想
McGrew 预计机器人形态将更加多样,建设工厂的工作也会更加自动化。他与主持人推测了自我复制机器和费米悖论。
Gil 问这种方法最终会走向哪里。McGrew 再次提出,数据中心里的智能需要在物理世界感知和行动;他说,现在人类常常充当它的眼睛和双手。
他预计未来十年会出现许多形式的感知和操作设备,从无人机到搬运货物或耕田的机器都有。他认为机器人将有多种形态,而不只是人形,并认为制造业必须提供这些设备。
Gil 提出自我复制探测器作为探索太空的模式,并问工厂是否最终能建造其他工厂。McGrew 说,机床已经能帮助制造机器,但设计和建设工厂仍需要大量人力。
McGrew 预计,随着社会扩建数据中心等实体基础设施,这些工作会有更多实现自动化。放眼更长远的未来,他猜测自我复制的机器可能比人类更适合星际旅行,并说人类应努力保有控制权并从中受益。
Gil 问,如果这样的系统可能存在,人类为什么还没有遇到其他文明。McGrew 猜测,一个以接近光速扩张的文明,可能直到抵达前不久才会被发现。
Gil 进一步追问:为什么这样的扩张浪潮还没有到来?McGrew 说答案仍不确定,可能是文明十分稀少或距离遥远;Guo 也提出距离可能是原因。
同频道的其他文章
39:16EN → 简体中文
54:08EN → 简体中文
38:06EN → 简体中文
1:07EN → 简体中文
39:23EN → 简体中文
1:04EN → 简体中文