Kay Ke 谈 Physical Intelligence、机器人学习与机器人学的未来

原标题Kay Ke on Physical Intelligence, Robot Learning, and the Future of Robotics

Physical Intelligence 研究员 Kay Ke 梳理了机器人领域的研究脉络,并介绍 Pi 从 π₀ 到 π*₀.₆ 的发展。她也谈到教育、小说、抱负,以及如何造出能在演示之外真正工作的机器人。

KKKay Ke嘉宾 · Physical Intelligence
频道
Zhang Xiaojun Podcast
发布
2026年7月16日
视频
3:46:12
阅读
51 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Zhang Xiaojun 与 Physical Intelligence 研究员 Kay Ke 探讨机器人学的历史与现状,包括工程驱动和数据驱动方法的差异、相关实验室与研究传统,以及机器人要如何应对真实环境。两人还谈到 Pi 的研究进展、如何评估泛化能力、强化学习的目标设定,以及 Ke 的教育经历、职业选择、写作和对未来社会的思考。

  1. 1生产力提升可能让社会联系变松Ke 推测,智能体和机器人可能让人们独自处理更多事情。她也提出疑问:这种自由会让人际关系变疏远,还是只会改变人们维系关系的方式?
  2. 2信任离不开责任承担Ke 说,自己或许会用 AI 帮忙理解医疗问题,但仍会向人类专家求证,因为智能体目前还无法为建议承担责任。
  3. 3学习可以超越示范样本Ke 将强化学习的探索能力与照搬示例作比较:机器人可以尝试改进,超越数据中已有的行为。
  4. 4稳健性需要多样化测试要验证机器人能否稳定完成抓杯子任务,就得测试不同光线、背景、桌面高度、物体角度和表面条件,确认行为不只适用于单一布置。
  5. 5Pi 的模型演进Ke 将 π₀ 概括为能力、π₀.₅ 概括为泛化、π*₀.₆ 概括为表现。这代表一系列接续的研究问题,并非一个已经完成的解决方案。
  6. 6偏好也映照社会Ke 推荐布迪厄的《区分》,因为它分析了社会条件如何塑造品味;她也用这一视角看硅谷的生产力文化。

要点建议

  1. 机器人在一次演示中表现成功,并不能证明它能适应不同家庭、物体、光线和任务变化。
  2. Pi 的 π₀、π₀.₅ 和 π*₀.₆ 体现了一条研究路径:先展示能力,再提升泛化能力,继而改善表现。
  3. 真实机器人数据只有在验证其与任务相关后才有价值;单纯扩大数据规模,无法解决数据质量和评估问题。
  4. 机器人学仍没有公认的通用架构或基准,因此不同团队会在硬件、模型和应用上做出不同选择。
  5. 奖励或指令定义了机器人要做什么,但许多物理任务都有多种有效的完成方式。
  6. Ke 的职业道路由探索与合作塑造,而非预先规划;她选择创业公司,是看重那里能快速把想法变成项目。
全文

按章节阅读整理后的全文

只看原始文稿
01

开场:Kay Ke 与 Physical Intelligence

Zhang Xiaojun 介绍 Kay Ke 和 Pi,并开启一场关于机器人、工作与未来的广泛对谈。访谈从一个问题切入:以机器人为中心的技术变革会给普通人的生活带来什么。

Zhang Xiaojun 介绍了 Physical Intelligence(Pi)研究员 Kay Ke,并提到她也写小说。Ke 说,Pi 的重点不是制造人形机器人;她更感兴趣的是,机器人未来能否制造或复制自己。她把 Pi 的研究进展概括为:π₀ 关注能力,π₀.₅ 关注泛化,π*₀.₆ 关注表现。

Ke 说,如果 Pi 的目标是制造人形机器人,她就不会加入。她更关注机器人最终能否组装自己,并认为这可能是一个里程碑。她也再次将 Pi 的论文概括为:π₀ 研究能力,π₀.₅ 研究泛化,π*₀.₆ 研究表现;Xiaojun 接着问公司是否关注中国的机器人领域。

Ke 说自己密切关注中国的机器人学,因为这个领域不容忽视。随后 Xiaojun 再次介绍她,并请她谈谈自己。Ke 说,她的工作是教机器人执行任务,业余时间则写小说。

02

机器人与小说家

Kay 与 Xiaojun 探讨智能体、生产力、独处、小说,以及 AI 是否可能成为对手。Kay 将想象中的威胁与当今系统的能力局限和责任问题作了对照。

Ke 说,机器人研究和小说创作都需要创造力与执行力。研究者得想出办法,让当下还做不到的机器人完成任务,再把想法付诸实践;小说家也要逐字创造尚不存在的故事。

Xiaojun 问 Ke 写什么。她说自己最喜欢科幻小说,硅谷当下的科技文化也常常成为她故事的灵感来源。

Ke 对两个问题尤其感兴趣:生产力发生变化后,人们会怎样生活;在截然不同的未来,人际关系又会如何演变。如今的工作如果都能自动化,人们会选择做什么?

Ke 认为,人际关系是永恒的主题,即使故事发生在技术已彻底改变的社会也一样。她性格内向,常常独处时思路最清晰,但也会主动寻找能挑战并打磨自己想法的谈话。

读博士期间,Ke 常能独立推进自己的想法。加入 Pi 后她才体会到,要打造通用的机器人“大脑”,需要团队成员发挥各自所长;相比她之前的项目,这项工作更依赖紧密协作。

Ke 想知道,Claude Code 之类的编程智能体能否减少日常对同事的依赖。遇到某个模块的问题时,可以先问智能体,而不必马上联系负责它的人;如今,一个人也可能在团队工作流中同时调度多个智能体。

Ke 想象个人智能体能按照每个人的偏好筛选互联网上过载的信息。如果人们依赖机器人寻找和整理信息,那么没有智能体辅助,今后可能会越来越难在网上行动。

Ke 曾设想过像一些 YouTube 创作者那样独自住在乡间,但她说现在不会尝试。现代生活依赖基础设施和各种杂务,一个人很难打理;机器人将来或许能承担房屋维护、管道维修等工作。

如果机器人和智能体持续进步,一个人完成项目时可能不再需要那么多人帮忙。Ke 推测,未来生产力提高后,独居会更容易——甚至可以去另一颗星球,让机器人为自己建造生活所需的基础设施。

Ke 说,生产力提高可能使人际关系变得松散,因为个人即使较少得到他人帮助也能生活。她设想,未来有人可以移居遥远的星球,依靠机器人建造所需的基础设施。

Xiaojun 想象机器人在遥远星球建造基础设施,并问 Ke 是否想过一种不受外界约束的生活。Ke 说,她想要的是属于自己的安静空间,不一定真要住在山洞里。

Ke 说,一个人独处很久之后,终究会想出来见见别人。随后两人聊到,有人会不会选择与机器人相爱。

被问及 AI 毁灭世界的故事时,Ke 说她想不出为什么一个以帮助人类为目标的系统必然会变成人类的敌人。

Ke 说她正在试着弄明白,为什么人们会认定 AI 敌对人类的故事必然成立。她举了一个近期例子:一个获得广泛权限的智能体删除了某人的邮件,它完成了任务,却没有理解用户真正的意图。

攀岩受伤后,Ke 搜寻医疗建议,也考虑过让智能体查看自己的信息。但她说,自己仍会把回答拿去问人类专家,因为目前还无法让智能体为建议承担责任。

Ke 开玩笑说,研究者可能花好几年教机器人把红色方块放到蓝色方块上,而小孩子很快就能学会。她说,人类学习快得多,目前的智能体离足以对抗人类的水平还差得很远。

Ke 说,Pi 一些不同寻常的技术进展为她写小说提供了更具体的灵感,而她在网上写作时则不受太多限制。Xiaojun 开玩笑地说要替她保护笔名,然后问起她的童年。

03

武侠、寸头与背包旅行

Kay 回忆了在安徽的童年与求学经历、竞赛、青春期、游戏和出国留学。对谈追溯一条并不确定的道路如何把她带向研究和机器人学。

Ke 说自己在安徽芜湖长大,当地教育资源不如大城市丰富。她所在的城市有一位很出色的信息学老师蒋涛;他在一次事故中失去双手后回到家乡,教学生编程。

Ke 说自己从没和蒋涛老师面对面见过,却受益于他建立的系统化计算机教育项目。她认为,正是他的贡献让她这样的学生有机会接触信息学竞赛。

Ke 大约八岁时开始上信息学课。起初,她只是因为能用电脑、玩编程而兴奋;后来她也探索过心理学、经济学等方向,最终又回到计算机科学。

Ke 对心理学感兴趣,但她更想解决具体问题,而不是花多年时间分析问题。经济学帮助她理解社会,却没有回答她想在社会中做什么,因此她最终又回到计算领域。

年轻时参加竞赛并没有让 Ke 感到太大压力,她觉得那更像有趣的课程。她尤其记得 LOGO:图形界面能让她指挥电脑画画;她还仔细读过一本 C 语言教材。

Ke 说,编程最初带给她快乐:LOGO 能让电脑画图,她后来也认真读过一本 C 语言教材。她觉得,小时候接触编程潜移默化地改变了自己处理问题的方式。

Ke 回忆说,她曾通过故事理解编程概念,比如把递归想成一位能实现愿望的精灵。她说,这些课程渐渐融入了自己的思维,但并没有突然改变她的性格。Xiaojun 问她小时候是乖巧还是叛逆。

Ke 说,朋友们会叫她“Ke 姐”。Xiaojun 问她是否曾觉得自己被误解或受到不公平对待。

Ke 说,公平很难定义,每个人的理解也不同。她会尽量守住自己力所能及的公平,而不是要求别人事事按她的意愿行事。

Xiaojun 问,是否正是感到不公,才让人想要反抗这个世界。Ke 说,公平很难定义,人们的理解各不相同。她会尽量守住自己力所能及的公平,而不是要求别人照自己的意愿行事;她也觉得有些价值观或许更具普遍性。谈到这些,她仍会感到心痛。

Ke 说,出国留学后,教育不平等变得更加明显。在她的家乡安徽,每一万名学生中或许只有少数人能考上清华或北大,而一些大城市的机会要大得多。她是个勤奋但各科表现不均衡的学生,会把精力放在自己喜欢的科目上。

Ke 形容自己是个努力但并非每门课都出众的学生。在竞争激烈的班级里,要追上那些全心投入单一目标的同学并不容易。

Ke 希望新技术和生产力最终能缓解部分资源获取不平等。她说自己不是最有竞争心的学生:她会学习感兴趣的内容,而不会逼自己每门课都争取优秀。被问及是否叛逆时,她想起了在东南亚旅行的经历。

高中时,Ke 把头发剪得很短,然后去东南亚背包旅行。这趟旅行没有明确的职业目的,她只是想看看当地。家人主要担心她的安全,劝她回家。

Ke 说,高二快结束时,她背包旅行了约两周,因为对印度神话和宗教建筑感兴趣。父母后来也赶来看看她。她剪短头发也有旅行方便的考虑。

Ke 说,读书时她不太在意打扮,有时会让一位关系亲密的女性朋友帮自己收拾。她解释说,独自旅行的年轻女性把外表打扮得更阳刚,让她觉得能保护自己。

被问到这种风险意识从何而来时,Ke 提到社会传递的信息和新闻报道都会让女性感到更脆弱。Xiaojun 指出,她选择调整外表,而不是放弃旅行。

Ke 说,假扮成男孩子让她觉得这是在不安全感仍存的情况下,去做自己想做的事的务实办法。随后两人聊到她如何意外地决定出国留学。

Ke 说,自己没有按常规路线完成大学学业。她想探索自己能做些什么,也想找到一份真正有意义的工作。

她学过数学和物理,也不愿只用自己不擅长的事来定义自己。Xiaojun 问起她早年对游戏的兴趣,Ke 随后讲到《雨血》。

Ke 说,《雨血》的创作者毕业于清华,后来在耶鲁求学。游戏的故事和世界吸引了她;Xiaojun 接着问她为何对游戏和艺术感兴趣。

Ke 说,数学和物理都吸引着她,她也探索其他兴趣。她回忆起自己对所玩游戏及其创作者的好奇。

她决定出国留学,同时继续玩游戏。Xiaojun 问她为何被《雨血》及其艺术风格吸引。

Ke 说,《雨血》的艺术和故事打动了她。游戏能让人身临其境,进入想象中的世界;她回忆自己当时尤其受到触动。

Ke 说,游戏能让人迅速代入陌生角色,体验不同人生。她还记得《雨血》里的一些台词,它们让那个被复仇驱动的世界显得鲜活,不过她已记不清原话。

Ke 说,大学所学的专业对她写小说很有帮助,但她最终发现,做研究更能带给她成就感:完成别人做不到的难事,或把事情做得更好。

04

暗线相连

Kay 讲述自己进入大学研究的历程,以及吸引她投身机器学习和强化学习的想法。两人讨论教育、研究脉络和技术选择如何跨越时间彼此关联。

被问到是否经历过文化冲击时,Ke 说变化很大。在中国,熟悉的社会关系曾让她觉得自然;出国后,她开始重新思考自己如何融入社会。

Ke 说,进入新环境后,她能更客观地审视自己过去所处的社会环境。她也发现,美国大学鼓励学生表达抱负、号召他人一起实现目标;尽管性格内向,这也促使她更主动地表达自己。

Ke 说,自己比高中时自在多了,也更愿意和人交谈。Xiaojun 接着问,中国和美国的社会文化基础有什么不同。

Ke 说,两国都存在不公,但在她父母那一代,中国经历了快速变化。后来她在英国学习的经历,又让她多了一个比较的视角。

Ke 说,英国的阶级区分根深蒂固,社会阶层会影响人际关系和品味。在她看来,美国的阶层界限没那么僵化,而硅谷试图摆脱旧有身份标记,去创造新事物。

Ke 说,离开学校时,她心里并没有什么宏大目标。后来她才逐渐发现自己想做什么,也发现自己依然很喜欢现在所处的科技行业和这份工作。

她大学读的是经济学,觉得课程内容很有意思,但实际工作常常只是把数字拼在一起、做报告。于是她开始探索有没有更具体、更能发挥所长的事情可做。

Xiaojun 问大学一年级的学生能在简历上写些什么。Ke 说,她曾在编程竞赛后帮一位高中同学开发小软件。即使是小项目,也能展示技能和可靠程度。

大学一年级时,Ke 加入了学校的计算机小组,遇到了第一位学术导师 Li Bo。她猜想,自己读经济学、对博弈论感兴趣,或许让她与 Li Bo 的对抗式机器学习研究产生了连接。

Ke 说,那段时间发表的一篇第一作者论文,后来对她申请博士项目有所帮助。Xiaojun 问她为何对博弈论感兴趣。

Ke 解释说,博弈论研究目标相互冲突的参与者如何互动,并可能达到均衡。她把这一思路联系到市场竞争,也联系到通过对抗互动来学习的机器学习系统。

为了说明生成对抗网络,Ke 把生成器比作制造假钞的人,把判别器比作判断钞票真伪的裁判。

生成器和判别器相互博弈,生成的图像就可能变得越来越逼真。Ke 说,这种博弈论模式在机器学习中有广泛应用。

Ke 说,自己在博士期间几次调整研究方向。她最早发表的论文以博弈论为基础,但她发现自己更喜欢应用研究,后来转向机器人。

她在机器人领域的研究从模仿学习开始,后来转向强化学习。她说,只复制示例会限制创新;强化学习则让系统通过探索,尝试超越已有表现。

Ke 进入了一间以传统机器人学为主的实验室。2017 年前后,这一领域着重研究路径规划和控制:先规划一连串动作,再控制机器人逐步执行。

Ke 说,数据驱动机器人学在她的实验室里还是个小众方向,只有她一位学生在做。导师专长于传统的规划与控制,但也训练学生理解机器人技术的完整链条。

她的导师对机器学习持开放态度,同时鼓励她先研究传统方法如何解决各类任务。Ke 说,两人交流时,她能把机器学习的想法和既有方法联系起来。

Ke 说,机器学习用于机器人有一个更广泛的使命:减少必须由专家明确规定的行为,让机器直接从数据中学习。Xiaojun 问起她的导师 Sidd Srinivasa。

Xiaojun 问 Ke 为什么加入 Sidd Srinivasa 的机器人实验室。Ke 说,她被这样一类方法吸引:只要任务定义清楚,即使不建模系统内部的每个机制,也能设法找到优化方案。

Ke 说,自己读研时,机器人学习仍是小众方向,而且设备昂贵;与此同时,NLP 团队已在数据集上投入大量资源。她提到机器人手的高昂成本和维修难题。

2017 年,一只灵巧的 Shadow 手可能要几十万美元;就连 Barrett 手也超过 10 万美元。设备维修很困难,因此研究人员有时只能自己修。

Ke 说,Franka 后来成了较便宜的机械臂之一,但价格仍有数万美元。她 2017 年进入博士项目后,Xiaojun 请她回顾机器人领域的发展史。

05

机器人学版图:脉络、学派与代表人物

对谈梳理了机器人学传统、重要实验室和研究者、平台、初创公司及大型企业。Kay 强调,这个领域还没有定型的架构,也没有唯一的领导力标准。

Ke 说,她的讲述难免有所取舍,首先从约 1979 年成立的卡内基梅隆大学机器人研究所谈起。该所围绕感知、决策和行动的研究,推动机器人走进真实环境。

CMU 的研究延伸到灾害救援、自动驾驶等应用。Ke 说,2004 年和 2005 年的 DARPA 挑战赛推动了整个领域,也催生了后来的一些自动驾驶公司。

Ke 接着谈到 CMU 后来的操作与控制研究。她提到 Matt Mason;他的研究把机器人运动与控制器如何引导动作联系起来,即使对象只是一个简单机构也一样。

Mason 认为,灵巧操作与其说依赖复杂手指,不如说取决于大脑如何控制身体。Ke 说,这个想法影响了她的博士研究:把筷子当作简单却有能力的操作工具。

Ke 将另一支足式机器人研究脉络追溯到 Sangbae Kim,他打造了 MIT Cheetah。她还提到 Matt Mason 同时代的 Marc Raibert;后者创立了 Boston Dynamics,推动了足式机器人发展。

Ke 简述了机器学习的发展:从 Marvin Minsky 相关的早期研究,到让许多学生(包括她自己)入门的 Andrew Ng 课程。她说,自己最初所在的 AI 实验室也汇集了不同研究传统。

Ke 介绍了 Peter Abbeel 对强化学习和机器人学的影响。他的学生 Sergey Levine 后来共同创立了 Pi,Ke 也在那里从事强化学习研究。

读博士期间,Ke 通过 Levine 的课程、讨论和论文学习了很多强化学习知识。她欣赏能从一个领域转向另一个领域、并把想法带过去的研究者。

Ke 说,Pi 的同事经常一起讨论研究。她形容 Levine 是科幻迷,也是很会讲故事的人;他的论文常引用文学作品,标题也很有记忆点。同事还开玩笑地把他的编辑工作叫作“SergeyGPT”。

Ke 形容 Chelsea Finn 自律、直觉敏锐,也很善于判断机器人的动作。Finn 的判断影响了 Pi 的数据采集选择;Ke 说,她推动了大量最终促成 π₀ 的工作。

Ke 说,Finn 和 Levine 互为补充。她接着提到 Fei-Fei Li 的学生、NVIDIA 的机器人研究,以及 Shuran Song;后者的工作推动了 diffusion policy 的发展。

Ke 提到 Chelsea Finn 的代表性工作 ACT 和 ALOHA,随后也点名 Deepak Pathak 和 Abhinav Gupta,称他们是机器学习机器人领域颇受关注的人物。Gupta 的视觉艺术背景为他的研究带来不同寻常的想法。

Ke 回忆说,Gupta 曾想到用一根便宜的杆子装上夹爪,在实验室之外采集数据。这可以看作如今 UMI 方法的早期雏形。Pathak 的好奇心驱动强化学习研究后来也促使他和 Gupta 共同创立 Skild AI。

Ke 说,机器人研究者往往相信自己选择的方法,但领域推崇的技术会随时间变化。她记得自己刚开始参加学术会议时,传统机器人学仍占主导地位。

Ke 说,尽管所在实验室的主要方向与自己不同,她仍相信自己的研究路线。导师要求她证明机器学习方法在真实机器人上也有效,而不只是能在模拟环境中工作。

Ke 说,导师促使她思考新兴的机器学习研究能否转化为实际表现。这种影响塑造了她评估研究的方法,尽管她和导师偏好的路线并不相同。

Ke 开玩笑说,机器学习吸引她,部分原因是无需把每个机制都建模清楚也能得到结果。她的导师偏爱优雅且原理明确的方案;Ke 则想研究,能否让学习到的方法足够可靠。

Ke 将黑箱优化定义为:针对明确规定的任务寻找解决方案,而无须完整解释每个内部机制。她认为,这能让缺乏专业知识的人也用上有用的能力。

她说,实际成果很重要,传统方法仍能提供有价值的洞见。与其把某种方法说成放之四海皆准,不如比较不同方法分别需要多少投入、能达到怎样的表现。

Ke 指出,Boston Dynamics 实现过后空翻等惊人动作,但每项任务都需要大量工程调试。学习方法可能减少工程投入,未来也可能让普通用户更容易与机器人互动。

Ke 说,如今机器人通常要先由专家检查失败原因、调整系统,之后才能完成任务。长远目标是让普通人能自然地和机器人交流,并让它按自己的要求办事。

Ke 说,足式机器人可能比机械臂更容易买到,但它们带来不同的控制难题。要给每种地面都建模摩擦十分困难;像狗一样的机器人可以更多地依靠反复接触和反馈,而精确操作则需要更详细的物理知识。

她解释说,机器人可以通过接触学习自己与地面的互动方式,而不必事先把所有情况都完整建模。这种差别有助于理解传统控制方法为何能在某些任务上成功,却仍难以应对另一些环境。

被问到机器学习何时在机器人领域变得更主流,Ke 说转变大约发生在疫情期间。导师曾要求她从模拟走向现实,因此她用零部件制作了一台筷子机器人,并编写了系统软件和驱动程序。

Ke 说,她的工作帮助同事看到数据驱动方法如何用于其他项目。例如,装在轮椅上的机械臂可以喂人;学习方法能帮助它选择如何抓取并递送食物,而不是完全依赖人工编写的轨迹。

她所在的实验室逐渐开始用神经网络,不只处理感知,也让机器人学习自己的动作。Ke 选择筷子,是因为它让操作变得很难:如果系统能用两个接触点完成任务,换成其他工具可能更容易。

Ke 回忆说,导师曾颇具挑衅性地声称,筷子能完成大多数桌面操作任务。这个挑战推动她造出一台真正能完成困难动作的机器人。

Ke 说,导师喜欢用简单的操作器挑战高难度任务。她提议围绕一个困难的操作任务造一台机器人,而不是沿用传统配置。

Xiaojun 问项目是怎样展开的。Ke 说,他们先选定一个具体任务,从模仿学习入手,同时思考机器人能否从数据中学到真正有用的能力。

硬件并不完美,但 Ke 认为数据驱动方法仍可能奏效。团队想验证学习方法能否应对真实机器人,而不是只在理想化的设置中工作。

她讲到机器人抓球的任务:关节不平整,还存在机械回差。机器人必须适应这些缺陷,不能假设每个动作都精确无误。

Ke 说,项目后来采用强化学习,让机器人通过反复尝试和探索逐步改进。

她把团队的工作描述为一次实践检验:学习方法能否让机器人在具体任务上变得更强。

Xiaojun 问传统机器人学和机器学习之间是否存在张力。Ke 说,人们往往更相信自己熟悉的方法,因此新方法有时不容易得到认可。

Ke 说,可以先在定义清楚的任务上验证一种方法,再看它能否泛化。有了明确的起点,才更容易判断究竟改进了什么。

她说,机器人学太重要了,不该沦为不同阵营之间的较量。真正的进展是让系统在精心控制的演示之外也能可靠运行。

Ke 倾向于善意解读其他研究者的工作,并鼓励跨领域合作。她说,不同团队的专长都能为机器人学带来帮助。

Xiaojun 问机器人研究是否集中在少数地区。Ke 说,机器学习团队多聚集在 Stanford、Berkeley 和硅谷一带,而传统机器人学在美国东海岸也有深厚根基。如今,两地的研究人员都有人进入硅谷公司。

Ke 说,研究人员正在尝试新工具,而传统机器人学专家则能提供有关硬件和具体项目的实践经验。

她提到,机器学习研究者有时会在传统学者指导下研究电机等硬件。Xiaojun 接着问几家机器人创业公司的创始人有怎样的学术背景。

06

硅谷创业公司图谱

Kay 比较不同创业公司的策略、软硬件选择、人形与非人形平台,以及实现泛化的难点。简单演示也必须经受物体、光线和环境变化的考验。

Ke 说,Pi 和 Skild AI 都有学术研究背景,希望打造通用机器人“大脑”。Pi 更侧重双臂操作,Skild 则探索运动能力以及人形和四足机器人平台。

Ke 说,人形机器人的控制仍是个未解问题,各公司也在强调不同能力。Tesla 推动了人们对人形机器人的关注,而 Figure 和 1X 的创始人背景与技术路线各有不同。

Ke 说,Dyna 的创始人兼有创业和技术经验,看起来更关注商业落地。她认为,这类工作或许能展示学习型机器人如何在家庭及其他真实环境中创造价值。

Xiaojun 把 2023 至 2025 年称为机器人创业热潮期。Ke 说,ChatGPT 改变了大型科技公司的优先事项,一些公司缩减机器人团队,也有研究人员离开 Google、Meta 创办机器人公司。

Ke 提到 Generalist AI 和 Sunday Robotics,它们都重视用 UMI 收集数据。这是一种手持设备,能在日常环境中采集示范;这些公司展示了如何把设备采集的数据迁移到机器人上。

Ke 认为,Generalist 可能更偏工业应用;Sunday 发布的视频则多是家庭场景,机器人外观也更讨喜。她提醒说,公司策略会变化,并提到 Tesla 的硬件资源雄厚,而 Pi 更专注机器人“大脑”。

Xiaojun 问 Pi 和 Skild 是否像 Google、Tesla 一样属于机器人“大脑”公司。Ke 说 Pi 的重点是机器人“大脑”,Skild 的工作不太透明;Tesla 的硬件资源很强,但创业公司的方向随时可能变化。

Ke 说,机器人硬件开发难、投入高,相比之下软件更容易入门。Tesla 或许能发挥造车经验;Figure 使用电机驱动,而 1X 探索过绳索驱动。

Ke 说,Generalist、Sunday 和 Dyna 也要面对硬件选择。机器学习团队可能不得不自己造机器人,因为市售硬件很少能完美适配目标应用。

Ke 说,机器人硬件还有很长的路要走。她的务实愿望是,能把一台可靠的机器人送到别人家里,让它稳定地完成日常任务。

Ke 讲了 Boston Dynamics 创始人 Marc Raibert 开始穿夏威夷衬衫的故事。有人曾在会议上批评他的穿着太随意,他却从此拥抱这种风格,还把花衬衫变成团队的标志。

Ke 说 Abhinav Gupta 想法天马行空、难以预测,并提到他的学生 Xiaolong Wang,如今是 UC San Diego 的教授。她说,和 Gupta 交流时,话题常常会出人意料地跳转。

被问到欣赏哪些研究者时,Ke 说她愿意看到每个人的长处,但尤其喜欢游戏创作者和小说家。她把工作视作优化,把生活中珍视的人类故事与工作分开。

Xiaojun 问机器人研究者和大型模型研究者有什么不同。Ke 说,造机器人需要跨领域合作,还要关注物理系统如何产生数据。

Ke 对比了两种思路:一种是再收集一百万条样本,另一种是查看数据本身和当时机器人的硬件条件。机器人研究者常常想亲眼看看机器人究竟做了什么。

她补充说,大模型研究者也可能帮助大家跳出熟悉的思路,重新追问究竟需要哪些信息才能取得进展。

Xiaojun 问 NVIDIA、Google 和 Tesla 在机器人领域各自押注什么。Ke 说,她只能根据公开信息和自己的观察来谈。

Ke 认为 Tesla 对人形机器人尤其坚定。她相信手最终可能很有用,但现阶段并非每项任务都需要手。

Tesla 似乎坚持让机器人整体形态接近人类。Ke 说,Google 或许会把机器人研究与 Gemini 的多模态能力结合起来,包括空间感知和规划。

Ke 开玩笑说,NVIDIA 做什么都是为了多卖显卡;不过充足的算力确实能推动一些项目。她也强调,研究者应该发挥自己团队的优势。

Ke 说,更多数据和算力能改善效果,但选对问题、发挥团队所长同样重要。Xiaojun 开玩笑问,在 NVIDIA 做研究是否更有经费。

Xiaojun 问各家公司在软硬件上有何不同。Ke 说,硬件细节通常不会公开,外界只能从公开视频中推测。

Ke 说,很多公司都会对软硬件保密。Pi 相对开放,因为发表研究仍是其学术文化的一部分;她还说,Pi 办公室对来访者没有那么多限制。

Ke 说,各家公司一个明显的分歧是要不要优先做人形机器人。Tesla、Figure 和 1X 都坚定押注人形形态。

人形机器人的支持者认为,人类生活环境本来就是按人的身体设计的,因此人形机器人可能更容易适应。Ke 说自己既务实也有想象力。

Xiaojun 问她更务实还是更有想象力。Ke 说两者兼有;她不认为机器人非得长得像人,才能完成许多有用的任务。

Ke 说,现阶段的机器人应先具备可靠的操作能力。机器人不必长成人形,也能在现实世界中完成有用的工作。

她把人形机器人比作汽车:自然界里没有车轮,但人们围绕车轮重塑道路和城市。未来,一种有用的机器人形态也可能反过来改变周围环境。

两人讨论机器人会不会受益于进化从未产生过的形态,例如多几条手臂或多个轮子。机器人的身体可以替换,因此人们能想象超出人类模板的配置。

Ke 说,她对机器人形态很有想象力,但首先希望现有配置能发挥作用。Xiaojun 问,既然 Pi 想打造通用“大脑”,为什么不选择人形身体。

Ke 说,机器人学还有很长的路要走,其中一个悬而未决的问题是如何评估。与语言基准不同,物理任务必须由真实机器人执行,而硬件差异会影响结果。

她把机器人评估和早期自然语言基准作比较:当时人们得判断生成文本的好坏。评估机器人时,研究者必须看它实际执行任务,同时考虑物理限制和细微的硬件变化。

抓杯子测试需要改变杯子的位置和角度、光线、背景和桌面高度,有时还要测它能否从凸起表面抓取物体。Ke 说,这些初始条件都会影响表现。

Ke 说,机器人学没有一个简单排行榜能说明哪套系统最好。公司各有内部评测,但重点不尽相同;整个领域仍需要更稳健、更可比较的评估方法。

Ke 认为,整个领域还在摸索如何让评估既全面又稳健。机器人学尚无公认的前沿定义,找到清晰的发展路径之前,研究方向可能还会显得相当混乱。

被问到机器人是如何造出来的,Ke 说她的讲解从电机已经制成之后开始。电机变成可运动的关节,多个关节再用结构部件连接起来,组成机械臂。

Ke 解释,制造者先把关节组装成机械臂,再装上电子元件、驱动器和控制系统。在最底层,系统发出“把关节转到某个角度”之类的命令,让硬件运动起来。

控制器会把目标关节位置转换成硬件能够执行的信号。这类低层控制只是系统的一部分;决定用什么动作完成任务,则属于更高层。

Ke 描述了一个层级结构:高层系统决定机器人下一步该做什么,底层控制将这个决定转为实际动作。机器人观察场景变化后,再规划下一步。

Ke 说,要理解 Pi 的主要研究脉络,最清楚的方式是看三篇重要论文:π₀ 关注能力,π₀.₅ 关注泛化,π*₀.₆ 关注表现。团队最初想知道,大模型架构究竟能不能控制机器人。

07

Pi 的研究:π₀、π₀.₅ 与 π*₀.₆

Kay 介绍 Pi 从能力到泛化、再到表现的研究路径,并谈及真实机器人数据、合作、评估、奖励设计、任务定义,以及机器人如何在陌生住宅中可靠行动。

Ke 说,团队在 2024 年初启动 π₀ 项目,既兴奋于用大模型架构控制机器人,也不确定它到底能做到什么。Pi 想做出此前从未实现过的东西。她说,π₀ 最初围绕三个任务设计,其中第一个任务观众已经听过。

Ke 介绍了 π₀ 早期的三项任务:叠衣服、堆箱子,以及把桌上的物品收走。结果让团队感到意外,因为它显示大模型可以完成此前看起来难以企及的操作任务。

模型在训练数据所涵盖的条件下或许表现良好,但换到其他环境就可能失灵。π₀.₅ 聚焦于泛化问题,测试在一户人家训练的机器人能否适应许多其他家庭。

在 π₀ 与 π₀.₅ 之间,团队还发表了改进模型语言能力和层级能力的研究。他们在许多家庭(包括 Airbnb 民宿)采集数据,检验模型能否在办公室或工厂以外的环境中工作。

Ke 说,团队在大约一百个家庭中测试模型,观察到环境数量增加时表现也有所提升。这些结果表明更广泛的数据可能有帮助,不过收益最终可能会递减。

Ke 说,π*₀.₆ 处理另一个核心问题:模型即使能尝试很多任务,如果每项任务都做得很差,也没有用。因此团队转而关注如何提高表现。

作为强化学习团队的一员,Ke 参与了 π*₀.₆ 的工作,目标是提高任务成功率。一个思路是让智能体执行任务,收集自己尝试过程中的经验,再从结果中学习。

Ke 说,经验数据能帮助机器人在固定示范集之外继续进步。机器人不必只依赖人类操纵机械臂来演示每个动作,还可以通过练习、执行自己的动作来采集数据。

Ke 认为,机器人最终会通过与环境交互产生大量自己的数据。她预计机器人会变得更便宜、更容易获得,从而缓解当下对数据采集成本的一些顾虑。

采集真实机器人数据成本高昂:团队需要机器人平台,把它安装并维护在家庭环境里,往往还得雇人执行任务并记录结果。

Ke 说,使用大模型可能降低数据采集成本。她还补充,包含错误的示范,以及之后对错误的纠正,也可以成为有用的训练经验。

在一连串动作中,小错误可能逐渐累积,把机器人带入数据采集时从未遇到的情境。因此,能力强的系统需要在计划出错时找到恢复方法。

Ke 用“能捉到老鼠的猫就是好猫”这句话强调实际效果:研究者应当相信真正证明有用的数据。她仍偏好真实机器人数据,因为它能最直接地体现机器的行为。

Ke 说,单靠模拟未必能解决所有任务,因为模拟到现实之间存在差距。就连模拟衣物也很难:布料的柔软度、摩擦和褶皱都不容易忠实复现。

有些研究者相信这些模拟难题可以解决,也正在积极攻关。Ke 说,截至录制时,衣物这类可变形材料仍是一个难关。

对于叠衣服,Ke 说最直接的办法仍是在真实机器人上采集经验。开放模型可以提供起点,但团队得在自己的任务上测试和改进。

Ke 认为,如果项目需要庞大且多样的数据集,团队就该认真考虑投入真实机器人数据,而不是只依赖模拟。

Ke 说,数据必须与任务相关,也需要研究它的价值。真实机器人数据很难被取代,不过有些任务即使没有它也能完成;研究者应根据问题选择合适的数据来源。

Ke 曾协助设计 Pi 的泛化测试策略。对于叠衣服,关键在于模型能否应对不同衣物和条件,而不是只会重复熟悉的示范。

机器人叠过一种已知衣物后,可能会遇到训练数据之外的东西。Ke 说,研究者需要测试它能否感知新物体、开始任务并顺利完成。

Ke 说,任务评估必须定义成功的标准,也得考察需要多长时间。即使看似简单的任务,也存在许多隐藏条件,会影响机器人是否应被判定为成功。

对于 π*₀.₆,团队比较了研究人员和更熟悉操纵机器人的数据采集人员的表现。这引出了如何设计公平、可重复基准的问题。

Xiaojun 问起其他有影响力的机器人论文。Ke 说,研究通过一波接一波的工作向前推进:每个团队都在前人基础上再迈一步,即使成果还不是完整解决方案。

Ke 介绍了研究人机交互的 HiRobot 项目。如果机器人只收到一条初始指令,却必须连续行动十分钟,它可能会忘记要做什么;这项工作探索用中途反馈让任务继续沿正确方向推进。

Ke 回忆 Pi 内部举办过“奥林匹克”式活动,研究人员和数据采集人员分组参加非正式机器人挑战。大家借此尝试各种任务,观察模型能从哪些示范中学会动作。

她说,挑战是利用人类示范和大模型完成机器人以往难以完成的动作。Xiaojun 接着问硬件团队能为这项工作带来什么。

Xiaojun 问硬件团队能做些什么。Ke 回忆说,她曾花二十多分钟试图让机器人打开一扇门;团队优化策略后,机器人就能自主完成任务。

Ke 介绍 Pi 与几家公司的合作项目,涉及叠衣服和包装机器人。这些机器人运行 Pi 训练的模型,既让 Pi 推进研究,也帮助合作方探索商业应用。

Ke 对比了今天的编程智能体和早期研究:以前做研究常常得先找到对的人或具备专门技能;如今 ChatGPT、Claude 等工具能很快写出代码。她希望组装机器人硬件也能变得一样容易上手。

Xiaojun 问 Pi 自己造硬件能做到什么程度。Ke 说,有些细节不方便公开,但 π*₀.₆ 使用的硬件是内部开发的,并针对稳定性和任务需求做了优化。

Ke 以夹爪为例:简单的手未必适合所有工作,因此机器人可以针对不同任务更换夹爪,例如做咖啡时换上另一种夹具。

Xiaojun 问公司是否应该针对软件优化硬件。Ke 说,硬件更应针对最终任务和所需表现来设计;而且市面上还没有能满足所有用途的现成平台。

Xiaojun 问 Pi 是否想成为机器人领域的 OpenAI,以及 π*₀.₆ 如何对标 GPT。Ke 说,团队的目标是打造通用模型,但现在仍能看到系统的不足,并持续设法改进。

Ke 说,机器人和语言研究的起点不同。她回忆自己曾觉得早期语言生成不过是在预测最可能出现的词,后来看到研究者用强化学习和更好的基准逐步取得进展。

Ke 说,自然语言评估起初很模糊,后来数据集和基准逐渐让它清晰起来。她被机器人吸引,是因为机器人能做许多不同的任务,也就能不断提出新的挑战。

Ke 说,语言是告诉智能体该做什么的一种自然方式,她也看好语言与机器人的结合。VLA 系统还在探索中,但语言或许能帮助人们描述任务。

Xiaojun 问大型模型公司之间的竞争是否会促进研究。Ke 赞同这一点,同时指出,各家公司最终可能会通过模型之上的产品和应用来建立差异。

Ke 想象机器人领域将形成分工:有的团队打造通用机器人“大脑”,有的团队负责把特定环境与任务产品化。某款产品甚至可以采用一家公司的“大脑”,再结合另一家的应用。

Xiaojun 问机器人“大脑”能不能成为独立系统,专门为机器人训练;还是说它会成为多模态模型的一部分。

Ke 说,专用机器人“大脑”并非不可能,但也有人认为应该把多种模态整合进一个模型。这样的系统未来或许能同时处理语言、图像、视频和机器人控制。

谈到 Scaling Law 时,Ke 说衡量指标很多。她以 π₀.₅ 在不同家庭环境中的测试为例:采集更多家庭的数据确实有帮助,但提升并不明显;团队仍在研究,要采集多少数据才能改善泛化。

08

Pi 的组织与文化

访谈转向 Pi 的工作方式、办公室和想法如何变成项目。Kay 描述了一个规模不大、行动迅速的组织,研究者能直接讨论研究与实践问题。

Ke 形容 Pi 的工作氛围很随性:同事常在晚饭后开始讨论研究,许多人周末也会来办公室。新想法不断出现,对话也会接着持续。

被问到典型工作日是什么样时,Ke 说每天都不同。有些员工要从 South Bay 通勤好几个小时;她是夜猫子,通常起得较晚。

Ke 说自己常在凌晨一两点左右到家。Pi 不要求打卡,有家庭责任的研究者有时也可以在家工作。

Ke 说 Pi 已发展到约七十人,公司扩大后或许需要调整管理方式。公司没有固定的每日会议安排,各团队围绕具体话题开会。

Xiaojun 问他们如何在旧金山找到办公室。Ke 说,对机器人公司而言,要找到适合摆放硬件和机器人、又具备足够供电与网络条件的空间并不容易。

Ke 说,Pi 的研究文化开放。她和一位同事组织读书会与交流活动,让大家讨论项目,包括 π*₀.₆。

主持人开玩笑说,谁最会用 Claude Agent,就该上台让大家照着学工作流。Ke 说,同事第一次向她展示这个工具时,她正忙着别的事情。

Ke 说,AI 工具可能让一个人的产出看起来扩大三四倍,但研究仍要做实验、观察失败之处并作调整。光是不加分析地反复尝试,并不能带来进展。

Ke 说,CEO Karol Hausman 负责公司许多基础设施工作,并帮助研究高效推进。他也处理研究成果如何商业化的问题。

Ke 说,人形机器人值得研究,但她更愿意专注于让机器人把任务做好。她担心,研究若过于围绕人形形态展开,可能会偏离问题本身。

Ke 说,她尤其喜欢宠物机器人,也希望有一天能造出一台。她认为,陪伴和情感价值都是造机器人的重要理由。

09

拒绝剑桥教职邀请

Kay 解释自己为何选择 Pi,而非接受学术职位。与他人合作推进更大型项目、快速行动的机会,对她来说比遵循传统职业路径更重要。

Ke 形容自己既重视实际成果,也看重严谨证据。多年的导师指导让她学会批判性地阅读论文,留意结论是否有实验支撑。

她说,自己和导师以前的学生 Abhishek 兴趣相投。Sergey Levine 在 Abhishek 毕业时建议他和 Ke 聊聊,促成了两位研究者相识。

Ke 回忆说,Pi 刚成立不久时,她曾在湾区旅行途中去拜访。她以为自己只是顺道了解公司,后来才意识到团队把这次见面当成了面试。

Ke 说,她惊讶地发现 Pi 的研究者像是在面试她,向她提问。不过,这场非正式会面还是让她感受到团队的氛围。

Ke 想找一份与研究兴趣相契合的工作,并发现 Pi 的团队认真追求真相。她还在考虑学术职位时,公司就向她发出了邀约。

Ke 说,她原本设想先进入学界、组建研究团队并指导学生。在接受教职前,她开始问自己最想做什么样的研究。

Ke 最终拒绝了教职邀请,加入 Pi。她说,这个决定源于重新思考自己想要什么样的研究环境,并不是因为学术道路缺乏吸引力。

她说,相比单个学术实验室,Pi 能让她参与范围更广的研究。初创公司的环境给了团队合作、推进雄心勃勃项目的空间。

Ke 说,Pi 的开放沟通方式让人今天提出想法,第二天就可能把它变成项目。π*₀.₆ 就是一个例子:团队意识到需要更多评估数据后,便调整了方向。

Xiaojun 问 Ke 为什么在最后时刻拒绝 Cambridge 的职位。她说,这需要权衡学术界与产业界不同的工作节奏。

Ke 说,学术项目常常要在学生几年的学业周期内推进,而产业界可能有更多算力、数据和硬件资源。这些资源对她想做的机器人研究很重要。

Ke 说,Pi 最吸引她的是协作环境。她不想去一家大公司,而是想加入一个团队,一起创造一些东西。

Ke 说,她主要的焦虑并非毕业本身,而是在思考自己想从一个项目中学到什么、之后又想研究什么问题。

Ke 本科时曾在 Google 实习,觉得体验很好。但 Pi 的初创环境节奏不同,也让她有机会直接与同事讨论想法。

在 Pi,Ke 可以把想法告诉同事,很快看到它成为一个项目。她以 π*₀.₆ 为例:团队发现需要更多评估数据后,计划发生了很大变化。

10

巴甫洛夫的狗

两人讨论探索与强化学习,以及奖励和任务定义如何塑造行为。他们以叠衣服、辨认玻璃杯等例子说明,为机器人设定目标为何如此困难。

Ke 说,强化学习是她目前专注的方向,不过她未来可能再次转向别的领域。她把研究看作探索,而非对某个主题的终身承诺。

Ke 将强化学习与个人进步作比较:从一个具体动作开始,反复练习,并从结果中学习。她说,寻找更好策略的过程,可能和起初的任务本身同样重要。

Ke 说,她正在探索一个也许有助于提升系统通用性的更大方向。她指出,研究者已经在用强化学习改进大语言模型。

探索模块可以帮助智能体尝试此前没做过的动作。Ke 说,这仍是机器人学中的重要开放问题,目前还不是 Pi 工作的主要部分。

Ke 说,π*₀.₆ 带来一个难题:机器人长时间部署后取得好结果,如何判断其中哪一部分起了作用?系统需要把成功结果与促成它的动作联系起来。

智能体可能要尝试很多次才会成功。Ke 将归因问题描述为:从庞大数据集中找出有用的经验,让机器人复现成功做法并从中学习。

Ke 说,强化学习依赖于问题定义,这是基础问题,却常被教科书一笔带过。对语言模型来说,提示词通常描述了任务;对机器人而言,同一条指令可能对应许多种有效结果。

Xiaojun 问,让机器人叠衣服究竟是什么意思,因为指令没有说明衣物应该怎么叠。

Ke 解释,机器人可能会钻奖励函数设计不当的空子,就像玩游戏的智能体发现漏洞后利用漏洞取胜。高分不一定代表机器人做了人们真正想要它做的事。

Ke 说,奖励函数可以用分数高低表达偏好。在大语言模型研究中,有些任务可以交给程序验证,例如生成的代码能否运行成功,不必依赖主观奖励。

机器人领域往往缺少这样清晰的成功标准。比如把杯子移到另一张桌子上,但许多物理任务的结果比“抵达指定位置”微妙得多。

主持人问到叠衣服。Ke 指出,人们有很多不同的叠法,很难用语言说明哪一种才算正确。

Ke 说,每天使用 Claude Code 改变了她对自然语言交互的看法。她以前觉得,自己性格内向,应该更喜欢不必开口的交流方式;现在她看到了对话式工具的价值。

Ke 说,智能体可能无法马上理解指令,但人可以补充背景、让它搜索,或请它制定计划。因此,对话可以通过多轮逐步完善。

Ke 说,现在的视觉—语言—动作(VLA)模型仍很原始。语言可以说明任务,却常常表达不出动作的细节,也无法涵盖人们叠衣服时的多种做法。

被问到机器人研究者是否认同哪种数据最好时,Ke 说她无法代表所有人。有些人相信模拟环境可以变得更有用,其他人则采用不同路线。

Ke 将 UMI 描述为一种方式,让人们在自己家里自然地采集机器人示范。相比把机器人安装到每个家庭、再通过机器人采集数据,这样可能更快、更容易。

Ke 说,人们尚未就优质机器人数据达成统一定义。数据的价值取决于任务,也取决于其中记录的动作质量。

一条数据可能展示非常精准、像运动员一样的动作,也可能是较慢的尝试,期间要多走几步才能碰到物体。Ke 说,动作质量是数据质量的一个维度。

Ke 说,标签能揭示观察结果中不明显的信息,例如玻璃杯在哪里、长什么样。大模型团队可能强调广泛的零样本能力,而应用团队通常专注于特定场景。

Ke 说,广泛能力和面向具体任务的方法可以互相补充。它们的目标看似不同,但都能为同一套系统作出贡献。

在一种环境中表现良好的模型,在相似场景中也可能有所提升。Ke 说,更好的数据和更强的模型既能改善原任务,也可能帮助相关任务。

Ke 说,如果大模型在新任务和新环境中的表现持续改善,研究者就能用更有针对性的方法进一步打磨它。她认为整体能力提升与面向特定任务的工作可以相辅相成。

Ke 说,Pi 正努力保持研究计划的平衡,而不是只专注于其中一种路线。

被问到未来的机器人架构时,Ke 说,有些研究者认为世界模型会很重要,但“世界模型”究竟必须具备什么还没有定论。这个领域仍需持续探索。

11

前沿展望

Kay 思考架构、模拟器、基准、部署、安全和商业进展。她认为,从研究成果到能在人身边可靠工作的机器人,还有很长的路要走。

Ke 将 Pi 的工作看作从能力到泛化、再到表现的递进过程。每个阶段都产生了有用发现,不过她也预计机器人领域的许多重要成果会来自其他团队。

Ke 对比了 2024 年初和 2025 年底机器人能做到的事情。曾经看来不现实的叠一篮子衣物,后来变成机器人有时也能完成的任务。

她说,进步让一些此前不确定的行为变得显然可行,尽管机器人并非每次都能成功。Pi 的 π₀.₅ 和 π*₀.₆ 工作从实践角度探索了这些能力。

Ke 说,团队测试机器人能否把在一个家中学到的东西用到另一个家中。内部测试结果只有在陌生环境部署时也能成立,才有意义。

Xiaojun 提到 Google 发布 Gemini,认为这类系统可能给机器人学带来启发。两人接着讨论 2026 年可能出现哪些演示和能力。

被问到机器人学更像自动驾驶还是大语言模型研究时,Ke 说它更像大模型研究。自动驾驶本身也很复杂,但机器人操作涉及广泛的物理任务。

Ke 说,自动驾驶系统面临复杂的高层决策问题,机器人学则还要处理复杂的底层控制问题。操作任务要求机器人在难以建模的环境中协调物理动作。

Ke 说,人们能容忍语言模型犯一些小错,因为知道系统可能出错。机器人仍需仔细评估,不过她不认为机器人评估标准必须照搬自动驾驶。

Ke 说,机器人学与自动驾驶并行发展,但能相互借鉴。机器人领域可以参考自动驾驶在规划、部署和安全方面的经验。

Ke 说,机器人学和自动驾驶是并行发展的领域,技术难点各有不同,但彼此可以借鉴。机器人研究者能从自动驾驶在部署、安全和车队运营方面的经验中学习。

Ke 说,领先公司需要自己的模拟器,而专业供应商也可能提供可租用的工具。自动驾驶积累的数据远多于机器人学,对企业来说,把机器人产品真正交付出去正成为重要目标。

被问到今天的机器人能否做家务时,Ke 说许多家庭任务仍未解决。她认为,家庭环境的复杂性是研究中的一大挑战。

Ke 说,每个家庭都不一样,环境与家务任务的多样组合构成了严峻的泛化难题。即使是叠被子这样的任务,换到一个新家也可能失败。

Ke 说,家用机器人必须可靠,并能在人身边安全工作,而不是只在短暂演示中成功。她担心人形机器人在家里摔倒、损坏地板或伤到人,也在想更小、更轻的机器人是否会让人更安心。

被问到春节联欢晚会后中国机器人领域的进展时,Ke 说那些展示让她很兴奋。她认为,中国强大的制造业供应链和硬件实力是重要优势,有助于更快迭代并实现商业化。

12

中国

对谈比较不同地区在机器人投资、硬件、开放研究和复现实验所需资源方面的情况。Kay 谈到运动控制,以及机器人如何在不断重新设计中变化。

Ke 说,Pi 少有地把重点放在研究上,而非立即商业化。她将这一选择与 Peter Abbeel 早先创办的机器人公司 Covariant 联系起来:公司转向物流后,或许分散了打造更通用机器人模型的精力。

Ke 说,Pi 从这段历史中吸取了教训,希望先解决基础研究问题,再完成商业闭环。她指出,一些中国公司或许更务实地追求收入,同时也提出疑问:Pi 在硬件上的投入有限,会不会成为劣势?

Ke 说,Pi 不可能无限制地投资所有领域。她开玩笑说,团队很羡慕 OpenAI 等公司可用的资金,因为更多投入可以改善软件、算法、算力和数据。

Ke 说,中国的制造业供应链提供了许多电机和机器人设计选择,而其他地区硬件迭代较慢,限制了团队可探索的方案。硬件问题仍未解决,尽管人们已能把机器人组装起来并让它动起来。

Ke 说,硬件迭代速度很重要,但造出机器不等于解决了软件问题。研究者还得找到能产生有用行为的设计和算法。

Ke 说,Pi 许多论文都已公开,而 Google 和 Tesla 可能披露得更少。即便研究公开,竞争者仍需要足够的数据和算力,才能训练出 Gemini 这样规模的模型。

Ke 说,Pi 的读书会会讨论中国的机器人演示,有时也会请运动控制专家介绍团队研究重点以外的工作。研究者会寻找可借鉴的想法,而不会假装自己精通所有领域。

Ke 介绍了从走路到后空翻、跳舞等运动能力。她说,强化学习对实现这些行为十分重要,并提出美国对机器人硬件的投入是否足够。

Ke 说,美国的硬件仍有进步空间,Tesla 对许多机器人硬件细节也保密。她开玩笑说,Tesla 的上海工厂以高产量闻名,这凸显了制造能力的重要性。

Ke 将硬件差距与教育和职业发展路径联系起来:一个行业若缺少培训渠道,掌握所需技能的人就会减少。移民可能填补部分空缺,但重建产业基础需要时间。

13

机器人的“物种”

Kay 将机器人视为会不断演化的产物,其组件和能力可能彻底改变。她思考目标与数据如何限定学习到的行为,并将技术与社会和选择等更广泛的问题联系起来。

被问到机器人是否可能有意识时,Ke 说,她想理解意识如何从生物、物理和化学等物理过程产生。她不确定机器能否拥有类似人类的意识,但认为这是很丰富的小说素材。

Ke 回到机器人的“种族”这一想法:能够自行组装和维修的机器人。她认为,自我修复和可替换部件会是一个里程碑,能赋予机器人更灵活的存在形式。

Ke 说,Pi 有一台机器人经历了大量改版,如今与最初版本唯一的联系可能只剩序列号;每个组件都换过了。Xiaojun 问它是否该换个名字。

Ke 说,这引出了一个伦理问题:如果机器人的所有部件都换掉了,它还是原来那台机器吗?她开玩笑说,可以让伦理委员会检查是不是每个零件都真的换过。

Ke 想象,未来生产力充裕时,人们可以自由选择截然不同的生活。她说,人类在历史中只占很短一段,但仍可能创造出对他人有意义的东西。

Ke 说,学习系统的内部机制可能难以解释,但它的行为仍受训练数据和目标所限定。从这个意义上说,即使黑箱模型也可以用数学来描述。

Ke 认为,生产力是人类重要的追求,尽管她的机器人研究有时让她觉得离人文学科很远。她会和写小说、做艺术的朋友交谈,以此保持平衡。

被问到人们创造智能体之后会发生什么时,Ke 说她不知道。她想象机器人可能形成自己的审美偏好,比如觉得二维码很美;她也好奇,如果机器人有了意识,会做些什么。

Ke 说,她从未停止构思小说,只是拖延常常让她没能把想法写下来。她希望创作一部体现自己品味的故事或游戏,并与读者分享。

14

未完的故事

最后一段对谈涉及小说、动力、社会价值、竞争和人生意义。Kay 最后把感官理解、语言,以及人是否通过世界模型体验现实联系起来。

Ke 想象机器人接手令人厌烦的家务,让人有更多时间从事创作。如果机器人能处理维修等专业工作,人们甚至可以修复一座废弃城堡并住进去。

她说,如今的研究往往要找到拥有相应见解的专家。未来,普及的通用系统可能让更多人获得许多具体任务所需的专业能力。

Ke 写两大类科幻故事:一类设定在截然不同的世界,借此探讨人际关系;另一类则把非凡或奇幻的想法带进现代生活。

Ke 描述了一个故事:有人进入未来社会,试图改变其社会秩序。尽管这种情境似乎遥远,却能让她探索一个人的挣扎、选择和英雄旅程。

主人公想抵抗从童年开始就对人产生的强烈社会塑造,创造一个人人能更自由选择的社会。Ke 对主人公如何聚集同伴、说服他人加入很感兴趣。

Ke 说,她喜欢把两个迥异的世界放在一起,展现其中共同的人性议题。她将此与自己在网络游戏中担任队长作比较:当时她需要组织玩家、协调沟通,并在进展停滞时鼓励大家。

被问到什么激励着自己时,Ke 说,她很高兴能做想做的工作。她不需要为每一步都设定固定目标;就像 Steve Jobs 所说的“连点成线”,有些意义只有回头看时才会显现。

Ke 希望未来五到十年能开展一些过去不敢想象的项目。她也愿意随着技术发展参与务实的工作,并说自己想尝试的事情还多得很。

Xiaojun 请每位嘉宾推荐一本对自己影响深远的书。Ke 选择了 Pierre Bourdieu 研究社会阶层与品味的《区分》。

Ke 说,《区分》让她思考,自己的偏好有多少真正来自个人,又有多少是社会塑造的。她认为,硅谷对生产力的崇拜也是社会价值观的一种体现。

Ke 观察到,硅谷的休闲着装、对简洁的强调以及对创造的重视,都反映出一套特定的价值体系。即便拒绝旧有身份标志,本身也是一种社会品味。

两人比较了贪心算法和动态规划:前者每一步都选择当下看起来最好的方案,后者则考虑整体结果。Ke 说,局部最优不一定能带来长期最佳结果。

Ke 说,没有人能完整预见未来,所以不可能把每一步都优化到极致。她能接受十件事中九件做好、一件不完美,也把早年未走完的道路看作自己最终进入机器人领域的一部分。

被问到最喜欢的地方时,Ke 选择了自己曾留学半年的 Edinburgh。保存完好的历史建筑和独特的地理环境给她留下了深刻印象。

Ke 回忆说,大学时她了解到一种关于处女膜和首次性行为出血的常见说法在医学上并不准确。这场讨论让她和朋友意识到,自己对身体构造了解得太少。

Ke 说,和朋友的交流暴露出她们对身体基础知识的缺口。随后 Xiaojun 问哪些研究论文对机器人领域影响最大。

Ke 说,有影响力的论文太多,难以只选一篇。她提到了 diffusion policy、ACT 等 Transformer 架构的应用,以及更早的模仿学习和强化学习研究。

Ke 说,机器人可能以多种形态进入家庭,不一定只有一种产品。她预计,人们还会继续探索不同的配置和方法。

最后两人谈到,我们的感官是否可能接收到来自模拟器的信号。Ke 说,大语言模型的局限让人看到,描述一个玻璃杯和理解它的物理属性并不是一回事。

Ke 和 Xiaojun 最后思考了唯心主义:如果所有体验都来自感官信号,那么我们感知的世界也许由一个无法直接观察的来源所中介。他们将这个问题留作开放的哲学思考。

同频道的其他文章

1:59:52EN → 简体中文
Zhang Xiaojun Podcast· 2026年10月21日播客 · 2 人对谈David Qian 谈企业传承、机器人与寻找自己的抱负嘉宾 David Qian (Qian Cheng) · 主持 张小珺Ecovacs CEO David Qian 回顾自己如何接手由创始人建立的企业、在错误中学习领导,并为机器人业务选择一条耐心发展的道路。在他看来,传承不是终点,而是持续建设企业、迎接新时代的过程。企业与战略LeadershipCompany Building+2
2:51:18EN → 简体中文
Zhang Xiaojun Podcast· 2026年10月15日播客 · 2 人对谈Lindon Gao 谈打造 Dyna Robotics,以及如何在迷雾中找到方向嘉宾 Lindon Gao · 主持 张小珺Dyna Robotics CEO Lindon Gao 解释公司为何从真实工作流中发展智能、硬件与研究为何必须同步迭代,以及创始人如何放下必须正确的执念、重新找回清晰感。RoboticsProduct Strategy模型与训练+2
2:34:18EN → 简体中文
Zhang Xiaojun Podcast· 2026年9月3日播客 · 2 人对谈曾鸣谈 AI 新时代:伟大公司与新型组织如何诞生嘉宾 Zeng Ming · 主持 张小珺曾鸣认为,AI 正在改变商业的底层逻辑:模型将成为基础设施,新一波价值则由智能体原生应用和组织创造。他建议创业者拥抱不确定性、持续生成和调整战略,并围绕有意义的工作构建组织,而非沿用旧架构。AI Strategy企业与战略智能体+2
2:34:18ZH
Zhang Xiaojun Podcast· 2026年9月3日播客 · 2 人对谈曾鸣:AI 产业化的三阶段与公司组织的消亡嘉宾 曾鸣 · 主持 张小珺战略学者曾鸣以互联网、工业革命和电气化的历史周期为参照,提出 AI 正从基础设施走向 Agent 应用,并最终进入原生应用阶段。他认为,旧公司的科层制难以穿越范式转型,下一代组织将围绕任务、创造力和人机协同重构。AI StrategyStrategy智能体+2
3:36:13EN → 简体中文
Zhang Xiaojun Podcast· 2026年8月13日播客 · 2 人对谈NVIDIA 研究副总裁 Ming-Yu Liu 谈 Cosmos、Physical AI 与开拓新市场嘉宾 Ming-Yu Liu · 主持 张小珺NVIDIA 研究副总裁 Ming-Yu Liu 回顾十年生成式模型研究如何走向 Cosmos 3——一个面向 Physical AI 的世界基础模型。他也分享了黄仁勋教给他的长期投入、团队协作,以及开创新市场而非争夺存量的理念。World modelsRoboticsAI research+2
2:59:03EN → 简体中文
Zhang Xiaojun Podcast· 2026年7月28日播客 · 2 人对谈You Kaichao 谈 vLLM 如何从开源项目成长为 AI 基础设施公司嘉宾 You Kaichao · 主持 张小珺Inferact 联合创始人 You Kaichao 回顾 vLLM 从 Berkeley 研究项目走向公司的历程,并解释模型、推理、硬件与智能体设计为何越来越需要协同推进。Company BuildingAI startups & small teamsAI research+2