30 秒看懂
在 2025 年的实验室参观中,Hannah Fry 与 Kanishka Rao 探索视觉语言动作模型如何控制机器人。演示展示了物体操作和任务编排的进步,也呈现了速度与可靠性的局限。
- 1视觉、语言与动作模型将指令和视觉观察与实体动作连接。
- 2从示范中学习午餐任务通过远程操作示范。
- 3编排任务高层模型可以把目标拆成较短的机器人指令。
- 4数据与安全仍是挑战更多实体交互数据有用,但不能解决所有可靠性问题。
要点建议
- 视觉语言动作模型将观察和指令连接到机器人动作。
- 远程操作示范可以为物体操作提供训练例子。
- 编排器可以将长目标拆成较短的机器人任务。
- 对新物体的演示不能证明系统在所有环境中都可靠。
- 实体数据、安全和可靠执行仍是开放挑战。
按章节阅读整理后的全文
变化中的机器人实验室
Hannah Fry 与机器人主管 Kanishka Rao 一起参观 Google DeepMind 加州机器人实验室。这次 2025 年的参观展示了物体操作、语言指令和将小动作组合成长任务的演示。
Hannah Fry 与机器人主管 Kanishka Rao 一起参观 Google DeepMind 加州机器人实验室。这次 2025 年的参观展示了物体操作、语言指令和将小动作组合成长任务的演示。
Rao 说,与数年前相比,视觉模型的进步让实验室对受控背景和光线的依赖降低。他将其视为视觉泛化的进展,并非证明所有环境问题都已解决。
团队在视觉语言模型基础上构建机器人系统,让模型理解场景和指令。Rao 说,这有助于机器人应对陌生的视觉环境和语言表达。
从感知到行动
视觉语言动作模型将视觉、语言信息与实体动作连接。团队还使用智能体将较长目标拆成小动作,例如决定出行时要打包什么。
视觉语言动作模型将视觉、语言信息与实体动作连接。团队还使用智能体将较长目标拆成小动作,例如决定出行时要打包什么。
Rao 介绍了一个在行动前输出中间推理的“思考”组件。他说团队在其任务中观察到更好的表现,但演示不能证明系统在所有地方都同样可靠。
打包午餐
第一台机器人打包午餐,包括操作小袋子和食物。Fry 与 Rao 观看它重试和调整,并强调任务需要精细的实体操作精度。
第一台机器人打包午餐,包括操作小袋子和食物。Fry 与 Rao 观看它重试和调整,并强调任务需要精细的实体操作精度。
被问到如何学习这项任务时,Rao 说,人们通过远程操作控制机器人进行示范,让它从完成任务的例子中学习。
新物体与指令
下一个演示聚焦泛化:机器人接收移动彩色积木的语音指令,由基于 Gemini 的层解释请求。
下一个演示聚焦泛化:机器人接收移动彩色积木的语音指令,由基于 Gemini 的层解释请求。
Fry 拿出团队称机器人未见过的减压球和一个小容器,要求它打开容器、放入球并盖好。这个过程测试新物体和多条指令。
更长的任务
Rao 解释,编排器可以将高层请求转化为动作模型的短指令。目标是完成较长任务,而不让用户指定每一个动作。
Rao 解释,编排器可以将高层请求转化为动作模型的短指令。目标是完成较长任务,而不让用户指定每一个动作。
一个例子中,系统查询当地垃圾分类指引并整理物品。演示展示信息检索、推理和实体动作的结合,并不能保证它在所有地点都能正确分类。
Rao 说,该任务有两个组件:推理模型负责指挥,视觉语言动作模型负责执行动作。两个系统在整个序列中配合。
衣物分类与泛化
一台人形机器人将衣物分类放入篮中,同时输出关于动作的中间文本。Rao 说,这个演示使用同一模型进行思考和行动,而不是前一个例子中的分层结构。
一台人形机器人将衣物分类放入篮中,同时输出关于动作的中间文本。Rao 说,这个演示使用同一模型进行思考和行动,而不是前一个例子中的分层结构。
研究人员随后拿出他们称未出现在训练中的物体,让机器人放入容器。Fry 观察到机器人虽然尝试适应,但速度较慢,有时也会失败。
仍然困难的地方
Rao 认为这些系统是通用机器人技术的基础,但预计仍需要至少一次重大突破。他指出训练需要大量实体交互数据。
Rao 认为这些系统是通用机器人技术的基础,但预计仍需要至少一次重大突破。他指出训练需要大量实体交互数据。
他说,更多数据本身可能无法解决所有问题:可靠完成任务和安全仍是挑战。团队还希望从人类操作视频中学习,但如何将这些信息迁移到机器人仍是开放问题。
Fry 最后指出实验室中可见的进步与局限:机器人有时仍然缓慢笨拙。她对机器人革命即将到来的判断是未来展望,并不是说系统已经适合所有场景。
同频道的其他文章
38:10EN → 简体中文
44:25EN → 简体中文
44:41EN → 简体中文
10:52PT → 简体中文
53:05EN → 简体中文
42:38EN → 简体中文