Devin、SIMA 与 Figure:2024 年三个智能体演示说明什么

原标题Devin, SIMA and Figure: What Three 2024 Agent Demos Showed

AI Explained 为编程、游戏和机器人演示提供背景。

频道
AI Explained
发布
2024年3月14日
视频
19:21
阅读
3 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

AI Explained 审视 Devin 报告的软件基准、SIMA 的游戏任务和 Figure 机器人演示。这段 2024 年的讨论区分狭窄结果与广泛自主能力,并认为就业及 AGI 时间表存在不确定性。

  1. 1智能体系统Devin 将模型与终端、浏览器等工具结合。
  2. 2SWE-bench基准分数覆盖的范围比软件工程师工作更窄。
  3. 3基准局限数据集选择影响评估实际测量的内容。
  4. 4就业讲述者认为就业影响仍不确定。
  5. 5SIMASIMA 在三维环境中的选定任务上接受测试。
  6. 6机器人演示机器人演示不能确立通用能力。
  7. 7长期预测公司和高管的时间表属于预测。

要点建议

  1. Devin 将模型与终端、浏览器等工具结合。
  2. 基准分数覆盖的范围比软件工程师工作更窄。
  3. 数据集选择影响评估实际测量的内容。
  4. 讲述者认为就业影响仍不确定。
  5. SIMA 在三维环境中的选定任务上接受测试。
  6. 机器人演示不能确立通用能力。
  7. 公司和高管的时间表属于预测。
全文

按章节阅读整理后的全文

只看原始文稿
01

编程智能体

Devin 与 SWE-bench 背景。

2024 年 3 月,AI Explained 比较三个智能体演示:Cognition 的 Devin、Google DeepMind 的 SIMA 和 Figure 的人形机器人。讲述者提醒,这些系统在各自领域距离人类表现仍有很大差距。

Devin 被介绍为配有代码编辑器、终端和浏览器的软件智能体系统,而非单独的模型。讲述者对其底层模型作出推测;节目没有独立确立所有组件。

他讨论报告的 SWE-bench 结果,并与早期基线比较。基准分数取决于基准版本、工具和辅助条件,因此不能直接衡量软件工程师的全部工作。

数据集由选取的 GitHub 问题及其相关的已接受变更组成。讲述者询问,筛选具有测试的问题是否会让基准较少代表更难或更难衡量的工作。

他介绍评估生成补丁的局限,以及让智能体使用工具检查代码和相关上下文的潜在价值。成功完成基准任务并不能确立通用自主能力。

视频提到其他编程智能体公司及模型能力未来可能改进。这些比较和预测反映 2024 年可用的信息,并非当前产品基准。

02

就业与游戏智能体

不确定性与 SIMA 研究。

讲述者承认人们对就业的担忧,并说未来劳动力影响难以预测。他对人类经济仍然乐观,同时承认具体工作可能变化。

他介绍 SIMA:一种受训练在三维游戏环境中遵循指令的研究智能体,并将其与手机或计算机交互的其他工作联系起来。在选定短任务上成功,不等于能够可靠完成任意现实任务。

研究描述利用多个游戏中的经验,并测试向陌生环境迁移。讲述者强调正向迁移,同时指出任务与底层感知的局限。

他讨论视觉基准,以及准确导航或操作界面的困难。更好的基准结果可以是有用证据,但不能保证在所有环境中都稳健运行。

03

机器人与预测

演示和长期预测。

视频转向 Figure 的人形机器人,以及涉及物体识别和物理操作的演示。讲述者讨论视觉语言组件,但单个演示不能确立通用机器人能力。

他介绍公司关于降低劳动力成本、机器人最终制造其他机器人的愿景。这些是公司的长期预测,并非已证明的经济结果,也不能保证体力劳动会变成可选。

讲述者引用科技高管的乐观时间表和算力增长估计。这些预测依赖对硬件、效率和应用进展的假设,不能证明某种能力一定按期出现。

最后,他呼吁关注快速变化,同时反对仅凭 Devin 的基准结果就认定通用人工智能已经实现。他区分了令人印象深刻的演示与更广泛的能力主张。

同频道的其他文章

3 张幻灯片31:00EN → 简体中文
AI Explained· 2026年10月12日为什么 AI 实验室自己警告会出重大事故,却还在继续竞赛Sam Altman, John Schulman · OpenAIAI Explained 梳理正在变弱的安全防护、前沿竞赛背后的激励,以及研究突破为何让未来 18 个月更难预测。AI SafetyAI securityAI Alignment+2
幻灯片38:28EN → 简体中文
AI Explained· 2026年10月1日AI Agent 安全与递归自我改进的挑战AI Explained 讨论报道中的隔离失效、模型评估,以及加速 AI 研究带来的压力。AI securityAI SafetyAI research+2
5 张幻灯片32:54EN → 简体中文
AI Explained· 2026年9月24日Opus 5.5 与自动化 AI 研究的竞赛AI Explained 在模型进展之外,讨论评估和治理递归自我改进日益困难的挑战。AI SafetyAI research安全与治理+2
2 张幻灯片24:53EN → 简体中文
AI Explained· 2026年9月16日为何一些研究者呼吁放缓前沿 AI 发展AI Explained 梳理可能的扩展方向、监测方面的担忧,以及能力如何可能带来危害的争论。AI SafetyAI Alignment安全与治理+1
6 张幻灯片29:05EN → 简体中文
AI Explained· 2026年9月4日GPT-6 Astra 的评测进步与推理监控难题AI Explained 考察科学、数学和智能体评测中的报告成绩,也讨论模型推理越来越难以观察所带来的担忧。模型与训练BenchmarksAI Safety
7 张幻灯片23:41EN → 简体中文
AI Explained· 2026年8月27日AI 智能体、非预期训练奖励与监督难题AI Explained 分析智能体协作、训练激励,以及越来越多地使用 AI 评估其他 AI 系统的报告。AI Safety智能体工程模型与训练+1