Ace 计算机操作智能体:快速桌面与浏览器演示

原标题Ace Computer-Use Agent: Fast Desktop and Browser Demonstrations

Matthew Berman 回顾 General Agents 的示例及其公布的点击准确率和延迟,并说明自己尚未亲自测试 Ace。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2025年4月4日
视频
7:33
阅读
2 分钟
幻灯片
3
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 评析 General Agents 的 Ace 计算机操作产品发布,包括 macOS、Chrome、Premiere 和 HubSpot 上的演示。他重点介绍公布的速度和基于行为的训练,同时区分公司演示、基准数据与未来的独立测试。

  1. 1跨应用工作流示例包括分享图片,以及压缩、上传和分享文件。
  2. 2机票与联系人任务智能体进行机票搜索,并在标为 2 倍速的演示中录入联系人。
  3. 3公布的基准公司比较了点击准确率和动作延迟,而不是所有任务的端到端可靠性。
  4. 4基于行为的训练公司称模型从人们执行任务的录屏和输入日志中学习。

要点建议

  1. Ace 演示了文件分享、编辑和机票搜索等桌面与浏览器工作流。
  2. 联系人录入演示标为 2 倍速,其他示例标为 1 倍速。
  3. 公司在其选择的基准条件下公布了点击准确率和动作预测延迟。
  4. General Agents 称它利用屏幕、鼠标和键盘活动等行为记录进行训练。
  5. 视频录制时 Berman 尚未独立测试 Ace。
全文

按章节阅读整理后的全文

只看原始文稿
01

快速计算机操作演示

Berman 介绍 Ace 并回顾浏览器和桌面任务。他指出自己尚未亲自测试产品。

General Agents 展示了 Ace,这款计算机操作智能体能够控制浏览器和桌面应用。在我看来,发布演示的速度非常快,尤其与我试过的缓慢且容易出错的计算机操作智能体相比。不过我还没有亲自测试 Ace,因此评价基于公司的示例和公布的基准。

一段演示中,Ace 在 Chrome 中找到一张狗的图片,并通过 iMessage 分享。另一段演示中,它在 macOS 上压缩文件、将压缩包上传到 Google Drive,并分享链接。公司将这些示例标为正常速度。

演示不只限于浏览器。在 Premiere 中,Ace 将视频片段减速、分割并开始导出 MP4。其吸引力在于,人可以描述一个多步骤任务,让智能体操作相关界面,而不必手动完成每次点击。

02

任务与公布的基准

示例包括机票查询和联系人录入。图表报告点击准确率和动作预测延迟。

机票搜索示例在 Google Flights 上查找从旧金山到纽约的航班。另一个示例逐一将表格中的联系人添加到 HubSpot;该演示标为 2 倍速。这些例子展示了不同任务,但不能证明其在所有真实场景中的表现。

公司的图表比较了正确点击预测率,展示的测试中 Ace Control Medium 接近 80%。延迟图表报告 Ace Control Small 约为 324 毫秒、Medium 约为 533 毫秒,而 Operator 约为 6.4 秒。这些是特定条件下公布的基准结果,不能全面衡量端到端任务的可靠性。

03

训练与更多示例

General Agents 介绍基于行为的训练。其他演示涵盖预订、创建 issue 和系统设置。

General Agents 表示,Ace 的训练依据行为,而不只是文本和图像。公司称,屏幕录制以及鼠标、键盘日志可以提供人们如何使用熟悉工具的示例。我觉得这一想法很有前景,但希望看到它在演示之外的表现。

其他示例展示 Ace 操作 Airbnb 预订流程,将错误堆栈转成 GitHub issue,以及把 macOS 切换为深色模式并启用 Game Center。公司提供研究预览;视频录制时我已申请访问,并计划独立测试。

同频道的其他文章

6 张幻灯片25:50EN → 简体中文
MBMatthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
MBMatthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
45:08EN → 简体中文
MBMatthew Berman· 2026年10月21日Sam Altman 谈 AI 发现、意识、算力与以人为本的未来Matthew Berman, Sam Altman · Forward Future在与 Matthew Berman 的对谈中,Altman 讨论科学进步、个人助手、递归自我改进与人类自主权。AI for sciencePersonal agentsConsciousness+2
5 张幻灯片12:14EN → 简体中文
MBMatthew Berman· 2026年10月14日Gemini 4 Argon 实测:3D 演示、电子表格原型与基准成绩Matthew Berman · Forward FutureMatthew Berman 用游戏和视觉项目测试 Google 模型,并比较公布的编程与智能体基准。GeminiBenchmarks编程智能体+1
5 张幻灯片10:36EN → 简体中文
MBMatthew Berman· 2026年10月13日Meta Muse Wonder 实测:基准成绩强劲,演示表现不一,额度限制影响体验Matthew Berman · Forward FutureMatthew Berman 测试 Meta 模型的浏览器演示,并分析公开的基准成绩、使用方式和成本。模型与训练BenchmarksAI cost & performance+1
2 张幻灯片17:37EN → 简体中文
MBMatthew Berman· 2026年10月10日AI 编码、游戏混搭与人类品味的价值Matthew Berman · Forward FutureMatthew Berman 解释反编译与游戏混搭,并论述 AI 迭代编码如何改变软件和创作。编程智能体Software engineeringCreativity+1