30 秒看懂
在这期 2025 年 1 月 23 日的视频中,Matthew Berman 评论 OpenAI 发布的 Operator。这个研究预览通过云端浏览器执行任务;演示包括餐厅预订、杂货购物、用户接管和并行任务,也展示了现场错误及基准结果。可用性和产品描述反映发布时的情况;视频包含 Together AI 赞助内容。
- 1预订时请求澄清所请求的餐厅时间不可用时,Operator 提出另一个时间并等待用户确认。
- 2观察、操作、再检查杂货购物演示展示了截图、界面操作和观察结果的循环。
- 3用户接管演示者手动修改购物订单,然后把控制权交还给智能体。
- 4安全措施OpenAI 讨论了拒绝、确认和提示注入监测等措施,同时承认仍有风险。
- 5基准测试的范围在所述评估条件下,报告的 OSWorld 分数为 38.1%,WebArena 为 58.1%。
要点建议
- Operator 发布演示通过屏幕截图、鼠标和键盘操作远程浏览器。
- 智能体会暂停请求澄清或确认,用户也可以接管浏览器。
- 保存的 Cookie 可以维持登录,但身份验证、网站变化和付款仍可能带来摩擦。
- OpenAI 介绍了针对有害请求、模型错误和恶意网页指令的多层缓解措施。
- 报告的 OSWorld 和 WebArena 分数来自特定基准,不能保证真实网站上的任务成功。
按章节阅读整理后的全文
早期浏览器智能体
Altman 和 OpenAI 演示者介绍 Operator 及其发布范围。Berman 讨论基于视觉的浏览器操作方式。
2025 年 1 月,OpenAI 宣布推出 Operator,这是一款使用云端浏览器执行任务的早期智能体研究预览。我观看发布演示,并评论它的能力和局限。
Sam Altman 将智能体简单描述为可以独立执行任务的 AI 系统。我喜欢这个简洁定义,尽管更复杂的智能体系统也可能使用记忆、工具或协作。
OpenAI 说 Operator 通过截图观察浏览器,并使用鼠标和键盘操作。发布时它向美国 Pro 用户提供,扩大使用范围则是未来计划;这些是历史信息,不能作为当前可用性的说明。
OpenAI 演示者强调这是会犯错的早期预览。首页提供示例提示,并提到与 OpenTable、Instacart 等多家服务合作。
我解释了把视觉信息转化为点击正确界面元素的普遍挑战。我推测与合作网站的工作有助于演示,但视频没有证明模型针对这些网站具体是如何训练的。
预订餐厅
智能体寻找餐位,并对替代时间请求确认。Berman 思考登录与付款的摩擦;视频包含赞助环节。
在第一个演示中,团队要求 Operator 在旧金山的一家餐厅预订晚上 7 点的双人餐位。它打开远程浏览器,进入 OpenTable 并搜索餐厅。
我起初担心云端浏览器可能需要反复登录和手动填写付款信息。后面的演示澄清,Cookie 可以保留登录会话,不过身份验证和付款仍可能需要用户介入。
我认为这个预览令人印象深刻,但在真实交易方面仍未完成。视频随后进入 Together AI 赞助环节。
回到演示,Operator 搜索并显示操作摘要。系统利用一条说明用户住在旧金山的自定义指令,纠正了位置不匹配的问题。
我设想未来智能体可能处理更多身份验证工作,但这属于推测,也需要谨慎设计隐私和安全机制。演示本身随后让用户接管敏感的登录步骤。

要求的晚上 7 点餐位不可用,于是 Operator 询问 7:45 是否可以。团队将其描述为智能体需要澄清时暂停、让用户去做其他事情的方式。
在完成预订之前,Operator 也请求确认。随后这个时间段在直播过程中变得不可用,说明真实网站的状态和可用性可能在任务运行期间变化。
我强调可以并行运行多个浏览器任务,而不必亲自逐一操作。实际能节省多少时间,取决于任务需要多少监督和纠正。
杂货购物与计算机操作
购物清单图片触发一项 Instacart 任务。演示者解释 CUA 的截图和操作循环。
在杂货购物示例中,团队上传购物清单图片,并要求 Operator 使用 Instacart。清单包括鸡蛋、菠菜、蘑菇、鸡腿肉和香脆辣椒酱。
演示者说模型识别了图片中的商品,如果没有指定网站,也可以搜索合适的商店。我注意到演示账号已经登录,并想知道会话是如何建立的。
OpenAI 介绍计算机使用智能体 CUA,称它基于 GPT-4o 并经过计算机操作训练。Berman 评论了操作摘要,但视频并没有确立模型内部推理的具体实现方式。
演示者对比了控制视觉界面与为每项服务单独使用 API。我指出浏览器操作可能较脆弱,但能够访问没有提供所需 API 的界面。
我把浏览器智能体与适应人类环境的机器人作比较:适应现有界面可以扩展使用范围,而无需重新设计每项服务。这个类比并不意味着视觉操作总比 API 更可靠。
团队回放杂货购物中的一步:CUA 观察截图、识别商品、点击添加、查看下一屏并继续。界面显示操作历史和摘要,但不应将其视为隐藏推理的完整记录。

循环过程是观察当前屏幕、决定操作并检查产生的页面。在示例中,智能体添加鸡蛋后继续搜索菠菜。
接管与并行任务
用户接管浏览器,团队解释会话隐私和保存的 Cookie。购票任务遇到被拦截的重定向,随后启动更多任务。

一位演示者接管浏览器并修改鸡蛋数量。OpenAI 说,用户可以接管、指导操作,然后把控制权交回 Operator。
团队说,用户接管期间的操作对 Operator 不可见。交回控制权时,用户可以选择简述改动;智能体也可以查看操作后的页面。
演示者解释,Instacart 的登录在演示前完成,Cookie 会让会话保持登录,直到被清除。这纠正了我先前关于每项任务必然没有保存登录状态的假设,但操作摩擦仍然存在。
购票搜索在直播中遇到被拦截的页面。演示者接管并修正网址;团队将问题归因于重定向和只允许 HTTPS 的规则。
团队继续启动寻找网球场、清洁服务和披萨等任务。我认为并行委派很有吸引力,但这些示例仍需要用户提供提示、作出选择并确认。
Operator 提出后续问题,团队从返回的选项中作出选择。OpenAI 说,当智能体需要帮助或即将作出有影响的变更时,通知可以提醒用户回来处理。
安全与评估
团队介绍多层安全措施和现场登录过程,最后讨论基准结果及早期研究预览的限制。
安全讨论区分了有害用户请求、模型错误和恶意网站指令。OpenAI 将拒绝和审核、确认步骤以及独立的提示注入监测器描述为降低这些风险的多层措施。

对于会改变状态的操作,确认步骤让用户有机会检查细节。演示者承认,没有一套缓解措施能够预测所有失败,并称会逐步推出、从使用中学习。
购票过程需要演示者接管并登录。Berman 指出,邮箱验证码、密码管理器和付款信息可能给远程浏览器增加操作摩擦;实际流程取决于网站和保存的会话。
OpenAI 报告 CUA 在 OSWorld 上得到 38.1%,在 WebArena 上得到 58.1%;所列人类成绩分别为 72.4% 和 78.2%。这些是特定条件下的基准结果,不是所有真实任务的成功率。

演示者强调,WebArena 测试向系统提供截图、鼠标和键盘,而非网页文本或元素元数据。他们说,底层模型也可用于演示浏览器之外的计算机界面。
OpenAI 最后将 Operator 称为早期研究预览,并介绍了计划中的 API 使用方式。我期待亲自测试,而演示本身同时展示了委派的用途和人工检查的必要性。
同频道的其他文章
25:50EN → 简体中文
32:20EN → 简体中文
45:08EN → 简体中文
0:32EN → 简体中文
12:14EN → 简体中文
10:36EN → 简体中文