AI 新闻:Copilot 智能体、Claude 电脑操作与生成式媒体新品

原标题AI News: Copilot Agents, Claude Computer Use and New Generative Media

Matthew Berman 盘点 2024 年 10 月密集的 AI 发布动态,涵盖企业智能体、开放模型以及图像、视频和语音工具。

MBMatthew Berman主持 · Forward Future
频道
Matthew Berman
发布
2024年10月24日
视频
15:20
阅读
7 分钟
幻灯片
10
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 讨论 Microsoft 计划推出的自主智能体、IBM Granite 3.0、Anthropic 更新的 Claude 3.5 Sonnet 及实验性的电脑操作能力,以及 Meta、Stability AI 等公司的新产品。他分享自己对采用速度和产品比较的预测;当时多项演示和产品仍处于预览阶段。Berman 披露他投资了 LM Studio,视频还包含 Vultr 的付费赞助。

  1. 1智能体进入商业工作流程Microsoft 介绍了能够响应事件并执行业务流程的自主智能体。Berman 预计采用速度会很快,但这只是他的预测。
  2. 2Claude 可以操作电脑Anthropic 更新的 Sonnet 通过实验性电脑操作 API 使用截图和输入动作;演示也暴露了错误。
  3. 3Stable Diffusion 3.5 发布Stability AI 发布 Large 和 Large Turbo,并宣布将按其社区许可条款推出 Medium 模型。
  4. 4无需窗口运行本地模型LM Studio 增加了无界面运行功能。Berman 披露自己是该公司的投资者。
  5. 5开放视频生成Genmo 发布开放视频模型 Mochi 1;展示的例子是经过挑选的演示,而非系统性评估。

要点建议

  1. Microsoft 宣布 Copilot Studio 自主智能体即将进入公开预览,并推出新的 Dynamics 365 智能体。
  2. Anthropic 发布更新后的 Claude 3.5 Sonnet 和实验性的电脑操作能力,而 Claude 3.5 Haiku 当时尚待发布。
  3. IBM Granite 3.0 和 Genmo Mochi 1 增加了企业任务和视频生成领域的开放模型选择。
  4. Stable Diffusion 3.5 和 Ideogram Canvas 提供新的图像生成与编辑工具,其许可和访问条件各不相同。
  5. LM Studio 增加无界面运行功能;Perplexity、Runway、xAI 和 ElevenLabs 也宣布了其他产品更新。
全文

按章节阅读整理后的全文

只看原始文稿
01

Microsoft 与智能体市场

Berman 讨论 Copilot Studio 自主智能体及 Dynamics 365 的使用场景,也回应 Salesforce CEO Marc Benioff 对 Microsoft 的批评。

这一周的 AI 公告多得惊人,包括企业智能体、新模型,以及生成图像、视频和语音的工具。我想盘点这些发布,并介绍截至 2024 年 10 月哪些内容引起了我的注意。

Microsoft 宣布 Copilot Studio 中的自主智能体将在 11 月进入公开预览。这些智能体可以配置为响应事件,利用业务数据和互联系统完成流程,而不必每次都等待人工提示。Microsoft 还宣布为 Dynamics 365 推出十个自主智能体,覆盖销售、服务、财务和供应链等领域。

Copilot 智能体工作流程
幻灯片 1 / 10Copilot 智能体工作流程Microsoft 展示了智能体响应业务触发事件并执行工作流程步骤的例子。

示例包括监控共享收件箱、识别客户请求、收集相关信息并将工作交给合适的人。吸引人之处在于,它可能全天候处理例行步骤。我认为下一阶段会有更多智能体嵌入公司已经使用的软件,但演示或公告并不能证明每项工作流程都能可靠运行。

Salesforce CEO Marc Benioff 批评 Microsoft 的 Copilot,称其为“Clippy 2.0”,同时推广 Salesforce 自己的 Agentforce。我不同意低估 Microsoft 的地位:它的分发渠道和既有企业关系可能帮助它触及大量客户。这是我对竞争市场的看法,并不能证明任何一家供应商已经获胜。

Benioff 对 Copilot 的批评
幻灯片 2 / 10Benioff 对 Copilot 的批评一则公开帖子展示 Salesforce 与 Microsoft 之间的竞争争议。
02

Granite 与 Claude

IBM 发布 Granite 3.0 模型,Anthropic 更新 Sonnet。Claude 实验性的电脑操作能力展示了另一种自动化路径。

IBM Granite 3.0
幻灯片 3 / 10IBM Granite 3.0IBM 介绍其面向商业用途的 Granite 模型系列。

IBM 推出 Granite 3.0,包括 80 亿和 20 亿参数语言模型以及混合专家模型。IBM 以 Apache 2.0 许可发布这些模型,并将其定位于商业用途。我对 IBM 利用合成数据和训练来调整模型的 InstructLab 方法很感兴趣,并计划在访问 IBM 之后更详细地介绍这项技术。

Anthropic 发布了升级版 Claude 3.5 Sonnet,并宣布稍后推出 Claude 3.5 Haiku。Anthropic 表示,即将推出的 Haiku 在部分评估中达到或超过了更早、更大的 Claude 3 Opus;这是针对这些测试的比较,不保证它在每项任务中都更好。

最受关注的功能是实验性的电脑操作:开发者可以通过 API 让 Claude 查看截图并发出鼠标和键盘操作。在一个示例中,模型在电子表格和网页表单之间切换并输入信息。Anthropic 也展示了它可能出错或分心,因此早期演示有助于说明潜力,但不能证明它能可靠地自主运行。

Claude 电脑操作演示
幻灯片 4 / 10Claude 电脑操作演示示例展示 Claude 操作电脑界面完成任务。
03

Meta 研究、初创公司报道与机器人

Meta 分享分割和语音研究成果。Berman 讨论有关 Mira Murati 的初步报道以及一段人形机器人演示。

Meta 的 FAIR 团队宣布了几项研究成果。Segment Anything Model 2.1 更新了图像和视频中识别、跟踪物体的能力,而 Meta Spirit LM 将文本与语音结合起来。这些是不同的研究项目,展示了模型处理视觉和音频输入的多种方式。

Meta FAIR 发布成果
幻灯片 5 / 10Meta FAIR 发布成果Meta 列出包括 SAM 2.1 和 Spirit LM 在内的研究成果。
有关 Murati 计划的报道
幻灯片 6 / 10有关 Murati 计划的报道报道将可能的初创公司和融资描述为初步计划,而非已经完成。

一篇报道称,前 OpenAI CTO Mira Murati 正在探索成立新的 AI 初创公司,可能寻求超过 1 亿美元融资,并可能与前 OpenAI 同事合作。当时的报道描述的是初步讨论,融资和计划尚未确认为已完成交易。考虑到她的经验,我会关注她接下来做什么。

我还展示了一台中国人形机器人,它的外观让我想起 Tesla 的 Optimus。画面中确实能看出相似之处,但这段视频不能证明存在复制或窃取,也不能证明两台机器人的能力对比。简短演示无法告诉我们它在日常工作中表现如何。

04

图像创作与本地模型

Stable Diffusion 3.5 和 Ideogram Canvas 扩充了图像工具。LM Studio 推出无界面模式。

Stability AI 宣布推出 Stable Diffusion 3.5 Large 和 Large Turbo,并计划在下一周发布 Medium 模型。示例展示了多种图像风格和细节。这些模型使用 Stability 的社区许可:符合条件且年收入不超过 100 万美元的组织可以依据该许可商业使用,规模更大的商业用户则需要企业协议。

Ideogram 推出 Canvas 图像编辑和扩展工作区。Magic Fill 允许用户选择一个区域并描述应当替换成什么;Extend 则在原图边界之外添加内容。这些编辑工具很有用,因为生成的图片往往只需要局部修改,而不必完全重新提示。

Ideogram Canvas
幻灯片 7 / 10Ideogram Canvas图像编辑工作区演示如何修改生成的图像。

LM Studio 0.3.5 增加了无界面模式,让本地模型可以作为后台服务运行,无需一直打开图形界面。这可能让其他应用更容易使用本地模型。我投资了 LM Studio,因此读者在看待我的热情时应考虑这一关系。

LM Studio 无界面模式
幻灯片 8 / 10LM Studio 无界面模式发布说明介绍如何在不打开图形窗口的情况下运行本地模型服务。
05

搜索、视频、API 与语音

Perplexity 推出面向推理的搜索体验,Genmo 和 Runway 展示视频工具。Berman 最后介绍 xAI API 定价和 ElevenLabs Voice Design。

Perplexity 还推出了一种面向推理的搜索体验,旨在处理更困难的问题。我猜测其中是否可能使用 OpenAI 的 o1,但我展示的信息并未证实这一点。当时 Perplexity 还向 Pro 用户提供更新后的 Claude 3.5 Sonnet,为订阅者增加了一个模型选择。

Mochi 1 示例
幻灯片 9 / 10Mochi 1 示例一段生成的视频示例展示开放模型的输出。

Genmo 发布了开放视频生成模型 Mochi 1,以及代码和权重。展示的片段在动作和视觉质量上很有吸引力。不过,这些都是经过挑选的例子,在本地运行模型也需要合适的硬件;仅凭示例无法判断平均表现或一致性。

Runway 为 Gen-3 Alpha 推出 Act-One,可根据驱动表演和角色参考生成动画角色画面。演示展示了一种将面部表情和动作迁移到生成角色上的方法。与其他产品视频一样,具体结果取决于输入和工作流程。

xAI 开放 Grok API 测试版,当时价格为每百万输入 token 5 美元、每百万输出 token 15 美元。这是历史发布价格,并非对当前价格的说明。API 为开发者提供了将模型接入自己软件的方式。

ElevenLabs Voice Design
幻灯片 10 / 10ElevenLabs Voice Design界面展示了如何用文字描述创建合成声音。

ElevenLabs 推出 Voice Design 测试版,允许用户用文字描述声音并据此生成合成语音。我播放了雪人和女巫等示例,展示该工具可以创建的不同角色声音。这些声音是生成示例,并非视频中的其他嘉宾。

本周的 AI 新闻盘点到这里结束。随着智能体构建工具、新模型和创意工具陆续开放,有很多东西值得尝试和比较。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1