30 秒看懂
Matthew Berman 讨论 Microsoft 计划推出的自主智能体、IBM Granite 3.0、Anthropic 更新的 Claude 3.5 Sonnet 及实验性的电脑操作能力,以及 Meta、Stability AI 等公司的新产品。他分享自己对采用速度和产品比较的预测;当时多项演示和产品仍处于预览阶段。Berman 披露他投资了 LM Studio,视频还包含 Vultr 的付费赞助。
- 1智能体进入商业工作流程Microsoft 介绍了能够响应事件并执行业务流程的自主智能体。Berman 预计采用速度会很快,但这只是他的预测。
- 2Claude 可以操作电脑Anthropic 更新的 Sonnet 通过实验性电脑操作 API 使用截图和输入动作;演示也暴露了错误。
- 3Stable Diffusion 3.5 发布Stability AI 发布 Large 和 Large Turbo,并宣布将按其社区许可条款推出 Medium 模型。
- 4无需窗口运行本地模型LM Studio 增加了无界面运行功能。Berman 披露自己是该公司的投资者。
- 5开放视频生成Genmo 发布开放视频模型 Mochi 1;展示的例子是经过挑选的演示,而非系统性评估。
要点建议
- Microsoft 宣布 Copilot Studio 自主智能体即将进入公开预览,并推出新的 Dynamics 365 智能体。
- Anthropic 发布更新后的 Claude 3.5 Sonnet 和实验性的电脑操作能力,而 Claude 3.5 Haiku 当时尚待发布。
- IBM Granite 3.0 和 Genmo Mochi 1 增加了企业任务和视频生成领域的开放模型选择。
- Stable Diffusion 3.5 和 Ideogram Canvas 提供新的图像生成与编辑工具,其许可和访问条件各不相同。
- LM Studio 增加无界面运行功能;Perplexity、Runway、xAI 和 ElevenLabs 也宣布了其他产品更新。
按章节阅读整理后的全文
Microsoft 与智能体市场
Berman 讨论 Copilot Studio 自主智能体及 Dynamics 365 的使用场景,也回应 Salesforce CEO Marc Benioff 对 Microsoft 的批评。
这一周的 AI 公告多得惊人,包括企业智能体、新模型,以及生成图像、视频和语音的工具。我想盘点这些发布,并介绍截至 2024 年 10 月哪些内容引起了我的注意。
Microsoft 宣布 Copilot Studio 中的自主智能体将在 11 月进入公开预览。这些智能体可以配置为响应事件,利用业务数据和互联系统完成流程,而不必每次都等待人工提示。Microsoft 还宣布为 Dynamics 365 推出十个自主智能体,覆盖销售、服务、财务和供应链等领域。

示例包括监控共享收件箱、识别客户请求、收集相关信息并将工作交给合适的人。吸引人之处在于,它可能全天候处理例行步骤。我认为下一阶段会有更多智能体嵌入公司已经使用的软件,但演示或公告并不能证明每项工作流程都能可靠运行。
Salesforce CEO Marc Benioff 批评 Microsoft 的 Copilot,称其为“Clippy 2.0”,同时推广 Salesforce 自己的 Agentforce。我不同意低估 Microsoft 的地位:它的分发渠道和既有企业关系可能帮助它触及大量客户。这是我对竞争市场的看法,并不能证明任何一家供应商已经获胜。

Granite 与 Claude
IBM 发布 Granite 3.0 模型,Anthropic 更新 Sonnet。Claude 实验性的电脑操作能力展示了另一种自动化路径。

IBM 推出 Granite 3.0,包括 80 亿和 20 亿参数语言模型以及混合专家模型。IBM 以 Apache 2.0 许可发布这些模型,并将其定位于商业用途。我对 IBM 利用合成数据和训练来调整模型的 InstructLab 方法很感兴趣,并计划在访问 IBM 之后更详细地介绍这项技术。
Anthropic 发布了升级版 Claude 3.5 Sonnet,并宣布稍后推出 Claude 3.5 Haiku。Anthropic 表示,即将推出的 Haiku 在部分评估中达到或超过了更早、更大的 Claude 3 Opus;这是针对这些测试的比较,不保证它在每项任务中都更好。
最受关注的功能是实验性的电脑操作:开发者可以通过 API 让 Claude 查看截图并发出鼠标和键盘操作。在一个示例中,模型在电子表格和网页表单之间切换并输入信息。Anthropic 也展示了它可能出错或分心,因此早期演示有助于说明潜力,但不能证明它能可靠地自主运行。

Meta 研究、初创公司报道与机器人
Meta 分享分割和语音研究成果。Berman 讨论有关 Mira Murati 的初步报道以及一段人形机器人演示。
Meta 的 FAIR 团队宣布了几项研究成果。Segment Anything Model 2.1 更新了图像和视频中识别、跟踪物体的能力,而 Meta Spirit LM 将文本与语音结合起来。这些是不同的研究项目,展示了模型处理视觉和音频输入的多种方式。


一篇报道称,前 OpenAI CTO Mira Murati 正在探索成立新的 AI 初创公司,可能寻求超过 1 亿美元融资,并可能与前 OpenAI 同事合作。当时的报道描述的是初步讨论,融资和计划尚未确认为已完成交易。考虑到她的经验,我会关注她接下来做什么。
我还展示了一台中国人形机器人,它的外观让我想起 Tesla 的 Optimus。画面中确实能看出相似之处,但这段视频不能证明存在复制或窃取,也不能证明两台机器人的能力对比。简短演示无法告诉我们它在日常工作中表现如何。
图像创作与本地模型
Stable Diffusion 3.5 和 Ideogram Canvas 扩充了图像工具。LM Studio 推出无界面模式。
Stability AI 宣布推出 Stable Diffusion 3.5 Large 和 Large Turbo,并计划在下一周发布 Medium 模型。示例展示了多种图像风格和细节。这些模型使用 Stability 的社区许可:符合条件且年收入不超过 100 万美元的组织可以依据该许可商业使用,规模更大的商业用户则需要企业协议。
Ideogram 推出 Canvas 图像编辑和扩展工作区。Magic Fill 允许用户选择一个区域并描述应当替换成什么;Extend 则在原图边界之外添加内容。这些编辑工具很有用,因为生成的图片往往只需要局部修改,而不必完全重新提示。

LM Studio 0.3.5 增加了无界面模式,让本地模型可以作为后台服务运行,无需一直打开图形界面。这可能让其他应用更容易使用本地模型。我投资了 LM Studio,因此读者在看待我的热情时应考虑这一关系。

搜索、视频、API 与语音
Perplexity 推出面向推理的搜索体验,Genmo 和 Runway 展示视频工具。Berman 最后介绍 xAI API 定价和 ElevenLabs Voice Design。
Perplexity 还推出了一种面向推理的搜索体验,旨在处理更困难的问题。我猜测其中是否可能使用 OpenAI 的 o1,但我展示的信息并未证实这一点。当时 Perplexity 还向 Pro 用户提供更新后的 Claude 3.5 Sonnet,为订阅者增加了一个模型选择。

Genmo 发布了开放视频生成模型 Mochi 1,以及代码和权重。展示的片段在动作和视觉质量上很有吸引力。不过,这些都是经过挑选的例子,在本地运行模型也需要合适的硬件;仅凭示例无法判断平均表现或一致性。
Runway 为 Gen-3 Alpha 推出 Act-One,可根据驱动表演和角色参考生成动画角色画面。演示展示了一种将面部表情和动作迁移到生成角色上的方法。与其他产品视频一样,具体结果取决于输入和工作流程。
xAI 开放 Grok API 测试版,当时价格为每百万输入 token 5 美元、每百万输出 token 15 美元。这是历史发布价格,并非对当前价格的说明。API 为开发者提供了将模型接入自己软件的方式。

ElevenLabs 推出 Voice Design 测试版,允许用户用文字描述声音并据此生成合成语音。我播放了雪人和女巫等示例,展示该工具可以创建的不同角色声音。这些声音是生成示例,并非视频中的其他嘉宾。
本周的 AI 新闻盘点到这里结束。随着智能体构建工具、新模型和创意工具陆续开放,有很多东西值得尝试和比较。
同频道的其他文章
34:21EN → 简体中文
0:26EN → 简体中文
0:36EN → 简体中文
0:21EN → 简体中文
25:50EN → 简体中文
32:20EN → 简体中文