2024 年 10 月 AI 新闻:Apple Intelligence、编程助理、搜索与智能体

原标题AI News in October 2024: Apple Intelligence, Coding Assistants, Search, and Agents

Matthew Berman 回顾 Apple Intelligence 首次发布、新编程工具、AI 搜索争议、本地模型以及浏览器智能体相关报道。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2024年10月30日
视频
19:03
阅读
8 分钟
幻灯片
9
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

在这期 2024 年 10 月的新闻汇总中,Matthew Berman 分享对 Apple Intelligence 的初步印象,回顾 GitHub Copilot、Meta AI 搜索、Grok 视觉功能、Perplexity、Claude、Llama、Cerebras、Waymo、神秘图像模型以及 Google 据报道开发的 Project Jarvis。最后他介绍了 Stable Diffusion 3.5 Medium。 本文保留视频的历史背景:性能数字来自公司声明或排行榜的某一时点,报道中的项目不等于已经确认发布,诉讼涉及的是指控而非责任认定。Berman 的预测和产品看法属于他个人观点。

  1. 1Apple Intelligence 到来Berman 认为早期体验不够惊艳,但觉得通知摘要很有用。
  2. 2Copilot 模型选择GitHub 宣布模型选项,并预览名为 Spark 的自然语言应用构建工具。
  3. 3搜索竞争Berman 讨论 Meta 正在开发搜索引擎的报道,以及自己转向直接提供答案的工具的经历。
  4. 4出版商起诉 PerplexityBerman 讨论有关使用出版商内容的指控,以及 Perplexity 的收入分成回应。
  5. 5更小的 Llama 模型Meta 报告量化 1B 和 3B 版本在其所述条件下内存更低、推理更快。
  6. 6神秘图像模型一张排行榜快照将 Red Panda 排在首位;Berman 说自己尚未测试。
  7. 7被报道的浏览器智能体一篇文章介绍了据报道的浏览器自动化项目 Project Jarvis,并非已经演示的公开版本。

要点建议

  1. Berman 认为 Apple Intelligence 的初始功能不够惊艳,但喜欢通知摘要。
  2. GitHub 为 Copilot 宣布了更多模型选择,并预览了自然语言应用构建工具 Spark。
  3. Berman 认为 AI 搜索竞争正在加剧,而一场被报道的诉讼凸显了出版商对其内容使用方式的指控。
  4. Meta 关于量化 Llama 3.2 模型大小和速度的数字,以及 Cerebras 的吞吐量对比,均来自厂商报告。
  5. 视频介绍 Waymo 的融资和乘车次数,同时呈现 Berman 对纯摄像头与多传感器自动驾驶的推测性比较。
  6. Red Panda 的竞技场排名和 Project Jarvis 的报道都是 2024 年 10 月的时点信息,不能证明持续领先或产品已经可用。
全文

按章节阅读整理后的全文

只看原始文稿
01

Apple Intelligence 的早期版本

Berman 回顾自己试用过的功能,认为初始版本能力有限。他觉得通知摘要尤其有用。

2024 年 10 月,我从 iOS 18.1 公开发布和首批 Apple Intelligence 功能开始这期汇总。试用了几周测试版后,我觉得初始体验相比 Apple 宣传的更广泛愿景并不出彩。这是我的早期印象,并非对后续版本的评价。

我原本期待一个能使用联系人、邮件、消息和应用之间上下文的助理。我试用的版本没有提供我想要的广泛跨应用体验,部分图像和表情功能当时也无法使用。产品可用性和支持的设备应放在 2024 年的发布背景下理解。

写作工具可以改写或辅助起草文本,而我在其他应用中已经见过这些能力。我觉得真正有用的是通知汇总:不必阅读一组通知中的每一条,我可以看到整组的简短摘要。

我也尝试描述一个相册,但 Apple Photos 缺少一些我认为从 Google Photos 迁移前所需的功能。我仍对 Siri 感到失望,希望手机直接集成先进的对话式语音助理。我关于 ChatGPT 集成的说法反映的是当时的理解,并非对具体发布时间的核实。

02

GitHub Copilot、Spark 与 Meta 搜索

GitHub 宣布模型选择并预览应用构建工具。Berman 讨论 Meta 开发搜索的报道及其竞争影响。

GitHub 在年度活动上宣布为 Copilot 提供更多模型选择,列出了 Anthropic 的 Claude 3.5 Sonnet、Google 的 Gemini 1.5 Pro 和 OpenAI 的 o1 模型。我将此解读为 Microsoft 更广泛的避免依赖单一模型供应商的策略之一。这是我的解读,并非视频中证实的官方原因。

GitHub 宣布 Copilot 模型选择
幻灯片 1 / 9GitHub 宣布 Copilot 模型选择当时的公告列出了 Claude 3.5 Sonnet、Gemini 1.5 Pro 和 OpenAI o1 模型。

公司介绍了这些模型的不同优势,包括编程能力和较大的上下文窗口。这些模型选项是为 Copilot 宣布的;视频中的公告并未证明每个选项都用于所有 Tab 补全工作流。

GitHub Spark 预览
幻灯片 2 / 9GitHub Spark 预览公告介绍了使用自然语言创建小型应用的方式。

GitHub 还预览了 Spark,据介绍它可以通过自然语言构建小型应用,集成 AI 功能和外部数据源。我认为这是 AI 辅助软件开发市场竞争日益激烈的一部分。这是发布时期的描述,并不保证产品现在仍然可用。

The Information 报道称 Meta 正在开发自己的搜索引擎。我认为将 Meta AI 与实时网络信息结合可能让搜索更具竞争力,但我也承认,实现网络爬虫和搜索系统比战略构想听起来要复杂。

我说,自己已经把大量信息查询从传统 Google 搜索转向 Perplexity 和 ChatGPT,更多是在知道想找哪个网站或图像时使用 Google。这是我的个人使用习惯,并非市场份额测量。我还讨论了有关 Reuters 通过 Meta AI 提供新闻的合作报道。

我看好 Meta AI,但仍不相信眼镜就是 AI 硬件的最终形态。包括 Mark Zuckerberg 在内的其他人可能不同意;这只是我自己的产品预测。

03

Grok 视觉功能与 Perplexity 诉讼

Berman 测试图像提示,并讨论出版商对 Perplexity 的指控。他分享了自己对创作者作品使用许可的看法。

Grok 获得图像理解能力后,我尝试了一张比较初创公司和大公司的梗图。我认为模型在这个例子中正确解释了笑点。一个成功例子并不是对其视觉推理能力的系统评估。

Grok 梗图理解测试
幻灯片 3 / 9Grok 梗图理解测试图片比较初创公司和大公司的工作方式,是一个非正式视觉提示。

接下来,我谈到 The Wall Street Journal 和 New York Post 出版商对 Perplexity 提起的诉讼。他们的指控涉及 AI 答案服务对出版商内容的使用;诉讼本身并不能确立侵权或法律责任。

我担心答案引擎会减少用户点击原始来源的需要,而出版商则反对其材料被使用和展示的方式。我也提到 Perplexity 的回应及其出版商收入分成计划。这些是仍在发展的争议中的不同立场,而非法律结论。

作为创作者,我说我希望能够选择是否允许 AI 系统吸收我的作品。我将出版商的反应与过去人们面对新技术时的反应进行比较,同时承认观众可能不同意我的版权观点。

04

Claude、Perplexity 与本地模型

新闻汇总涉及 Claude 代码执行、Mac 应用和量化 Llama 3.2 模型。性能数字是历史上的厂商声明。

Claude 可以编写并执行代码,我将这一更新与 ChatGPT 的 Advanced Data Analysis 相比较。代码执行可以帮助完成字符串字母计数等任务,因为模型能够运行明确的计算。但这并不保证每个生成的程序或答案都正确。

我说自己安装了 Perplexity 的原生 macOS 应用,而且很喜欢。我补充说 Perplexity 没有为我的推荐付费;它和 ChatGPT 都是我个人经常使用的工具。

Meta 发布了面向设备运行的量化 Llama 3.2 1B 和 3B 模型。量化会缩小表示大小,并可能以质量换取效率。Meta 在其所述比较条件下报告,推理速度最高可提升至 2 到 4 倍,模型大小平均减少 56%,内存占用减少 41%;我自己还没有测试这些模型。

Meta 的量化 Llama 声明
幻灯片 4 / 9Meta 的量化 Llama 声明帖子展示了公司报告的速度、模型大小和内存变化。

我欢迎更小的本地模型,因为我重视隐私、安全、低延迟和所有权。我预计小模型能够处理大多数人的常见任务,但这仍是预测,结果取决于具体任务和所需质量。

05

推理硬件与自动驾驶汽车

Berman 回顾 Cerebras 速度声明、TSMC 良率报道和 Waymo 融资。他对驾驶传感器的预测是个人观点,不是安全性比较。

Cerebras 推理声明
幻灯片 5 / 9Cerebras 推理声明公司报告了吞吐量和相对 GPU 的比较,视频没有独立测试这些数字。

Cerebras 表示其推理服务已经提速,并报告 Llama 3.1 70B 超过每秒 2100 个 token,同时提供了与 GPU 系统的比较。这些是 Cerebras 的性能声明,并非我独立复现的测量;相对结果取决于比较的工作负载和配置。

我讨论一则报道:TSMC 亚利桑那工厂早期生产良率比台湾一家可比工厂高出 4 个百分点。我欢迎美国本土芯片生产,将其视为减少供应依赖的方式;这一良率比较并非对所有工厂或工艺的总体排名。

Waymo 宣布完成由 Alphabet 领投的 56 亿美元融资,我引用了每周超过 10 万次付费乘车的数据。我按照当时的情况介绍了旧金山、洛杉矶和凤凰城的服务,以及与 Uber 的合作。这些是 2024 年的公司数字和计划,不是当前运营统计。

Waymo 2024 年融资公告
幻灯片 6 / 9Waymo 2024 年融资公告画面中的公司声明介绍了融资轮次和历史乘车统计。

我将 Waymo 的摄像头、激光雷达、雷达及其他传感器与 Tesla 以摄像头为中心的方案进行比较。我推测纯视觉系统最终可能胜出,同时指出摄像头被遮挡或视线受阻是一项挑战。这是我的观点,不能证明任何一种方案在所有条件下都更安全。

06

神秘图像模型与浏览器智能体

排行榜快照突出了 Red Panda,一篇报道介绍了 Project Jarvis。Berman 最后谈到 Stable Diffusion 3.5 Medium。

Red Panda 排行榜快照
幻灯片 7 / 9Red Panda 排行榜快照图片展示了 2024 年 10 月的竞技场排名,各模型的被选择次数不同。

Chubby 的一则帖子指出,一个名为 Red Panda 的未知图像模型位列 Artificial Analysis 竞技场排行榜首位。我还没有测试过它;截图是该评估的历史排名,各模型的被选择次数不同,并非对图像质量普遍或持久的衡量。

我讨论一则关于 Google Project Jarvis 的报道。报道将其描述为面向消费者的 Chrome 智能体,可处理研究、预订和购买等任务。当时这只是被报道的项目,并非公开演示的已发布产品。文章称该智能体会频繁解读截图,然后点击或输入,每次操作之间存在延迟。

Project Jarvis 相关报道
幻灯片 8 / 9Project Jarvis 相关报道文章描述了据报道的浏览器智能体项目,而非已经确认的公开发布。

我将报道中的方法与现有计算机控制系统进行比较,并担心基于截图选择坐标的可靠性。我推测与浏览器 API 更紧密地集成可能有所帮助。仅凭报道,无法确定拟议实现方式或最终表现。

Stable Diffusion 3.5 示例
幻灯片 9 / 9Stable Diffusion 3.5 示例一张图像示例配合对 Medium 版本的讨论。

最后,我讨论 Stable Diffusion 3.5 Medium 及其预期的本地使用方式。Stability AI 描述了为提高图像质量、一致性和多分辨率生成能力而调整的架构及训练方法;我喜欢示例,并表示愿意在自己的 GPU 上测试,而不是声称已经完成基准测试。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1
6 张幻灯片1:03:37EN → 简体中文
Matthew Berman· 2026年10月23日Matthew Berman 团队测试 Kimi K3.1:动画、游戏与图表Matthew Berman, Alex, Brian · Forward Future一场团队直播问答变成了对 Kimi K3.1 的非正式测试,内容涵盖个人智能体工作流、动态图形、浏览器游戏和基准图表。编程智能体Generative media评估+2
0:53EN → 简体中文
Matthew Berman· 2026年10月22日Sam Altman 谈 AI 与新知识的发现Sam Altman · OpenAIAltman 预计,数学发现方面的进展将延伸到生物学、材料和能源领域。AI for scienceMathematicsComputational Biology+1