30 秒看懂
在这期 2024 年 10 月的新闻汇总中,Matthew Berman 分享对 Apple Intelligence 的初步印象,回顾 GitHub Copilot、Meta AI 搜索、Grok 视觉功能、Perplexity、Claude、Llama、Cerebras、Waymo、神秘图像模型以及 Google 据报道开发的 Project Jarvis。最后他介绍了 Stable Diffusion 3.5 Medium。 本文保留视频的历史背景:性能数字来自公司声明或排行榜的某一时点,报道中的项目不等于已经确认发布,诉讼涉及的是指控而非责任认定。Berman 的预测和产品看法属于他个人观点。
- 1Apple Intelligence 到来Berman 认为早期体验不够惊艳,但觉得通知摘要很有用。
- 2Copilot 模型选择GitHub 宣布模型选项,并预览名为 Spark 的自然语言应用构建工具。
- 3搜索竞争Berman 讨论 Meta 正在开发搜索引擎的报道,以及自己转向直接提供答案的工具的经历。
- 4出版商起诉 PerplexityBerman 讨论有关使用出版商内容的指控,以及 Perplexity 的收入分成回应。
- 5更小的 Llama 模型Meta 报告量化 1B 和 3B 版本在其所述条件下内存更低、推理更快。
- 6神秘图像模型一张排行榜快照将 Red Panda 排在首位;Berman 说自己尚未测试。
- 7被报道的浏览器智能体一篇文章介绍了据报道的浏览器自动化项目 Project Jarvis,并非已经演示的公开版本。
要点建议
- Berman 认为 Apple Intelligence 的初始功能不够惊艳,但喜欢通知摘要。
- GitHub 为 Copilot 宣布了更多模型选择,并预览了自然语言应用构建工具 Spark。
- Berman 认为 AI 搜索竞争正在加剧,而一场被报道的诉讼凸显了出版商对其内容使用方式的指控。
- Meta 关于量化 Llama 3.2 模型大小和速度的数字,以及 Cerebras 的吞吐量对比,均来自厂商报告。
- 视频介绍 Waymo 的融资和乘车次数,同时呈现 Berman 对纯摄像头与多传感器自动驾驶的推测性比较。
- Red Panda 的竞技场排名和 Project Jarvis 的报道都是 2024 年 10 月的时点信息,不能证明持续领先或产品已经可用。
按章节阅读整理后的全文
Apple Intelligence 的早期版本
Berman 回顾自己试用过的功能,认为初始版本能力有限。他觉得通知摘要尤其有用。
2024 年 10 月,我从 iOS 18.1 公开发布和首批 Apple Intelligence 功能开始这期汇总。试用了几周测试版后,我觉得初始体验相比 Apple 宣传的更广泛愿景并不出彩。这是我的早期印象,并非对后续版本的评价。
我原本期待一个能使用联系人、邮件、消息和应用之间上下文的助理。我试用的版本没有提供我想要的广泛跨应用体验,部分图像和表情功能当时也无法使用。产品可用性和支持的设备应放在 2024 年的发布背景下理解。
写作工具可以改写或辅助起草文本,而我在其他应用中已经见过这些能力。我觉得真正有用的是通知汇总:不必阅读一组通知中的每一条,我可以看到整组的简短摘要。
我也尝试描述一个相册,但 Apple Photos 缺少一些我认为从 Google Photos 迁移前所需的功能。我仍对 Siri 感到失望,希望手机直接集成先进的对话式语音助理。我关于 ChatGPT 集成的说法反映的是当时的理解,并非对具体发布时间的核实。
GitHub Copilot、Spark 与 Meta 搜索
GitHub 宣布模型选择并预览应用构建工具。Berman 讨论 Meta 开发搜索的报道及其竞争影响。
GitHub 在年度活动上宣布为 Copilot 提供更多模型选择,列出了 Anthropic 的 Claude 3.5 Sonnet、Google 的 Gemini 1.5 Pro 和 OpenAI 的 o1 模型。我将此解读为 Microsoft 更广泛的避免依赖单一模型供应商的策略之一。这是我的解读,并非视频中证实的官方原因。

公司介绍了这些模型的不同优势,包括编程能力和较大的上下文窗口。这些模型选项是为 Copilot 宣布的;视频中的公告并未证明每个选项都用于所有 Tab 补全工作流。

GitHub 还预览了 Spark,据介绍它可以通过自然语言构建小型应用,集成 AI 功能和外部数据源。我认为这是 AI 辅助软件开发市场竞争日益激烈的一部分。这是发布时期的描述,并不保证产品现在仍然可用。
The Information 报道称 Meta 正在开发自己的搜索引擎。我认为将 Meta AI 与实时网络信息结合可能让搜索更具竞争力,但我也承认,实现网络爬虫和搜索系统比战略构想听起来要复杂。
我说,自己已经把大量信息查询从传统 Google 搜索转向 Perplexity 和 ChatGPT,更多是在知道想找哪个网站或图像时使用 Google。这是我的个人使用习惯,并非市场份额测量。我还讨论了有关 Reuters 通过 Meta AI 提供新闻的合作报道。
我看好 Meta AI,但仍不相信眼镜就是 AI 硬件的最终形态。包括 Mark Zuckerberg 在内的其他人可能不同意;这只是我自己的产品预测。
Grok 视觉功能与 Perplexity 诉讼
Berman 测试图像提示,并讨论出版商对 Perplexity 的指控。他分享了自己对创作者作品使用许可的看法。
Grok 获得图像理解能力后,我尝试了一张比较初创公司和大公司的梗图。我认为模型在这个例子中正确解释了笑点。一个成功例子并不是对其视觉推理能力的系统评估。

接下来,我谈到 The Wall Street Journal 和 New York Post 出版商对 Perplexity 提起的诉讼。他们的指控涉及 AI 答案服务对出版商内容的使用;诉讼本身并不能确立侵权或法律责任。
我担心答案引擎会减少用户点击原始来源的需要,而出版商则反对其材料被使用和展示的方式。我也提到 Perplexity 的回应及其出版商收入分成计划。这些是仍在发展的争议中的不同立场,而非法律结论。
作为创作者,我说我希望能够选择是否允许 AI 系统吸收我的作品。我将出版商的反应与过去人们面对新技术时的反应进行比较,同时承认观众可能不同意我的版权观点。
Claude、Perplexity 与本地模型
新闻汇总涉及 Claude 代码执行、Mac 应用和量化 Llama 3.2 模型。性能数字是历史上的厂商声明。
Claude 可以编写并执行代码,我将这一更新与 ChatGPT 的 Advanced Data Analysis 相比较。代码执行可以帮助完成字符串字母计数等任务,因为模型能够运行明确的计算。但这并不保证每个生成的程序或答案都正确。
我说自己安装了 Perplexity 的原生 macOS 应用,而且很喜欢。我补充说 Perplexity 没有为我的推荐付费;它和 ChatGPT 都是我个人经常使用的工具。
Meta 发布了面向设备运行的量化 Llama 3.2 1B 和 3B 模型。量化会缩小表示大小,并可能以质量换取效率。Meta 在其所述比较条件下报告,推理速度最高可提升至 2 到 4 倍,模型大小平均减少 56%,内存占用减少 41%;我自己还没有测试这些模型。

我欢迎更小的本地模型,因为我重视隐私、安全、低延迟和所有权。我预计小模型能够处理大多数人的常见任务,但这仍是预测,结果取决于具体任务和所需质量。
推理硬件与自动驾驶汽车
Berman 回顾 Cerebras 速度声明、TSMC 良率报道和 Waymo 融资。他对驾驶传感器的预测是个人观点,不是安全性比较。

Cerebras 表示其推理服务已经提速,并报告 Llama 3.1 70B 超过每秒 2100 个 token,同时提供了与 GPU 系统的比较。这些是 Cerebras 的性能声明,并非我独立复现的测量;相对结果取决于比较的工作负载和配置。
我讨论一则报道:TSMC 亚利桑那工厂早期生产良率比台湾一家可比工厂高出 4 个百分点。我欢迎美国本土芯片生产,将其视为减少供应依赖的方式;这一良率比较并非对所有工厂或工艺的总体排名。
Waymo 宣布完成由 Alphabet 领投的 56 亿美元融资,我引用了每周超过 10 万次付费乘车的数据。我按照当时的情况介绍了旧金山、洛杉矶和凤凰城的服务,以及与 Uber 的合作。这些是 2024 年的公司数字和计划,不是当前运营统计。

我将 Waymo 的摄像头、激光雷达、雷达及其他传感器与 Tesla 以摄像头为中心的方案进行比较。我推测纯视觉系统最终可能胜出,同时指出摄像头被遮挡或视线受阻是一项挑战。这是我的观点,不能证明任何一种方案在所有条件下都更安全。
神秘图像模型与浏览器智能体
排行榜快照突出了 Red Panda,一篇报道介绍了 Project Jarvis。Berman 最后谈到 Stable Diffusion 3.5 Medium。

Chubby 的一则帖子指出,一个名为 Red Panda 的未知图像模型位列 Artificial Analysis 竞技场排行榜首位。我还没有测试过它;截图是该评估的历史排名,各模型的被选择次数不同,并非对图像质量普遍或持久的衡量。
我讨论一则关于 Google Project Jarvis 的报道。报道将其描述为面向消费者的 Chrome 智能体,可处理研究、预订和购买等任务。当时这只是被报道的项目,并非公开演示的已发布产品。文章称该智能体会频繁解读截图,然后点击或输入,每次操作之间存在延迟。

我将报道中的方法与现有计算机控制系统进行比较,并担心基于截图选择坐标的可靠性。我推测与浏览器 API 更紧密地集成可能有所帮助。仅凭报道,无法确定拟议实现方式或最终表现。

最后,我讨论 Stable Diffusion 3.5 Medium 及其预期的本地使用方式。Stability AI 描述了为提高图像质量、一致性和多分辨率生成能力而调整的架构及训练方法;我喜欢示例,并表示愿意在自己的 GPU 上测试,而不是声称已经完成基准测试。
同频道的其他文章
34:21EN → 简体中文
0:36EN → 简体中文
25:50EN → 简体中文
32:20EN → 简体中文
1:03:37EN → 简体中文
0:53EN → 简体中文