2024 年 8 月 AI 新闻：机器人、模型工具与风险

摘要

30 秒看懂

在这期 2024 年 8 月的新闻回顾中，Matthew Berman 讨论 Unitree 机器人、一起与伊朗有关的影响力行动、AI 陪伴、模型微调和本地工具。他还探讨了当时尚在审议的加州立法、图像生成、Waymo、Neuralink 和新模型发布。Berman 披露自己是 LM Studio 的投资者。

1影响力行动OpenAI 描述了与 Storm-2035 相关的账号，并表示没有发现内容触及大量受众的证据。
2AI 伴侣Berman 讨论潜在的情感依赖、数据隐私以及对人际关系的影响。
3微调与检索GPT-4o 微调于 2024 年推出；他将其与获取外部知识的检索方法进行比较。
4SB 1047Berman 批评了一项加州 AI 法案草案，该法案后来遭到否决。
5Waymo 里程碑主持人的营收计算基于假设车费，而非公司的财务结果。

要点建议

OpenAI 称已干扰 Storm-2035 行动，且没有发现其内容触及大量受众的证据。
AI 陪伴引发了对情感依赖和隐私的担忧，其对出生率的预测影响仍属推测。
微调与检索满足不同需求，文中引用的 GPT-4o 价格属于历史信息。
视频录制后，加州州长 Gavin Newsom 否决了 SB 1047。
视频中的 Waymo 营收数字是示例性估算，并非公司公布的财务结果。
Jamba 1.5 结合 Transformer 与 Mamba 组件，并在特定模型许可下发布。

主题Robotics AI Safety AI research Generative media Autonomous Driving

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

机器人与影响力行动

Berman 回顾 Unitree 的演示和 OpenAI 关于 Storm-2035 的报告。他认为合成媒体使批判性审视变得更加重要。

Unitree 发布了一段人形机器人跳跃、移动和保持平衡的视频。它的敏捷表现以及公司对深度强化学习的介绍让我印象深刻，我认为相对实惠的硬件可能让家用机器人更近一步。不过，一次演示不能证明机器人在各种日常家务中的可靠性。

幻灯片 1 / 7Unitree 人形机器人演示视频展示了受控产品演示中的机器人。

Unitree 还展示了一款四足机器人和 Go2-W，后者是为崎岖地形设计的轮式版本。视频中，它滚动前进、跨越障碍，还穿过一座滑板公园。我很想在家试用一台，但这些画面是经过挑选的产品演示。

OpenAI 报告称，已封禁与伊朗影响力行动 Storm-2035 有关的 ChatGPT 账号。据该公司介绍，这些账号生成了有关美国大选和其他议题的内容，但 OpenAI 没有发现内容触及大量受众的迹象。我担心合成内容会让影响力行动更容易扩大规模。

幻灯片 2 / 7OpenAI 的 Storm-2035 报告报告称遭封禁账号生成了影响力内容，但没有证据表明其触及大量受众。

我认为批判性思维和识别被操纵素材的教育至关重要，也希望 AI 能辅助检测。不过，自动检测并非万无一失，判断这次行动的传播范围应依据 OpenAI 报告的证据，而非根据生成内容的数量作出假设。

OpenAI 描述了五个网站发布的长篇文章，这些网站冒充进步派和保守派媒体；社交平台上还有较短的英文和西班牙文评论。话题包括美国大选和加沙。我将跨政治立场的内容理解为制造混乱的尝试，但这些例子不能证实行动者的全部意图。

AI 陪伴与模型定制

他讨论潜在的情感和隐私问题，随后比较微调与检索。价格和基准测试结果均为历史信息。

Vox 的一篇文章对人们与 AI 声音和伴侣建立情感联系表示担忧。OpenAI 也曾警告，自然的语音对话可能促使用户将系统拟人化并产生情感依赖。我尤其担心年轻用户，以及与聊天机器人相处的时间是否会挤占人际交往。

我还担心人们将私密信息交给商业服务，以及产品是否有意鼓励长期使用。我认为 AI 陪伴会加剧出生率下降，这是一种预测，而非视频已经证实的结论；不同服务和设置的隐私及数据保留方式也各不相同。

OpenAI 向付费 API 开发者开放了 GPT-4o 微调。我的一般经验是：若要调整回答风格或任务行为，可以考虑微调；如果模型需要获取外部知识，则考虑检索增强生成。具体选择取决于任务，两种方法都不能保证答案准确或安全。

幻灯片 3 / 7GPT-4o 微调价格画面列出 2024 年公布的价格，如今可能已不再适用。

2024 年公布的价格是每百万训练 token 25 美元，微调模型推理每百万输入 token 3.75 美元、每百万输出 token 15 美元。OpenAI 还提到 Cosine 的 Genie 使用微调后的 GPT-4o 模型，在 SWE-bench Verified 上取得 43.8% 的成绩。这些是历史价格和报告的基准测试结果，并非当前价格或对所有工作流的保证。

本地工具与编程的未来

Berman 评述 Grok 和 LM Studio，并预测软件开发的未来。他披露自己投资了 LM Studio。

Grok 2 Large 与 Grok 2 Mini 一同在 X 上进入测试阶段，我也录制了测试，准备稍后分享。我还介绍了计划推出的 LM Studio 0.3.0 改版，包括本地模型对话、文档检索、兼容 OpenAI 的结构化输出 API 和网络服务。我在视频简介中披露自己是 LM Studio 的投资者。

幻灯片 4 / 7LM Studio 界面Berman 展示本地模型应用重新设计的界面，并披露自己投资了该公司。

一段泄露的录音引用了 AWS 首席执行官 Matt Garman 的看法：许多开发者最终可能减少编程时间，转而更多地思考要构建哪些有用的东西。我的预测更进一步：用户最终会直接向 AI 提出需求，从而减少对传统应用层的需要。我可能会错；这是一种预测，并非已经确定的结果。

加州 AI 立法与图像工具

他批评 SB 1047，并展示 Midjourney 和 Ideogram 的产品。加州州长后来否决了该法案。

2024 年 8 月，加州正在讨论 SB 1047，OpenAI 反对该提案，倾向于由联邦政府监管。我怀疑固定的模型规模和训练成本门槛能否代表危险程度，因为技术和成本可能发生变化。我讨论时法案仍在修改；州长 Gavin Newsom 于 2024 年 9 月 29 日否决了该法案。

幻灯片 5 / 7SB 1047 争议一篇当时的报道概述了该法案；该法案后来遭到否决。

该提案试图防止受覆盖模型造成严重危害，包括灾难性生物事件和巨额财务损失。我质疑所提门槛能否反映实际风险。这是我对某一版草案的政策判断，并非对当前法律义务的解释。

Midjourney 推出了网站，这对我很有吸引力，因为我此前已经不再使用其基于 Discord 的工作流程。Ideogram 2.0 也已发布，提供写实、设计、3D 和动漫等图像风格。我尤其关注其生成文字和平面设计的示例。

幻灯片 6 / 7Ideogram 2.0 示例生成图像展示了模型的文字渲染和设计能力。

Ideogram 称其图像评估结果优于其他模型，并提供搜索、API 和 iOS 应用。这些是公司说法和 2024 年的产品信息，并非独立比较测试，也不代表当前的可用情况。

无人驾驶出租车、脑机接口与新模型

Berman 讨论 Waymo 报告的行程数量、Neuralink 视频和 Jamba 1.5，最后谈到出版方控制网页抓取的方法。

Waymo 报告称每周自动驾驶行程达到 10 万次。我假设每次车费为 25 美元，将四周的行程相乘，粗略估算月营收为 1000 万美元。这只是我的示例计算，不是公布的营收：实际车费、行程构成和时间跨度可能不同。

我很想试乘 Waymo，但也提到一起停车场事件：车辆鸣笛打扰了附近居民。行程数量达到里程碑，本身并不能证明其安全性或盈利能力。

Andreessen Horowitz 的一份排名将 Character.AI 列为消费级生成式 AI 网页产品第二名，位于 ChatGPT 之后、Perplexity 之前。我认为这与它的受欢迎程度相符，但排名不能证明用户成瘾，也不能反映每个人的使用体验。

幻灯片 7 / 7Neuralink 游戏演示一则社交媒体帖子展示了参与者使用植入设备玩游戏。

一段视频显示，Neuralink 的第二位参与者 Alex 使用植入设备玩 Counter-Strike 2。我认为这个演示令人印象深刻，展示了一种支持电脑交互的接口。仅凭视频片段，不能证明广泛的临床有效性或长期安全性。

AI21 推出了 Jamba 1.5 Mini 和 Large。我先前简单地将其描述为 Transformer 的替代架构，但实际上 Jamba 在混合专家架构中结合了 Mamba 和 Transformer 组件。Mini 有 120 亿活跃参数、520 亿总参数；Large 有 940 亿活跃参数、3980 亿总参数。

我展示了报告的基准测试成绩，并指出模型权重可在 Hugging Face 获取。权重可获取并不自动意味着采用无限制的开源许可；AI21 按照自己的开放模型许可发布了这些模型，而比较结果取决于基准和测试条件。

最后，Meta 推出了一款与 AI 相关的网页爬虫，并介绍了出版方如何选择不让它抓取内容。我支持给出版方选择权，例如通过 robots.txt，但技术性退出措施取决于爬虫是否遵守规则，本身也不能完全解决法律问题。以上就是 2024 年 8 月的 AI 新闻回顾。