2024 年 9 月 AI 新闻：ChatGPT、核电与新模型

我先谈一些报道：ChatGPT 似乎在用户输入提示之前主动发送了消息。一张广泛传播的截图显示，它询问用户高中第一周过得如何；另一个例子涉及语音。我觉得这有些令人不安，并猜测它是否反映了让互动更加个人化的方向，但这种动机只是猜测。

聊天机器人自己声称它发起了对话，并不是系统如何工作的可靠证据。OpenAI 在 2024 年 9 月告诉记者，文字案例涉及一个故障：一条发送失败的消息显示为空白，而模型试图作出回应。另一个语音片段并不能证明原因相同。

Constellation Energy 宣布与 Microsoft 签订为期 20 年的购电协议，旨在支持重启三哩岛核电站 1 号机组。视频发布时，公司预计在获得批准后于 2028 年重启。Microsoft 购买的是电力，而非核电站本身。

三哩岛与 1979 年的部分堆芯熔毁事故有关，但计划重启的是另一座反应堆：1 号机组因经济原因于 2019 年关闭。我认为核电是满足日益增长的计算用电需求的一种有前景的低碳能源，并猜测未来的数据中心可能建在核设施附近。

我认为 AI 计算扩张将需要大量额外电力，并支持进一步发展核电，包括小型反应堆。未来 AI 是否必须采用某种特定能源组合，以及应当如何建设，仍是预测和政策问题，并非已经证明的要求。

Chipotle 正在测试餐厅自动化，包括一台组装餐碗和沙拉的机器。我预计这可能让每份食物的分量更加一致。公司介绍的是两个独立原型：Hyphen 的 Augmented Makeline 组装餐碗和沙拉，Autocado 则为制作鳄梨酱切开牛油果、去核和去皮；我在视频中混淆了它们的名称。

接下来是基于 Llama 的实验：它们在推理时使用提示词和多个推理步骤，包括名为 LLaMA-Berry 的项目，以及 Benjamin Klieger 使用 Groq 制作的 g1 演示。这些实验在模型外构建工作流；提示模型生成思维链本身并不能证明它与 OpenAI 的 o1 训练方式或推理表现等同。

我猜测 Meta 最终可能发布自己的推理型 Llama。这在当时只是预测。我介绍的项目可以通过当时提供的界面尝试，但应根据具体使用的问题和设置评估其结果。

OpenAI 的安全与安保委员会发布了建议，涵盖独立安全治理、安全措施、透明度、外部合作和统一安全框架。我欢迎对这些问题的关注，但也批评这家名字中含有“Open”的公司在我看来缺乏透明度。

o1 发布不久，早期使用限额便有所提高。画面中的 OpenAI 公告称，第 5 级 API 开发者可以每分钟请求 o1-preview 100 次、o1-mini 250 次。对 ChatGPT Plus 和 Team 用户，公布的限额提高到每天 50 条 o1-mini 消息和每周 50 条 o1-preview 消息；这些都是 2024 年 9 月的数据。

Mistral 宣布免费 API 层级、降价、新版 Mistral Small，以及 Le Chat 中免费的视觉功能。我还讨论了该公司拥有 120 亿参数的视觉语言模型 Pixtral，认为它很有前景。它能否在本地运行取决于用户的硬件和配置。

我引用的是当时每百万 token 的历史价格：Mistral NeMo 为 0.15 美元；Pixtral 的输入和输出均为 0.15 美元；Mistral Small 的输入为 0.20 美元、输出为 0.60 美元；Mistral Large 的输入为 2 美元、输出为 6 美元。这些数字体现了当时宣布的降价，并非今天的价格。

Snap 推出新一代 Spectacles 增强现实眼镜。画面显示的规格包括 46 度视场角、每度 37 像素、两颗 Snapdragon 芯片和约 45 分钟续航。我喜欢自动变色镜片的想法，但认为续航时间是一个重大限制。

Runway 宣布与 Lionsgate 合作，为电影制作人提供 AI 工具。我认为这些工具有潜力增强创作工作流程，并举出创作者用 AI 改造手机拍摄素材的例子。我认为制作成本将大幅下降，这是个人判断，并非这项合作已经测得的结果。

Guardrails AI 重点介绍了 Bespoke Labs 的 Bespoke-MiniCheck-7B 基于资料的事实性检测器。画面中的帖子称，它在 LLM AggreFact 排行榜上领先，并在该任务中超过部分更大的模型。我还没有测试过它，而且在这一任务上表现出色并不能解决所有类型的幻觉。

Kyutai 发布了 Moshi 的相关资源，包括论文和代码。Moshi 是用于实时对话的语音与文本基础模型。我觉得低延迟语音交互很有意思，并将它与当时讨论的 GPT-4o 语音体验作比较，但并不声称两个系统完全相同。

Microsoft 发布了 GRIN MoE，这是一个梯度引导的混合专家模型。公告称它有 66 亿活跃参数，并在部分编程和数学任务中表现出色。活跃参数只是模型规模和资源需求的一部分；基准比较取决于所用测试和条件。

Artificial Analysis 报告称，Alibaba 的 Qwen 2.5 72B 在当时的开放权重模型质量指数中领先，超过了同一指数中的 Llama 3.1 405B。这是一个支持 128K 上下文窗口的稠密模型。我回顾了其公布的 MMLU 和数学成绩，这些表现因任务而异，并不能说明它在所有用途中都是最佳模型。

我讨论了有关 OpenAI 下一轮融资超额认购的报道：Thrive 将领投，报道中的投前估值为 1500 亿美元。这些是截至 2024 年 9 月的融资报道，不能保证最终条款。我相信 OpenAI 会继续融资，这只是个人看法，并非读者可以依赖的财务预测。

Meta 高管 Ahmad Al-Dahle 表示，在公司获得更明确的监管信息之前，不会在欧盟发布多模态 Llama。我还讨论了 Apple 推迟在该地区推出 Apple Intelligence 功能，并对这种情况表示反对。这些都是 2024 年的决定和声明，并非对当前欧盟供应情况的描述。

前 OpenAI 董事会成员 Helen Toner 在参议院司法委员会下属小组作证，讨论高级 AI 可能带来的后果，从社会动荡到人类灭绝的可能性。我不同意她的监管理念，更支持加快发展。她的警告和我的批评是对不确定未来风险的不同看法，并非已经证实的预测。