2023 年 7 月的 11 项 AI 进展：机器人、模型与安全

摘要

30 秒看懂

AI Explained 回顾 2023 年一周的 AI 新闻，从 Google RT-2 演示到模型规模预测和美国参议院听证会。讲解者在关注未来能力不确定性的同时讨论无障碍和安全。

全文

对照原始文稿

讲解者回顾 RT-2 和模型规模预测。

2023 年 7 月，我汇总了繁忙一周中的 11 项 AI 进展，包括机器人、模型扩展、生成媒体、对齐和安全研究。这些演示和预测属于当时的背景，不应视为当前产品能力的说法。

Google 的 RT-2 把视觉语言预训练与机器人数据结合起来，输出动作。在一个演示中，它根据“已灭绝的动物”选择玩具恐龙；在另一个演示中，它选择完成任务可能有用的物体。讲解者认为这展示了在所示场景中有用的泛化能力。

讲解者说中间计划改善了部分任务表现，并指出论文讨论了陌生物体和场景。他推测家庭机器人未来的用途，但这些例子是研究演示，不能证明已经出现通用家用机器人。

Inflection AI 的 Mustafa Suleyman 预测，大约 18 个月内将训练出比 GPT-4 大得多的模型。讲解者强调预测的规模；比较和时间表是 2023 年的预测，不是视频中验证过的结果。

文章和访谈提出基础模型及未来系统的问题。

视频简短展示一个 AI 生成视频的例子，然后讨论《大西洋月刊》关于 OpenAI 的文章。讲解者概述文章对模型扩展、可能的 agent 开发以及基础模型中观察到的风险的描述。

他转述文章对未对齐基础模型可能产生有害回答的描述，并讨论滥用方面的担忧。这些说法说明安全测试为何重要；视频并未证明所有已部署系统都有相同行为。

文章还介绍 Ilya Sutskever 对先进系统可能无法可靠遵循人类意图的担忧。讲解者描述了用 AI 辅助对齐研究的提议，并指出让未来系统符合人类价值的困难。

在另一场访谈中，对齐研究者 Jan Leike 把利用 AI 帮助解决对齐问题描述为雄心勃勃但有前景的计划。讲解者还转述 Leike 的看法：从人类水平到强大得多的 AI 可能快速发生；这是预测。

视频讨论无障碍、生成媒体、开放模型和对抗提示。

讲解者介绍面向聋人的可穿戴字幕演示和合成语音进展。他看到无障碍方面的好处，同时承认越来越逼真的生成媒体也让辨别真实材料变得更困难。

他指出 OpenAI 因准确率低而撤下了一个 AI 文本分类器。他预测区分生成媒体会越来越困难；这一预测不能等同于证明所有检测方法都不可能。

视频把基于 Llama 2 的 Stable Beluga 2 描述为在部分 2023 年基准上表现强劲的指令微调模型。讲解者将报告结果与 GPT-3.5 时期的基线比较；这些结果只描述当时的测试，不代表所有任务或当前模型。

研究者还报告了可在模型之间迁移的自动化对抗提示。讲解者据此质疑某个系统的安全防护已经彻底解决的宽泛说法。一般性启示是，安全评估需要考虑不断适应的攻击及其局限。

讲解者概述风险评估和供应链提议。

视频转向 2023 年美国参议院听证会。Anthropic CEO Dario Amodei 描述了对更强系统可能降低生物滥用门槛的担忧，并预测风险增长。讲解者还引用 Sam Altman 对相关风险的承认。这些是风险评估和预测，不是某次具体攻击发生的证据。

Amodei 还主张保护 AI 供应链和先进系统。讲解者最后把这些提议与这一周更广泛的问题联系起来：如何在能力进步中获得收益，同时改进防护。