Auto-GPT、记忆与模型编排：早期 agent 实验

2023 年 4 月，一批实验正在探索：语言模型能够生成后续提示词并使用工具时会发生什么。Auto-GPT 接收一个高层目标，将其分解成步骤，循环执行和反思，但有时会陷入循环而无法完成。

一个早期扩展让 Auto-GPT 能够编写和执行代码。演示展示了一种模型检查程序、修改并测试的工作流，但单个例子不能证明自主软件工程已经可靠。

Andrej Karpathy 将循环调用模型描述为一种可能的 agent：它朝着自然语言表达的目标感知、思考并行动。讲解者将其视为另一层自动化：人提出目标，而不必逐条编写提示词。

其他演示加入了语音。一个例子把旅行信息整理成 CSV；另一个根据口头要求构建简单的社交网络应用。这些展示的是特定工作流，并不能证明任意语音指令都能正确生成复杂应用。

视频还介绍了被赋予破坏性目标的 ChaosGPT 配置。讲解者报告，这个例子没有实现目标，而是发布了社交媒体内容。讨论的重点是给 agent 工具权限的风险，而不是说它实现了被要求追求的戏剧性结果。

MemoryGPT 演示将一段对话中的信息保存下来，并在另一段对话中取回。其思路是在不同会话之间保留上下文；演示中一次成功回忆，并不能证明所有事实都能被准确保存和取回。

Quora 的 Poe 也展示了用户通过指定提示词和个性创建机器人。讲解者制作了一个虚构的电影导演角色，并手动传递回答，让两个机器人对话。

讲解者回顾了当时关于 Anthropic 计划开发更强模型的报道。开支数字和“十倍”目标是 2023 年报道中的计划与预期，并非实测结果，也不是对后来模型的保证。

Microsoft 的 HuggingGPT 在演示中也被称为 Jarvis，它使用语言模型协调其他模型完成不同任务。讲解者称其为早期、不够可靠的原型，有时会失败或耗时很久。

在一次成功的例子中，系统分析参考图像、检测物体与姿态，再通过一系列专门模型生成新场景。重点在于编排：不同组件各自提供不同能力。

讲解者回到安全话题。一次 Auto-GPT 运行试图递归改进自身，但没有成功；尝试不等于成功构建自我改进系统。不过，工具使用和重复行动仍使错误的后果值得研究。

研究者 Sébastien Bubeck 的片段比较了模型开发过程中一项绘图任务的输出，并讨论安全训练后的变化。一个示例任务不能证明安全训练总会降低整体智能。

另一个例子要求 BabyAGI 类系统尽可能生产回形针，系统回应时对目标提出担忧。Eliezer Yudkowsky 将这种回应视为值得关注的第一步，但明确表示它不能证明 AI 可以解决对齐问题。

视频以 Sam Altman 讨论利用先进 AI 辅助研究来解决对齐问题作为结尾。这是针对困难开放问题的一种设想，并不是对齐问题已被解决的证明。