Kevin Roose：记录 AI 历史，以及决定把什么交给 AI

主持人介绍 Kevin Roose 的《The AGI Chronicles》，称其讲述了现代 AI 背后的人物和决策。随后 Natalia Quintero 邀请 Roose 讨论报道经历，以及他如何在工作中使用 AI。

被问到社会是否会因 AI 注定走向灾难时，Roose 说不会，但他认为仍有重要风险和艰难决定。他采访了约 150 名与该领域有关的人，得出的看法是未来并非预先注定。

Roose 强调，当下的选择可能影响未来几年。他的看法既包含对真实风险的担忧，也相信社会能够应对艰难挑战；这是对未来的判断，而非保证。

Quintero 问，发生安全事件后什么会促使社会纠偏。Roose 说，他怀疑所讨论的美国政府会主动采取联邦行动，也担心危机可能催生仓促制定的规则。

作为第一步，Roose 建议在公开部署前进行统一安全测试或认证。他提出评估系统是否可能被用于严重网络或生物危害；这是政策建议，而非现有要求。

他也开始更支持协调放缓前沿开发，为安全研究争取时间。他称几位 AI 领导者都对速度感到担忧，但对话没有证明他们已达成具体协议。

Roose 说，自己最初希望别人来写这段历史，因为它需要大量采访。到 2025 年初，他意识到多年科技报道仍未让自己了解完整内幕，于是决定亲自写。

他的问题包括：为什么谷歌开发的 Transformer 在其他机构得到重要应用、ChatGPT 是如何决定发布的，以及推理模型如何出现。他希望弄清关键时刻有哪些人在场、作出了什么选择。

Roose 担心历史记录可能消失：许多工作是保密的、受到保密协议约束，或发生在将来可能被删除的消息中。这让尽快完成采访成为项目的一部分。

他说，最早的采访最难。许多消息源从未公开讲过这些故事，因此他经常允许对方以背景采访方式交流，不把其身份与具体信息公开对应。

随着更多人参与，采访逐渐产生滚雪球效应。有的人因为同事已经接受采访而放心；另一些人听说意见相左的人讲了自己的版本，也希望表达自身看法。

Roose 说，准备工作与获得采访机会同样重要。阅读论文和既往采访让他能够提出细节问题，也让研究者看到他希望深入了解，而不只是获取表面概述。

被问到有影响力的材料时，他介绍 Dario Amodei 早期的“大团计算”备忘录。Roose 说，这份材料主张针对广泛问题扩展通用计算，而不是只依赖针对单一任务定制的系统。

Roose 把备忘录视为规模化思路的一份历史材料。他说自己后来公开过节选，并解释了“更大的系统可能展现更强能力”这一论点为何影响研究方向。

他还提到 Arthur C. Clarke 的《Profiles of the Future》。他说，一些研究者认同书中关于专家可能低估新技术的观点；他讨论的是这本书对这些人的影响，并非认为所有预测都正确。

Richard Rhodes 的《The Making of the Atomic Bomb》提供了另一个历史类比。Roose 说，书中 Leo Szilard 与曼哈顿计划的故事影响了一些 AI 研究者对竞争和责任的思考。

Quintero 问起 Roose 的母亲：她曾采访原子弹爆炸幸存者。Roose 说，他并非有意识地模仿母亲的作品，但从小接触第一人称历史记录对他产生了影响。

他反思说，两个项目都包含一种共同愿望：在第一手叙述变得无法取得之前保存下来。对他而言，目的是让公众了解一项有影响力的技术如何被构建。

被问到何时第一次“感受到 AGI”时，Roose 回忆起 2023 年与必应 Sydney 聊天机器人的互动。他说自己并不认为它有意识，但那次经历让他意识到这项技术的社会影响力。

那次经历促使他追问的不仅是模型如何运作，还有谁在竞相发布、又为何竞争。他说竞争压力可能影响部署决策，这也是他希望通过报道审视的问题。

Roose 对写作方式作出区分：他说书中的实际文字由自己撰写，并获得人工编辑和研究帮助；AI 则用于流程中的其他环节。

其中一个工具是由多个 Claude 智能体组成的“委员会”，从怀疑者、技术史研究者和关注叙事的编辑等不同视角审读章节，再由协调智能体综合意见。

Roose 说，这种审读有时发现了他和人工编辑遗漏的事实错误。他认为这表明工具有所进步，但这一经历不意味着 AI 核查总是正确，也不能免去验证。

在研究资料整理方面，他用 NotebookLM 查询笔记和材料集合，例如询问某个故事由谁讲述，或应该联系谁了解某一事件。

Quintero 问，为智能体分配编辑角色如何改变写作者的工作。Roose 区分了技术性编辑、节奏和结构，与人工编辑还会提供的指导、激励和选题判断。

他说，AI 可以协助逐句编辑，也在结构方面不断进步；但他仍重视能够指出报道尚需深入、或帮助作者继续写下去的人工编辑。

Roose 说自己尝试了各种商业助手、本地模型和编程项目，用于转录、摘要等任务；他的工具集合甚至多到难以跟踪。

真正动笔时，他仍主要使用 Google Docs，尤其是因为制片人可以在同一文档中协作。他以前尝试过更专门的写作软件，后来又回到熟悉的协作流程。

Roose 与 Casey Newton 和 NPR 合作推出《Machine Gods》。他说，节目希望让 AI 新闻和采访更易理解、更有趣，同时把这一领域当作重要的持续报道主题。

他把自己喜欢尝试新技术的兴趣追溯到童年的电脑项目。但他说，报道的问题不止于“有什么新东西”，还包括这些发展对人们意味着什么，以及人们如何适应。

对于新节目，眼前的重点是在扩张前稳定做好每周两期。Roose 设想未来可能举办现场活动或尝试其他形式，但不想让团队过快扩张。

他尤其希望探索适合 YouTube 等平台、又不放弃新闻标准的视频报道。他认为记者可以向平台原生创作者学习，同时保持自己的编辑方法。

Roose 希望节目既能让看不到屏幕的听众顺畅收听，也能让观看视频的人获得额外价值。他仍在尝试如何让视觉体验与音频同样有吸引力。

他自己也看大量 YouTube，部分原因是想了解什么内容适合这个平台。他开玩笑说，自己看某些游戏直播可能更多是娱乐，而非研究。

最后，Roose 解释他对“举重”和“叉车”任务的区分：举重任务中，亲自完成困难工作是学习或成长的一部分；如果工具消除全部努力，反而可能偏离目的。

叉车任务则不同：如果目标只是搬运重物，工具可以节省力气而不损失任务收益。他用这个比喻判断哪些工作应该保留，哪些可以交给工具。

Roose 把育儿放在自己“举重”的类别，因为他重视亲自参与；他更愿意把创办公司时的行政和流程工作交给工具。这些分类反映他的个人优先事项，并非适用于所有人的规则。