Sam Altman 的 2023 年世界巡访：AI 风险、监管与愿景

2023 年 6 月，讲解者汇集 Sam Altman 国际巡访及其他 OpenAI 领导人的发言。话题从 AI 系统设计未来系统延伸到错误信息、生物风险、监管、就业和气候。这些发言是历史预测与提议。

Altman 警告，不应把人完全排除在重大决策之外，也不应简单允许系统在缺乏监督时自行改变架构。另一段视频中，Ilya Sutskever 设想未来系统能够设计后继系统。这两种言论都不能证明当时已经存在这样的系统。

Altman 讨论自己在 OpenAI 的角色、财务激励以及未来可能出现的不寻常决策。讲解者将这些评论视为观察领导层如何思考权力与治理的一个窗口。

在约旦和印度，Altman 表示担心 ChatGPT 的发布可能在后果尚未完全理解时加速了整个行业。他也说自己预期技术带来的好处会多于伤害；讲解者强调其中的张力，而不把任何一种结果视为确定。

Altman 与 Sutskever 讨论了未来高能力系统可能失控的风险。Altman 认为这一问题可能在十年内变得相关；这是 2023 年的风险估计，不是已经确定的时间表。

一段 Altman 的合成视频引出对错误信息的讨论。Altman 希望人们学会判断来源，并建议对重要声明使用加密签名。讲解者质疑社会能否像合成媒体进步那样快速适应。

Altman 反对监管当时正在使用的模型，同时主张针对更大规模的未来风险采取措施。另一段视频中，Wojciech Zaremba 预计最强大的系统大约在十年后出现。两者都是 2023 年的政策立场和预测。

讲解者引用一项 2023 年研究：非专业人员测试聊天机器人是否会提供危险的生物学信息。研究提出了获取专业知识的担忧；它没有证明参与者制造了病原体，也没有证明发生过大规模伤亡事件。

研究人员建议在公众获得访问权限前进行专家评估，并讨论训练中限制特别危险信息。讲解者认为，这对“只有未来系统才需要监督”的观点提出挑战。任何具体防护的效果及其权衡都需要进一步证据。

Sutskever 描述了一个双重用途问题：可能支持有益研究的进步，也可能被滥用。他举的是未来能力的可能情景，而不是 AI 已自主制造疾病的证据。

讲解者讨论当时报道的 ChatGPT 定制功能，以及一位研究人员对不可覆盖的安全规则与用户或开发者附加偏好的区分。这些是 2023 年的产品讨论，不应视为当前功能指南。

被问及 AI 与宗教时，一位 OpenAI 领导人提到能够回答宗教问题的系统实验。这段简短讨论展示了一个社会问题，并没有预测 AI 将取代宗教社群。

Altman 认为开源 AI 难以阻止，社会需要适应。他主张技术可能改善健康、教育和生活水平，因此值得在管理风险的同时继续探索；这些好处是愿景，并非保证。

讲解者将其与《卫报》访谈中的另一番话对照：Altman 说各国政府协调行动可能限制 AI 发展，尽管他反对放弃其潜力。两段话处于不同语境，不能据此确定哪些政策可行。

Altman 说领先实验室应接受影响自身的监管，并希望对严重风险的共同认识带来更好的行为。讲解者将其作为 Altman 的预期，而不是所有公司都会合作的证据。

Sutskever 与 Altman 设想 AI 加速清洁能源、碳捕集和制造。这一情景取决于科学、经济及部署方面的突破；讨论并没有展示已经解决的气候问题或运行中的全球规模系统。

讲解者指出，赋予系统执行如此大规模项目的权力会带来治理问题。他随后提到 Altman 预计幻觉将在约 18 个月至两年内大幅改善；这是 2023 年的激进预测，不是错误已经消失的说法。

Sutskever 讨论已经出现的就业冲击和转型的不确定性。他认为社会与政府体系可能需要帮助人们转向新角色，或缓冲更艰难的变化；他并未声称知道最终就业结果。

Altman 思考智能与人类在世界中的位置。讲解者将这种视角变化与更早的科学观念转变相比较；这种哲学解释不同于对意识或智能的已证实理论。

最后 Greg Brockman 谈到扩大 AI 系统规模时的不可预测性。讲解者强调，随着巡访继续，许多主张仍存在不确定性。