Sam Altman 的 2023 年参议院证词谈了哪些 AI 风险

2023 年 5 月，AI Explained 回顾了 Sam Altman 在美国参议院的证词，选取就业、军事用途、安全监管、模型行为和 AI 发展速度等片段。视频将听证会片段与讲述者自己的分析和预测结合在一起。

Altman 警告说，如果这项技术出问题，可能造成重大伤害。讲述者认为，一位参议员提到就业损失，并未涵盖另一段关于超人类机器智能的警告所涉及的全部风险。

关于就业，Altman 表示未来的工作会更好。讲述者指出，这与承诺工作岗位数量增加不同，并援引 Altman 早前关于不平等和劳动力价格可能下降的言论。视频还把 IBM 关于岗位转变的证词，与该公司据报道计划自动化部分岗位的说法进行对照。

被问及 AI 是否能让无人机自行选择目标时，Altman 回答说技术上可以，但认为不应允许这样做。讲述者提到 Palantir 的演示，其中涉及侦察无人机和 AI 生成的军事行动选项。

Altman 提议对超过能力门槛的项目实行许可，制定包含评估的安全标准，并要求独立审计。他举出的危险能力包括模型能够自我复制并逃逸到外部环境。讲述者支持这三项提议，但认为测试还需要考虑使用模型的方式可能带来的能力提升。

关于如何确定哪些模型受到监管，Altman 说计算量门槛较容易界定，但能力门槛可能更准确。他举出说服或操纵人的信念、协助制造新型生物制剂等例子，同时表示不应无谓地阻碍较小的开源模型和个人研究者。

对于监管会让美国落后于中国的担忧，Altman 认为国际合作虽然困难，但值得尝试。他提醒人们不要对中国会做什么或不会做什么作出过于自信的断言。

Altman 呼吁听众把 GPT-4 看作工具，而不是生物。讲述者把这一看法与 AI 研究者关于机器可能具有意识的评论进行对照，同时表示自己尚未对这个问题形成定论。

讲述者讨论了 Anthropic 公布的模型“宪章”，以及不同聊天机器人回答意识问题的例子。他担心模型的回答可能反映其训练和指令，因此直接询问无法确定它是否有主观体验。回答不同也不能证明模型具有意识。

视频将这一存在争议的问题与情境意识研究区分开来：模型是否能认识到自己是处于训练环境中、与人互动的 AI。视频还引用了一位 DeepMind 安全研究者的担忧：随着能力进步，研究人员可能没有足够时间解决对齐问题。

讲述者把听证会上的发言解读为：更强大的系统及其风险可能比许多人预期的来得更早。Gary Marcus 说 Altman 表现得很真诚，同时批评一种依靠信任大型公司的安全思路，并质疑其财务激励和竞争压力。

谈到 GPT-5 的时间表时，Altman 在 2023 年听证会上表示，OpenAI 当时没有训练未来的 GPT-5，也没有在接下来六个月启动训练的计划。这是对当时计划的陈述，并非当前进展报告。参议员 Cory Booker 怀疑，在没有执行机构的情况下研发会暂停；讲述者支持设立全球监督机构。