Sam Altman 谈未来 AI 模型、版权与部署的边界

摘要

30 秒看懂

Matthew Berman 解读了 Axios 记者 Ina Fried 于 2024 年 1 月在达沃斯对 Sam Altman 的采访。Altman 预测模型能力和对话式工作流程将继续发展，同时认为自主科学发现是更长期的目标。 Fried 追问训练数据、选举、军事应用、不同文化的价值观以及 OpenAI 近期的董事会危机。Berman 表达了乐观与担忧；他对就业、模型发布时间和芯片公司的预测属于他个人的看法。

1能力更强的模型Altman 预测模型在推理和复杂任务方面将全面进步，但没有公布发布日期。
2训练数据和退出请求Altman 表示 OpenAI 力求尊重退出请求、防止逐字复述，同时承认识别复制内容存在困难。
3选举风险Altman 表示担忧 AI 在选举中遭滥用，呼吁加强监测、快速调整并与外部合作。
4军事用途的灰色地带Fried 询问如何区分有益和有害的用途。Altman 表示社会和技术必须共同演进，同时承认中间情况尚未解决。
5价值观的个性化Altman 预计系统将在全球边界内适应个人和文化差异；Berman 则担心这会强化信息茧房。
6芯片项目Altman 表示，芯片计划是经 OpenAI 董事会认可的公司战略项目，并非个人项目。

要点建议

Altman 预计模型能力将全面提升，但没有公布下一代模型的名称或发布日期。
他预计模型获取相关数据的能力将改善，对话式工作将增多，而自主科学发现仍是更长期的目标。
Altman 区分了推理时使用的出版商最新内容与训练数据，并表示 OpenAI 力求尊重退出请求、减少逐字复述。
他认为选举是重大风险，提出监测、快速应对和合作，但没有保证结果一定安全。
Altman 支持在限制条件下开展某些军事用途，并表示棘手的中间情况需要进一步判断。
他预计系统将在全球性边界内允许个性化，同时承认 OpenAI 可能决定不在某些国家运营。

主题OpenAI 模型与训练安全与治理 AI Regulation AI Strategy

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

能力更强的下一代模型

Altman 回顾 ChatGPT 的普及情况，预计模型能力将继续提升。Berman 区分了模型研究与基于模型开发的应用。

Matthew Berman 解读了 2024 年 1 月在达沃斯的一场访谈：Axios 记者 Ina Fried 向 OpenAI 首席执行官 Sam Altman 询问下一代 AI 和公司面临的难题。Altman 表示，团队原本预计 ChatGPT 会表现出色，但人们如此迅速地发现这项技术的用途，仍让他们感到意外，尽管技术本身仍有限制。

被问及 2024 年的 AI 可能做到哪些上一年做不到的事时，Altman 强调的是整体能力，而非单一功能。他预计未来的模型——他称之为“GPT-5，或者我们最终给它起的其他名字”——能更准确地处理更长、更复杂的问题。他没有公布名称或发布日期。

Fried 问，进步主要来自更好的模型，还是来自开发者基于现有模型构建应用。Altman 预计两者会相互促进，其中更强的模型带来最大的进步，产品化则让这些能力发挥用处。Berman 同意两者都重要，但预测应用开发者会作出重大贡献，AGI 不会在 2024 年到来；他认为新模型可能当年推出，也只是猜测。

数据获取与对话式计算

Altman 预计获取相关数据的能力将增强，语音交互也会更快。他和 Berman 想象 AI 如何改变知识工作，不过 Berman 对编程的预测更为激进。

谈到实际限制，Altman 预计模型将能更好地获取相关企业数据或特定任务数据，语音速度也会提升。Berman 解释，推理时检索信息可以提供模型固定训练数据无法包含的最新上下文。他指出，检索与联网都能帮助语言模型获取较新的信息。

Altman 想象未来人们通过对话使用电脑：用户不必打开邮件、操作浏览器，而是让助手找出重要邮件或执行任务。他预计这一转变不会在 2024 年完成，但会有更多工作在 AI 界面中进行。

Berman 将这一愿景与刚发布的 Rabbit 设备联系起来，预测计算方式将向自然语言交互转变。他比 Altman 走得更远，认为如果模型能编写并执行必要代码，大约十年后或许不再需要程序员。这是 Berman 自己的预测，并非访谈已经证实的结论。

Fried 问，人们是否会每天花数小时使用 AI 助手。Altman 说，一些程序员已经这样工作，他预计更多人会将这种体验融入工作流程，尽管他不知道未来的电脑或 AI 操作系统究竟会是什么样。Berman 预计这一转变将逐渐开始，并在数年内不断加深。

科学发现与版权

Altman 认为自主科学发现是较长期的前景。Fried 追问出版商协议、退出请求和模型训练数据。

被问及哪些事情还需要一年以上才能实现时，Altman 认为自主科学发现是最重要的长期应用：AI 可能大幅加快研究，并越来越独立地作出发现。他明确表示，自己不认为这会在 2024 年实现。Berman 想象系统持续研究疾病的潜力，同时承认这只是未来可能性，而非已经证实的治疗方法。

Fried 转向内容授权与《纽约时报》的诉讼。Altman 表示，OpenAI 与出版商协议的重点，是在用户提问时获取可信、最新且有品牌标识的信息，而不仅是取得训练数据。Berman 将这一回答理解为区分推理时使用的最新信息和训练模型所用的材料。

对于是否所有公开可访问的材料都能用于训练，Altman 没有简单回答是或否。他说 OpenAI 力求尊重退出请求，但其他网站上未注明出处的复制内容使其难以完全做到。他还说，无论训练来源是什么，公司都希望尽量减少逐字复述受版权保护的内容。

Berman 表示，他不同意 Altman 对使用受版权保护材料训练是否合法的判断。Fried 指出诉讼提出的问题将由法院裁决，并问 OpenAI 能否仅凭明确属于公共领域或已获授权的材料构建模型。Altman 回答说，没有任何一家出版商的数据不可或缺，更好的推理能力可能让高质量数据更有价值。

Altman 还表示，即使模型越来越多地针对少量高质量信息进行推理，大量数据仍然重要。Berman 认为这存在矛盾，并预测合成数据将发挥更大作用；不过，不能依据这一预测断定 AI 生成训练材料的法律地位。被问及实验室是否存在使用这类受限数据训练的模型时，Altman 拒绝讨论未发布的工作。

选举与军事

Altman 讨论了选举风险监测和允许的军事用途。Fried 询问人员配置，以及介于明显有益与明显有害之间的棘手情况。

Fried 询问如何保护 2024 年的选举，以及 OpenAI 技术是否可能用于影响竞选。在播放回答前，Berman 展示了 OpenAI 的 Democratic Inputs to AI 资助计划，并质疑为何要资助外部团队。这个 2024 年 1 月的计划关注公众参与 AI 治理的方法；OpenAI 另一份独立的选举安全公告才涉及选举问题。

Altman 说，选举中的滥用是他最担忧的问题之一，他预计新的挑战可能不同于以往选举。他提出密切监测、在出现问题时迅速调整，并与外部伙伴合作。他表示自己感到担忧，而不是保证这些措施一定能确保安全。

Fried 质疑，与大型社交平台相比，一家规模较小的公司能否为选举投入足够人员。Altman 说，人数本身不能衡量效果，能力强的小团队可能胜过大得多的团队。Berman 表示赞同，并以 OpenAI 人员相对较少却取得成果为例；两人都没有在这里提供证据，证明某个具体人员规模足以保障选举安全。

访谈接着讨论 OpenAI 军事使用政策的变化。Altman 表示，公司选择明确禁止哪些用途，而不是排除整个类别的用户；他认为美国国防部有正当用途，同时反对利用模型作出杀伤决策。Berman 支持在限制条件下允许军方使用。

Fried 将翻译或支持退伍军人等低风险例子，与禁止的武器相关用途作对比，询问公司如何处理两者之间的模糊应用。Altman 认为，技术与社会需要通过迭代部署共同演进，让人们接触技术、逐渐适应并制定规则。

Berman 认为这涉及权衡：尽早部署有助于测试，但滥用、深度伪造或选举干预可能造成难以挽回的损害。Altman 承认，他还不知道所有中间情况的正确答案，并表示有些用途需要缓慢、迭代地推进。他也确认支持与美国及其他国家政府合作。

AI 应当遵循谁的价值观？

Altman 预计系统会在全球性边界内允许个人定制。双方讨论了文化差异、LGBTQ 权利，以及 OpenAI 可能无法运营的国家。

Fried 问，单一模型能否满足价值观不同的社会。Altman 预计系统会有一些全球性边界，需要解决默认设置与允许行为的问题，并在文化和个人层面提供相当程度的定制。Berman 担心，针对每位用户定制的模型可能强化已有信念，加深网络信息茧房。

Fried 追问那些不尊重 LGBTQ 权利的国家。Altman 说，如果要求系统赞同杀害同性恋者，就会超出他设想的边界，但其他一些他个人不认同的观点仍可能获准表达。Berman 猜测 Altman 会允许任何合法内容；Altman 在访谈中并未提出这一规则。

Altman 认为，个人层面的定制可能比国家层面的定制更重要。Fried 指出，有些政府可能不允许个人自由选择。Altman 说，OpenAI 可能决定不在某些国家运营；对其他国家而言，尽管存在分歧，公司仍可能找到足够的共同点开展业务。

董事会危机、投资与基础设施

Altman 没有提供 Ilya Sutskever 的最新情况，并将芯片计划描述为 OpenAI 的工作。Berman 最后谈到企业应用和 AI 基础设施。

在快问快答环节，Fried 询问 Altman 于 2023 年 11 月短暂遭解职、随后重返 OpenAI 首席执行官岗位后，Ilya Sutskever 的角色。Altman 没有提供他的确切职位新进展，但称 Sutskever 是杰出的研究者，并表示自己很关心他。Berman 回顾了 Sutskever 参与董事会危机的情况；访谈并未确定董事会作出决定的原因。

Fried 问，Altman 参与外部项目或投资是否与他在 OpenAI 的职责存在冲突。Altman 表示，芯片计划是董事会视为具有重要战略意义的 OpenAI 项目，并非个人事业。他说，自己已基本停止新的个人初创公司投资，但仍会支持一些此前的投资；他还提到，Humane 的业务已与 OpenAI 过于接近，因此不会再进行下一轮投资。

Berman 总结了访谈的其余部分：Altman 鼓励管理者在公司内部使用 AI 提高效率，并表示基础设施投资至关重要。Berman 随后表达了自己对 Nvidia 在 AI 芯片领域地位的看好，以及对 Apple 在设备上运行 AI 的潜力的乐观判断。这些是他截至 2024 年 1 月的预测，并非已经确定的未来投资结果。