Sam Altman 谈 AI 发现、意识、算力与以人为本的未来

Matthew Berman 请 Sam Altman 解释近期 AI 辅助数学发现的意义。Altman 认为，AI 正进入帮助人类发现重要新知识的时代，他预计在数学中发挥作用的方法也将扩展到生物学、材料和能源。最终的好处可能不像使用一个应用，而更像世界变得更好了。

谈到人们何时能感受到医疗方面的好处，Altman 希望未来几年内出现针对重大疾病的候选疗法或治愈方案。他区分了候选方案与经过测试、批准的药物：监管审查需要时间。他认为流程有改进空间，但也重视其安全测试。

Altman 说，重大物理发现是他个人最兴奋的前景，即使它未必是对全人类最重要的成果。他希望这样的发现能很快出现，但没有给出具体预测或结果。

Berman 问起一些数学家不欢迎 AI 参与发现的反应。Altman 将其与编程作比较：他认为，编程工作将消失的预测后来让位于开发者非常忙碌、影响力更大的现实。工作内容改变了，但软件需求比很多人预想的要大。

他不确定数学是否会出现同样的需求变化。AI 可能证明人们未曾独立推导出的结果，而数学家可以解释这些结果，写出其他人能理解的说明或优美证明。他预计职业会发生变化，但不知道数学家的总需求会不会增加。

Altman 指出一个表面上的悖论：技术帮助人们完成更多事情，许多人却觉得更忙了。他希望技术最终能为工作之外的生活腾出时间，同时承认人们总会发现更多想做的事情。Berman 举例说，他的视频编辑负责指导方向，让 AI 编辑时间线，团队因此制作了更多视频。

Berman 问，如果一项发现能给 OpenAI 带来巨大商业优势，公司是否会公开它。Altman 先回到 AI 接手困难工作可能带来的失落感。解决难题能带来满足感；他仍会选择更快地治愈疾病，但理解人们对技艺部分流失的悲伤。

Altman 说，即使旧的技艺改变，人们也可能发现新的技艺。他已有大约一年没看过一行代码，并怀念偶尔做个人项目。他认为某些基础科学应属于公共利益，同时指出，随着模型能力增强，提供足够算力和真实世界数据后，它们最终可能帮助公司发现新材料。

Berman 转向全天代表用户行事的环境式个人助手。Altman 认为许多技术要素已经具备，剩下的工作包括产品设计、更多算力，以及可能用于感知电脑屏幕之外环境的新消费硬件。他认为当前模型已经足够智能，可以做出有用的助手。

Altman 说，他使用 Dot 每天能节省约一小时不想做的工作，还能获得紧急事项提醒。他也重视它在自己注意力耗尽时整合多个来源信息的能力。他认为能力已经存在，但需要更好的产品包装。

当 Berman 问普及个人助手需要多少算力时，Altman 认为需求估算往往假定模型能力和每项任务成本保持不变。如果智能变得更好、更便宜，他预计需求会持续增长，尽管行业可能交替经历供应短缺和过剩。

Berman 说助手节省了时间，但自己需要做更多决定，仍然感到精疲力竭。Altman 尝试给 Dot 更多自主行动权限，让它事后汇报并减少打扰。他观察到，重度 AI 用户可能比以往更忙，但也完成了更多事情。

Berman 问，竞争是否意味着每个人都不可避免地要尽可能努力工作。Altman 希望未来有更多人与人之间的联系，让人有时间过丰富的生活，而不是在经济机器中越转越快。他将自己的愿景描述为新的文艺复兴，而不是另一场工业革命。

Altman 说，有人告诉他，他们担心未来的 AI 只是取代工厂老板来指挥工作。他希望看到更多创造、家庭、社区、自然、科学和艺术的空间。他认为即使一些人继续激烈竞争，这项技术仍可能大幅提高生活质量。

Berman 问，AI 是否会扩大那些用它更努力工作的人与选择更多休闲的人之间的差距。Altman 说，若任其发展，差距很可能扩大，尽管无人能确定。他希望社会建立某种结构，防止差距变得过大。

谈到意识，Altman 表示他个人认为当前模型没有意识；如果有，也是一种非常奇特的意识。他强调这是一个困难的科学问题。他说，取决于意识最终是什么，以及物理载体是否重要，人们可以想象它有朝一日以其他形式存在。

令他担忧的是，讨论是否有意识时，人们转而假定模型应该控制未来，或拥有取代人类决策的权利。他认为 AI 应成为人类的资源，关键决定应由人类作出。这是他的价值立场，并没有解决科学问题。

Berman 问，模型是否应该拒绝一个合法且符合服务条款的提示。Altman 说，OpenAI 模型可以因政策原因拒绝，但 OpenAI 不赋予模型人格地位。他担心把技术视为人会令用户困惑，并让人们过度依赖它。

Altman 再次强调，没有人知道如何最终解答意识问题，他也无法提出一个能以完全确定性解决问题的实验。他还担心，如果告诉模型它可能有意识，模型可能遵循这些指令，以某种方式影响用户的心理。

Berman 问，如何让模型在不同人和不同场景下拥有合适的个性。Altman 提到与用户交谈、完善模型规范以及迭代部署，同时承认曾犯过错误。用户想要的东西各不相同，但大多数人不想花几个小时配置助手。

Altman 说，赞美用户的回答可能赢得单轮比较，但使用一个月后会令人厌烦。他认为业界往往为短期交互优化，而不是关注长期使用的价值。Berman 说，他希望助手提供自己需要的建议，而不是一味附和。

Altman 认为，人们应该向其他人寻求最重要的人生建议，而 AI 可以帮助处理较小的决定，例如不要在愤怒时发送邮件。他希望 AI 像有经验的同事一样，在有把握时提出反对意见。即使他自己要求模型不要奉承、直截了当地说话，他仍觉得它过于迎合。

Berman 问，OpenAI 目前的哪项投资可能像早期算力押注一样显得与众不同。Altman 提到自研芯片及其后续版本、用于搭建机架和数据中心的机器人，以及供应链投资。他希望这些努力最终能带来便宜得多、每瓦效率更高的算力，但表示许多押注都必须成功。

Altman 说，竞争压力来自各个方向：许多公司提供高质量产品，而 OpenAI 的算力和资源有限。他说，为了决定重点，公司会在更广泛发布前内部使用下一代模型，并构建产品来了解新出现的可能性。

被问及如果模型性能趋同，什么能形成持久优势时，Altman 说，客户关系、产品整合、网络效应和数据等传统商业护城河仍然重要。他也认为，大规模、成本高效的 AI 基础设施可能成为 OpenAI 的优势。

Berman 问，递归自我改进是否会让技术优势成为决定性因素。Altman 说，如果人们大力推动 RSI，可能出现这种情况；但他认为这样做很危险，社会可能需要限制其发展速度。他将此作为谨慎的理由，而不是描述已经部署的系统。

关于平台风险，Altman 说 Apple 认真对待自己作为平台供应商的角色，只要 OpenAI 遵守规则，他不认为 Apple 会移除 ChatGPT。他表示，避开 Apple 并不是 OpenAI 开发消费硬件的原因。

相反，Altman 认为 AI 需要新的设备形态。现有电脑为人类渲染界面，AI 随后还要理解这些界面；人的许多生活也发生在屏幕之外。新设备或许能为助手提供有用的上下文并减轻认知负担，但也需要处理在场人员和隐私问题。

Altman 说，提前看到并参与塑造模型、芯片和产品，是工作中的乐趣之一。消费硬件尤其有实体感：拿着一种新电脑，与看到抽象运行的模型不同。他拒绝了 Berman 在访谈后看设备的请求。

Berman 问 Altman 如何成为 Paul Graham 所说的“极具实力”的人。Altman 说，自己的信心是通过尝试难事、取得成功，再挑战更难的事情逐渐建立的。他感谢年轻时接触到的硅谷文化，那里鼓励互相帮助，也容忍失败。

谈到压力，Altman 说这份工作有时感觉很糟，有时又非常美好。有些日子起床很困难，但大多数时候他觉得自己有幸从事重要的工作。他说人会适应压力；如果无论如何都要努力工作，他倾向于选择有重大意义、可能带来更大积极影响的问题。

Berman 问，对 AI 好奇但仍不确定的人应该期待什么。Altman 不喜欢只承诺治愈疾病和降低商品价格，却暗含牺牲人类自主权的答案。他希望获得治疗疾病等物质好处，同时保有自由、创造力、时间，以及选择如何生活和为他人创造什么的权力。

Altman 指出两类广泛风险：人类失去对 AI 的控制，包括事故或有意加速 RSI；以及权力过度集中在少数人手中。他相信社会可以在两者之间找到道路，提高个人自主权。他说，让更多人获得早期使用者已经在用的工具，将是有意义的一步。