Sam Altman 谈 AI 丰裕、监管与算力经济

Matthew Berman 介绍了一场 2024 年 2 月世界政府峰会上对 OpenAI CEO Sam Altman 的采访，随后评论 AI 芯片并播放一段 All-In 播客。Altman 描述了一种可能的未来：廉价的智能和充足的能源帮助人们学习、开发疗法、改善环境并发现新科学。这些都是可能性，而非采访中已经证明的结果。

被问及重大科学进展还有多久时，Altman 表示自己不知道。他说听科学家称现有工具提高了生产力，但这些收益有多大、会怎样影响发现速度，都很难量化。让每位科学家的生产力翻倍只是一个假设例子。

采访者说，根据阿联酋的经验，在大学部署语言模型没有提高作弊率，还帮助了学生和教师。这是采访者的说法，而非视频确立的研究结论。他问 Altman，哪些政府应用可以成为其他地方的范例。

Altman 回顾了一些学校早期禁止 ChatGPT 的情况，并表示许多教育工作者后来接受了它。他预计它将改变教育。他认为政府应该试验如何改善表格、服务、教育和医疗，同时了解什么方法有效；广泛收益是一项预测，结果取决于实施方式。

采访者问，既然许多改变世界的应用尚未出现，实验室为何继续追求更大的模型。Altman 将当前 AI 比作早期手机：在有限方面有用，但远未达到现代智能手机的能力。他认为扩大规模和继续开发可能在未来几年产生有用得多的系统。

被问及时间线时，Altman 表示人们应保持耐心，并预测几年内会有大幅改进，十年内会有显著进展。具体谈到 GPT-5 时，他说重要变化将是更强的通用智能，而非某一个孤立功能。这是 2024 年的预测，并不保证每项任务都会改善。

采访者问，如果 Altman 担任一天阿联酋 AI 部长会怎么做。Altman 首先建议建立监管沙盒，让人们在受控环境中尝试应用、观察成败，并依据经验制定规则。他认为凭空写出所有规则很困难。

采访者说阿联酋已有监管实验室。Altman 随后调整回答：他会召集国际领导人讨论针对最强大 AI 的全球体系，并以国际原子能机构作类比。他提出在高度强大的系统部署前进行审计和采取安全措施，但没有给出完整的治理设计。

谈到政府和组织的国际努力，Altman 说讨论和辩论有益，但最终应形成得到广泛支持的行动计划。他强调合作，并表示 OpenAI 不应单方面制定全球计划。他没有提出详细时间表或具有约束力的框架。

采访者问资源有限的政府应该怎么办，以及应该选择封闭还是开放模型。Altman 说 API 服务和运行开放模型都可能合理，OpenAI 也在考虑面向各国的方案。他没有表示某一种方式在所有情况下都最好。

被问及是否开放旧模型时，Altman 纠正采访者：按照所说的开放方式，OpenAI 发布的是 GPT-2，而不是 GPT-3。他说人们可以期待随着时间推移出现更多开放发布，但没有给出具体模型、日期或许可证。他希望任何发布都能增加有用价值，而不只是重复现有选择。

采访者询问最大的担忧和最乐观的来源。Altman 表示，他尤其担心隐蔽的社会失配：系统可能与社会发生有害互动，而没有任何单一行为者有意造成伤害。他认为下行风险重大，同时相信谨慎部署可能带来显著好处。

Altman 设想人们可以使用许多有能力的 AI 助手——程序员、律师、营销人员和战略顾问——来支持自己的目标。他认为这可能提高生活水平，释放更多人类创造力。这是对未来可能的访问与能力的设想，而不是对 2024 年所有人实际拥有条件的描述。

被问及青少年应学习或做什么才能保持竞争力时，Altman 强调尽早熟悉这项技术，并设想一个机会显著增加的时期。他预测年轻人可以利用 AI 创办公司，追求此前更难实现的想法。他没有提供具体课程，也没有保证特定就业结果。

采访结束后，Berman 提到《华尔街日报》的一篇报道：Altman 正为一项广泛的芯片和 AI 计划寻找投资者，该计划可能需要最高 7 万亿美元。这是报道中的可能规模，并非已确认筹集的资金，也不是经过验证的 AGI 成本估算。Berman 将报道与算力供应以及 OpenAI 对 Nvidia 的依赖联系起来。

Berman 引述 Nvidia CEO Jensen Huang 的观点：计算硬件会变得更快，可能减少实现某种能力所需的投资。他还讨论了有关全球数据中心支出的预测。这些估算的范围和假设不同，比较它们不能确立开发 AGI 的精确成本。

Berman 认为，如果模型日益商品化，专有芯片可能成为优势。他还猜测了 Nvidia 的激励因素。这些是对竞争市场的解读，不能证明任何一家公司的内部意图，也不能证明硬件必然是持久的价值来源。

在 All-In 播客片段中，一位主持人询问投资者 Chamath Palihapitiya 关于开放模型以及 AI 投资者可能在哪里找到价值。Palihapitiya 预测，能力强且免费提供的模型可能侵蚀用广泛可得数据训练的专有基础模型的经济价值。这是一项投资观点，而非已确立的市场结果。

Palihapitiya 说，客户仍会花钱训练、微调和运行模型，因此能够快速提供词元的基础设施可能获得价值。他将这一潜在市场与早期云计算比较：算力和存储提供商在当时建立了持久的业务。这一类比展示了可能的市场结构，而非确定结果。

他认为专有硬件可能帮助提供商经济地提供推理服务，并提到 Amazon、Cerebras、Google TPU 和 Groq。他披露自己曾帮助资助 Groq，这与他的观点有重要利益关联。他将定制硬件与基于 Nvidia GPU 的服务作比较，并表示即使模型更便宜，专有数据和基础设施仍可能保有价值。

Berman 最后询问报道中的投资目标究竟合理还是过度。讨论留下了几个未解问题：能力会如何发展，需要哪些基础设施，以及价值将流向模型、硬件、数据还是应用。彼此竞争的预测都没有解决这些问题。