Sam Altman 对 2025 年 AI 编程的预测与三个观察

2025 年 2 月，我认为 AI 编程智能体可能很快超过单个人类程序员，并能大规模复制。我还预计 AI 将推动科学发现、改变社会，但这些结果及其时间仍是预测，并非已经得到证明。

Sam Altman 在日本谈到模型的快速进步、推理和成本下降。他说各代 GPT 的预训练算力大约增加了 100 倍，并出现新的能力。这是对训练资源的说法，并不意味着智能被测得增长了 100 倍。

Altman 说，强化学习提高了某些基准上的表现，让较小的推理模型取得过去预计需要大得多的模型才能达到的结果。他也强调，这种新方法并不能同等地提高所有能力。

在推理阶段，推理模型可以花更长时间处理提示。强化学习训练和在推理时投入更多算力是不同的技术，但在这里讨论的推理模型中可以相互配合。

我把 AI 的进步速度与摩尔定律作比较。后者是关于晶体管密度的历史观察。AI 能力提升或服务价格变化与晶体管密度翻倍衡量的是不同事物，不能直接比较。

可验证奖励有助于训练模型解决答案可以检查的问题，例如某些数学和编程题。验证器可以利用答案、测试或其他标准，无须事先知道每一种解法。诗歌等主观任务则没有同样直接的检验方式。

Altman 预计，更大规模的预训练与这些方法结合，可能带来真正的新科学知识的最初迹象。这是对未来模型的期待，并非已经发生此类突破的证据。

我再次引用 Leopold Aschenbrenner 描绘的智能爆炸情景：如果 AI 研究产生的系统反过来能改进 AI 研究，反馈循环可能加快进步。这张图只是情景示意，循环能否出现、速度如何都存在不确定性。

我认为编程可能成为 AI 率先表现突出的领域。我拿 AlphaGo 作类比：它通过自我对弈发现了包括著名的第 37 手在内的策略。这个类比有启发性，但软件工程比胜负规则明确的封闭游戏复杂。

设想把一个能力出色的编程智能体复制成数千或数百万个，让它们持续工作。这种情景取决于模型的实际能力，以及可用算力、能源和部署条件；复制并非免费，也不是无限的。

Altman 说，他讨论的模型在相关工作已有先例时编程表现很好，但在发明新算法或新科学方面能力较弱。他预测继续扩大规模可能改变这一点；我觉得这一前景已经很近，但具体时间仍属推测。

Altman 描述了编程竞赛排名估计的进展：早期推理模型大约排在前 100 万名，另一个进入前 1 万名，o3 约排第 175 名，内部结果约为第 50 名。他认为到 2025 年底可能达到第一名。

这些数字针对的是编程竞赛，并非对所有职业开发者的直接排名。我认为编程与国际象棋和围棋一样，很多解法可以验证；但仅凭基准成绩，不能证明某个模型是世界上最优秀的软件工程师。

Altman 希望到 2025 年底，Pro 用户能够向模型提出困难问题，让它工作数小时，必要时使用工具。他排除了需要发现新科学的问题；这是对未来能力的期望，并非 AI 几乎在任何事情上都胜过人类的承诺。

接下来我看 Altman 的文章《三个观察》，文中说指向 AGI 的系统已开始显现。脚注明确表示，文章中使用 AGI 一词，无意解释或改变 OpenAI 与 Microsoft 合作关系中的相关定义。

Altman 一方面把 AGI 视为人类不断积累的工具之一，另一方面认为它可能带来一种不同的变化。我推测它或许是人类需要发明的最后一项重大工具，同时也承认其后果可能是积极的，也可能是消极的。

文章设想治愈疾病、让家庭拥有更多时间并释放创造力。我把这种乐观与 Altman 早先提醒大家不要期待 AGI 立即部署的说法作了对照。这些是愿景和预测，并不能证明疾病即将被治愈或部署日期已定。

第一个观察认为，模型能力大致与训练和推理所用资源的对数相关，资源包括算力和数据。Altman 认为在一定规模范围内增长可预测；但能否无限外推这些趋势，或据此预测某项具体发现，仍不确定。

第二个观察认为，使用特定水平 AI 的成本大幅下降，声称每年约下降十倍。文章比较了 GPT-4 与 GPT-4o 的 token 价格；价格及模型能力是否相当取决于任务、供应商和输入输出费率，这也不是普遍适用的物理定律。

第三个观察认为，智能提升所带来的社会经济价值呈超指数增长。我把它理解为价值可能比能力本身增长得更快，但价值规模及其分配仍是预测，而非已经确定的测量结果。

Altman 请读者设想一个软件工程智能体：它能完成经验丰富的工程师花最多几天做出的许多任务；然后再设想数千或数百万个这样的副本。我将这个思想实验扩展到其他知识工作，但它不代表如此规模的智能体劳动力已经得到证实。

文章将 AI 比作晶体管：一项发明渗透到经济各处，直到它的影响变得习以为常。我推荐《Chip War》，以了解半导体的历史与地缘政治背景，同时预计 AI 的经济影响将难以忽视。

我预计工作变化会带来冲击和摩擦，但乐观地认为人们会找到新的活动。农业机械化减少了农场所需的劳动人口比例，也让其他职业成为可能；不过，这段历史并不能保证 AI 转型会同样顺利或让所有人平等受益。

我期待的好处包括科学进步加快以及许多商品降价。Altman 也指出，土地等稀缺资产和奢侈品可能变得更加昂贵，因此改善未必会均匀分配。

Altman 警告说，劳动与资本之间的力量平衡可能失调，也许需要及早干预。我担心，如果资本所有者能够购买能力很强的自动化劳动力，而不必面对人类劳动者议价所带来的约束，劳动者的谈判能力可能削弱。尽管我仍对未来的可能性感到乐观，许多问题尚未解决。