想做出人类水平的 AI，就该放弃生成式模型

Lex Fridman 把 Yann LeCun 介绍为 Meta 首席 AI 科学家、纽约大学教授、图灵奖得主，也是多次做客节目的嘉宾。LeCun 已经成为对 AGI 末日论批评最激烈的人之一，也是开源模型最响亮的倡导者之一。他的技术主张和公开立场一样鲜明：自回归大语言模型，包括 GPT-4、Llama 2，以及当时仍在路上的 Llama 3，都不是我们通往超人智能的路径。

他列出了智能系统，包括人类和动物，实际具备的四种特性：它们理解物理世界，拥有可以提取的持久记忆，能够推理，也能够规划。他说，目前的大语言模型一样都做不到，或者只能以原始的方式做到。它们并不真正理解物理，并不真正记忆，无法真正推理，更谈不上规划。

这并不意味着这些模型没用。LeCun 很小心地把人们常常混在一起的两个说法分开。自回归大语言模型是有用的；围绕它们，完全可以、也一定会长出一整个应用生态。但它们不是通往人类水平智能的路径，因为关键组件还缺失。有用，与通往 AMI 的路径，是两个不同的问题。AMI 是他更愿意用的说法，即“高级机器智能”（advanced machine intelligence），他不太用 AGI 这个词。

大语言模型的训练规模听起来近乎无限，直到你换一个单位来算。今天最强的模型，训练量大约是 10^13 个词元。按每个词元约两个字节算，就是 2×10^13 字节，差不多就是整个公开互联网。如果一个人每天读八小时这些语料，大约需要 170,000 年。

发展心理学家给出的数字则完全不同。一个 4 岁的孩子大约醒着 16,000 个小时。估算，这个孩子视觉皮层接收到的信息大约是 10^15 字节，依据是视神经每秒大约携带 20 兆字节。孩子的眼睛与模型的文本之间，相差两个数量级。

对 LeCun 来说，其中的含义是：我们所知道的大部分内容，并不是通过语言到达的。我们通过观察和与世界互动来学习。婴儿在生命最初几年学到的一切，以及动物学到的一切，都和文字无关。感官输入远远超过文本，所以他认为，只用语言训练的系统，无法长出一个严肃的现实模型。

Fridman 提出反驳。语言本身已经是压缩过的。一句话承载的信息，远多于存储它的字节，而人类把词语串起来的方式，本身就是一种世界知识的储存。仅凭文本，是否就足以重建一个世界模型？LeCun 的回答是否定的。他说，智能不可能脱离某种现实的扎根而出现，无论是物理的还是模拟的，因为环境远比语言能表达的丰富得多。

语言只是对感知和心理模型的粗略草图。把一个水瓶转过 90 度，你脑中浮现的画面并不经过文字。站起来，走下楼梯，打车，去机场：这些规划是对当前情境的心理模型，内心并没有在独白。我们一整天做的大部分事情，都发生在这一层。

这就是莫拉维克悖论（Moravec paradox），以机器人先驱 Hans Moravec 命名：计算机觉得国际象棋和积分很容易，而我们习以为常的日常技能，比如驾驶、抓取物体，对它们来说几乎不可能。一个大语言模型可以通过律师资格考试，却学不会像 17 岁少年那样，用 20 小时学会开车，也学不会像 10 岁孩子那样，一次就学会收拾桌子、把碗放进洗碗机。LeCun 说，把视觉编码器接到大语言模型上，是一种取巧。这些系统并没有在视频上训练，也没有直观的物理知识。

在 LeCun 的定义中，世界模型接收时刻 T 的状态和一个动作，预测 T+1 时刻的状态。这个状态不需要表示每一个像素，只需要表示对规划有用的东西。诱惑在于，用训练大语言模型的方式来训练它：给一段视频，预测剩下的部分，一次一帧或一组帧。FAIR 为此尝试了大约十年。行不通。

文本是离散的。你无法精确说出下一个词，但你可以在一个有限词表上输出一个概率分布，然后从中采样。视频则是高维、连续的。我们不知道如何在这种空间上表示有用的概率分布。让摄像机绕房间转一圈，模型可能会猜到有墙和一盏灯。但它无法预测那幅画、沙发的布料或地毯。在给定的语境下，这些细节是不可预测的。

原本用来承载这些看不见细节的潜变量（latent variables）方法，比如普通神经网络、GAN、VAE 和正则化自编码器，全都失败了。从损坏的图像中重建出干净的图像，这一让大语言模型成功的技巧，在视觉上同样失败了。FAIR 的掩码自编码器（MAE）产生的特征很弱。用标签或图像描述来训练同一个编码器，特征就会好很多。问题不在架构，而在于重建这一目标，它无法产生好的通用表示。

替代方案是 JEPA。把一张完整的图像，和一个损坏或变换过的版本，分别送入编码器，然后训练一个预测器，让它从损坏的版本预测完整图像的表示。系统从不生成像素，只预测一个抽象的嵌入。这样更便宜，还有一个有用的副作用：不可预测的细节，比如风中摇晃的树叶，会被当作噪声处理。编码器保留“有树叶在动”这一信息，丢掉每一片叶子的细节。

旧的失败模式是表示坍缩：如果只把相似的样本对拉近，网络会忽略输入，直接输出一个常数。对比学习（LeCun 在 1993 年就发表过相关工作）也会把不相似的样本对推开，但当答案空间很大时，负样本的数量会爆炸。最近几年，非对比方法逐渐成熟，比如 FAIR 的 DINO 和 I-JEPA，DeepMind 的 BYOL，以及 VICReg。I-JEPA 甚至不需要知道自己在看图像：遮住一块区域，然后预测被遮住部分的表示。V-JEPA 对视频做同样的事，遮住一个时间管（temporal tube），通常是同一区域跨越 16 帧。这是他们第一个能学到高质量视频特征的系统，好到监督头可以说出动作是什么。早期结果显示，它还能标记出物理上不可能的视频，比如物体凭空消失、跳跃或变形。

在量子场论里，我们从不用它来描述一张桌子。每一种现象都有自己的抽象层级，从场到原子，再到化学，再到物体，因为最底层在计算上根本不可行。语言本来就是压缩过的，这就是预测词语行得通的原因，也是它会碰到天花板的原因。LeCun 说，视觉语言模型，是在用语言当拐杖，去支撑那些还学不到好特征的视觉系统。就算把语言模型做得更好一些，也不会达到猫或狗对世界的理解程度。猫和狗没有语言，却仍然能规划复杂的动作。对那些谈论生成式 AI 的人，他的话是：“如果你真的想要人类水平的 AI，就放弃生成式 AI 这个想法。”

如果你有一个世界模型，就能做到大语言模型做不到的事：规划。把一个动作送进预测器，比如方向盘转了 10 度，它就会预测下一个抽象状态。在推理时，你搜索一串动作序列，让预测的最终状态满足某个目标。这就是模型预测控制，从 1960 年代初起，火箭轨迹规划就用这个思路。LeCun 希望把它放进学习到的抽象状态空间里。

复杂动作需要分层规划，而这不会自己从 JEPA 里冒出来，你必须专门为它设计。他反复用的例子是：从他在纽约大学的办公室去巴黎。在高层，子目标是去机场，然后赶上飞机。去机场可以分解为下楼、打车；下楼又可以一直分解到毫秒级的肌肉指令。你不可能用肌肉抽动来规划整个行程。你也不知道路上的交通状况。你要边走边重新规划。

他说，AI 界没有人知道该怎么训练一个系统，去学习分层规划所需要的多层次表示。如果训练集里有类似的模板，大语言模型可以背出一条纽约到巴黎的行程，细到词语仍然管用的那一层。但它无法为从未见过的情境想出计划，也无法用语言让自己从椅子上站起来。人们用的高层做法，大多是从别人那里学来的。把这些做法和低层动作连接起来，就是 JEPA 这类东西的工作，它提升抽象层次，而无需重建场景里的每个细节。

LeCun 并不惊讶自回归大语言模型居然有效。它们是自监督学习有效的一个惊人证明，同样的思路也在 BERT、多语言翻译、Meta 的仇恨言论分类器、Wav2Vec，以及为没有文字的语言做的语音到语音系统中出现过。围绕 GPT-2 的惊讶在于，只有解码器的模型，规模做大之后，看起来更流畅了。他说，流畅会骗人。我们把语言能力当成了智能的全部。图灵测试（Turing test）是个糟糕的测试，而莫拉维克悖论依然适用。

幻觉源于数学本身。模型每输出一个词元，都有一定概率让这个词元偏离合理答案的范围。如果这些错误大致相互独立，保持正确的概率就会随长度呈指数衰减。漂移是指数级的。Fridman 问，训练集里的平均真相，会不会形成一种引力，把模型拉回事实。LeCun 说不会：这是在与维数灾难作斗争。

针对人类提问做微调，或许能覆盖人们实际问题的 80%，因为人们会重复提问。但没有被覆盖的可能提示词集合是庞大的。一串随机字符就足以让模型越狱，进入另一种模式。把英文问题里的几个词换成其他语言，一个好的回答就会变成胡言乱语。社交网络早就熟悉这种长尾问题。系统会退化成一张巨大的查找表，而如果你想要的是推理和规划，这恰恰不是你要的东西。

你可以衡量大语言模型的“推理”有多原始。每个词元的计算量是固定的，大致等于网络深度乘以词元数量。简单问题、困难问题和不可判定的问题，花费的计算量一样。人类不是这样工作的。面对难题，我们会花更多时间，因为它难。在推理时分配思考资源的这种能力，正是当前大语言模型所缺乏的。

LeCun 把这套说法对应到心理学中的系统一和系统二。系统一是熟练的自动行为：一个老练的司机边开车边聊天，一个强棋手不费力就赢了新手。系统二是带有内部世界模型的、有意识的规划。今天的 AI 属于系统一。他对系统二的草图是能量模型（energy-based model）：输出一个标量，当 Y 与 X 兼容时接近零，不兼容时为正。推理时，你在抽象表示空间里搜索一个低能量的答案，然后把它解码成文字。参数保持不变。因为空间是连续且可微的，你可以直接对“思考”本身做梯度下降，而不必采样海量的词元序列再挑出一个赢家。

训练这样的模型，就是把兼容的 (X, Y) 对的能量往下压，同时确保其他地方的能量升高。对比方法会展示错误的 Y，并把它们的能量推高；RLHF 中的奖励模型本质上就是这样，只是它用于训练，没有用于规划。LeCun 更喜欢非对比的正则化方法，它们限制低能量区域的体积，让能量在数据流形之外自动升高。大语言模型已经在做一种坍缩版本，因为词表上的概率之和必须为一：提高一个词，其他词就会降低。但他说，为什么这种间接的技巧能起作用，并不显然。

LeCun 常被贴上强化学习怀疑者的标签。他的真实立场要温和得多：不必放弃它，只需尽量少用，因为它的样本效率糟糕透了。正确的顺序是：主要通过观察学习一个好的世界模型，然后用这个模型进行规划。规划应该能解决大多数任务。只有两件事出错时，你才需要强化学习：目标与你真正想要的不一致，或者世界模型不准确。

学骑自行车时，你对自己会不会摔倒的估计可能有偏差。打架时，对手会做出你没有预料到的动作。这时你就需要调整世界模型或目标，这正是强化学习的本职工作。你甚至可以提前调整模型，去你知道模型不准的区域探索。这有个再普通不过的名字：好奇心，或者玩耍。玩耍就是在没有真实风险的情况下探索，在不被打死的前提下修复模型。

RLHF 为什么会改变语言模型？他说，HF 指的是人类反馈（human feedback）。其中一部分只是监督学习：人们给几个答案打分，你训练一个目标去预测分数，然后做微调。这个目标几乎就是他想用于规划的那个函数；区别在于，今天它被用来改变权重，推理时并不做搜索。他认为，把它用于规划会高效得多。

Gemini 1.5 生成的黑人版 George Washington 形象，以及它在天安门广场和“坦克人”（Tank Man）问题上的拒绝或含糊其辞，引发了一轮关于审查和“觉醒”模型的争论。LeCun 的回应是一句话，他在自己用的每个网络上都发了：开源才是答案。没有哪个系统对所有人都是公正的。“偏见在旁观者的眼中。”有些事实是无可争议的；但很多东西可以用不止一种方式表达。把模型推向一个方向，一个群体就说它有偏见；推向另一个方向，另一个群体又会这么说。推得太过，就会出现事实错误，包括穿着纳粹军装的黑人士兵。

他想要的类比，是自由民主社会中的新闻媒体：自由而多元，因为单一的信息来源恰恰与民主和科学相反。在不远的将来，每一次与数字世界的互动，都将经由 AI 助手中转。Meta 已经在卖一种能回答问题、翻译菜单、描述古迹的 Ray-Ban 眼镜。搜索会变成对话。这些系统将成为人类所有知识的储存库，而这样的储存库不能被美国西海岸的几家公司掌控。他说，法国政府不会接受本国公民的数字信息来源被三家美国公司控制。这对民主、地方文化、价值观和语言都是威胁，而且与任何人的善意无关。

多样性只有在昂贵的基础模型开放时才会出现。Infosys 的创始人正在资助一个项目，在印度 22 种官方语言上微调 Llama 2。LeCun 以前的 FAIR 同事 Moustapha Cissé 正在为塞内加尔的语言开发大语言模型，让人们在医生稀缺的地方也能获得医疗信息。一家拥有数千本书的出版社、一家有内部“Meta Mate”的公司，以及一家通过 WhatsApp 接单的披萨店，所有这些都建立在一个开放的基础之上。Llama 2 已经有数百万次下载、数千个改进想法，以及建立在它之上的数千家企业。无论如何，Meta 都要为自己庞大的用户群建设系统；把基础模型开放出去，并不会损害广告和企业业务的收入，而且有用的应用是可以购买的。

在生物武器问题上，越来越多的研究发现，大语言模型并不比搜索引擎和图书馆多提供什么帮助。拥有说明书不等于能造出东西，而大语言模型对于现实中的那道鸿沟毫无帮助。化学和生物武器之所以被禁，部分原因在于，不伤到自己就很难使用它们。LeCun 能列出火箭发动机的步骤，但一个由 50 名经验丰富的工程师组成的团队，仍然会有十几次试验炸毁，才能成功一次。生物学家也说过同样的话，关于实验室工作。这又是莫拉维克的问题：把语言变成实物，需要说明书里没有的知识。

自 FAIR 成立以来，或者说自 35 年前神经网络的早期岁月以来，LeCun 对机器学习的方向从未像现在这样兴奋，因为他看到了一条可能的道路：能理解世界、记忆、规划和推理的系统。规模是必要的，但不充分。一块 GPU 耗电半千瓦到一千瓦；大脑只用大约 25 瓦，能力却强得多。要达到大脑的水平，可能需要今天 GPU 的十万到一百万块量级。硬件仍然有很长的路要走，尤其是如果 AMI 要无处不在的话。

AGI 不会是被发现然后一开关就打开的东西。好莱坞喜欢事件；现实会是渐进的。首先是从视频中学习的系统。然后是大型联想记忆。然后是目标驱动的推理器和规划器。接着是分层规划、分层表示，以及像大脑那样重新组合技能这些尚未解决的问题。这至少需要十年，很可能更久，因为还有人们从未见过的坑。12 到 15 年来，他一直在听到“AGI 就在眼前”，并且一直在说这是胡说。智能不是一个标量。人类并不只是比红毛猩猩更聪明；在森林里，红毛猩猩的表现比我们强。智能是一组技能，加上获得新技能的能力，它是一个高维空间，不能用单一数字给两个智能体排名。

他认为，末日论的情景建立在错误的假设之上。超级智能不会以一次性接管的方式到来；我们会先有猫级别的系统，然后一步步往上走，沿途安装护栏，并且许多团队同时并行，让好的系统能够对抗流氓系统。更聪明的物种并不会自动灭绝其他物种，AI 也不会成为一个竞争性的物种。支配欲望写在群居动物的身上，人类、狒狒、黑猩猩和狼都有，几乎同样聪明的红毛猩猩却没有。我们有充分的动机去打造顺从的助手。大语言模型是不可控的；目标驱动的系统是可控的，因为护栏（服从人类；如果会伤害其他人，就不服从）可以放进目标本身。世界上没有银弹式的证明。安全会像涡轮喷气发动机一样：几十年的迭代设计，没有单独的安全部门，因为发动机更好，就更安全。让 AI 变得更好，它就会变得更安全。

能控制人心智的 AI，并不等于核武器。核武器是一次性的、先发者的冲击。AI 的突破会扩散。AlphaGo 在三个月内就被复现了，而且没有详细论文。人们会跳槽。硅谷之所以行得通，是因为信息在流动。一个外国影响力模型不会直接跟你说话；它会跟你的助手说，而那个助手和它一样聪明，然后把它扔进你永远看不到的垃圾邮件文件夹里。《悲观主义者档案》（Pessimists Archive）里充满了同样的反射：爵士乐、漫画书，还有一些据说时速超过 50 公里就会让人窒息的火车。真正的问题是：哪些危险是真的，以及我们是拥抱变化，还是抵制变化。LeCun 说，通过封闭系统集中权力，是比其他一切都大得多的危险。

特斯拉的 Optimus 让人形机器人重新火了起来；波士顿动力已经做了多年；Figure AI 和宇树科技也加入了进来。LeCun 认为人形机器人会到来，只是不会很快。接下来的十年会很有意思，因为这个行业已经等了十年或二十年，却仍然几乎只有预先编程的行为。瓶颈依然是莫拉维克：理解世界并规划动作。波士顿动力使用手工构建的动力学和经典规划，这不会做出家用机器人。L5 级自动驾驶还没有解决，而一个能像少年那样用 20 小时学会开车的系统，还要远得多。从某种意义上说，硬件团队是在赌 AI 会追上来。FAIR 的具身 AI 团队使用的是商用机器人：一只机器狗可以走到冰箱前，打开门，取出它被训练识别过的一罐饮料。清理晚餐桌还远远谈不上。视频自监督方面的重大进展，花了十年才真正到来，而且是最近两三年才出现的。

博士生不需要巨大的集群。LeCun 列出了三个开放问题。第一，如何通过观察训练世界模型，它是否需要大语言模型级别的数据？第二，当“动作”可能是一次搜索、一次数据库查询、一次模拟、一个计算器，或者求解一个微分方程时，如何用学到的模型进行规划？Toolformer 和 FAIR 的相关工作已经存在，但还没有好的答案。第三，如何学习分层规划，而不只是像一只机器狗那样由人手工指定两个层级，其高层路径规划器和低层步态规划器都是人设计的。深度学习可以学到感知的分层表示。但对于动作计划，目前还没有等价的示范。

让他感到希望的是，AI 可以让人类变得更聪明。每个人都会拥有一个助手团队，它们可能比老板还聪明，就像 LeCun 职业生涯里一直和比自己聪明的人共事一样。“人类犯下的所有错误，其实都是因为缺乏智能，或者缺乏知识。”历史上的类比是印刷术：更便宜的书籍，识字率，启蒙运动，科学，民主，还有美国革命和法国革命。它也带来了欧洲两个世纪的宗教战争，因为人们读了《圣经》，并注意到神父可能是错的。今天，没有人会把印刷术看成净负面的东西。奥斯曼帝国禁止阿拉伯文印刷长达 200 年，据阿联酋 AI 部长 Omar Al Olama 告诉他，部分原因是为了保护书法家行会。所以，今天我们试图禁止 AI，是在保护谁？他信任的经济学家并不预期会出现大规模失业，只会出现工作的转移，包括一些现在还说不出名字的工作。20 年前，没人能说出移动应用开发者这个职业，因为那时智能手机还不存在。