智能不是楼的高度：François Chollet 谈 Keras、深度学习，以及为什么通用人工智能（AGI）不会爆发式崛起

Lex Fridman 开场时提到，Chollet 从不把自己的观点说得委婉，尤其是在推特上，于是请他谈谈一个引发过争议的观点。Chollet 举的例子是他质疑智能爆炸的一条帖子：如果造出了一个通用的问题求解 AI，那么“造出这样的 AI”本身也是一个问题，而这个 AI 可以比人类更好地解决它。于是它会改写自己的算法，生出更好的版本，如此递归下去，智能呈指数级上升。Chollet 首先反对的是其中隐含的定义。这套说法把智能当成一个孤立的大脑所具有的属性，就像楼的高度一样。他说，智能并不是这样的东西。它来自大脑、具身（embodied）智能与环境三者之间的相互作用。缺了其中任何一环，智能就无法真正定义。在他看来，单纯调整大脑，让它变得“越来越聪明”，这种说法本身就说不通。

Fridman 站在唱反调的一方，用的是 Max Tegmark 等人的论调：宇宙是一个信息处理系统，大脑也是，那为什么我们的硬件会成为限制？如果造出一个与大脑相当的东西，它应该会呈指数级提升，几乎所有担心超人智能的人都是这么推理的。Chollet 的回应是，即便在非常聪明的人当中，大脑也不是表达智能或取得成就的瓶颈。一个相互依赖很多的“大脑—身体—环境”系统，只调其中一部分，能力不会爆炸式增长，因为新的瓶颈会随之出现。许多天赋异禀的人并没有去解决重大科学问题。爱因斯坦之所以成了爱因斯坦，是因为一个天才在恰当的时候遇上了一个大问题；这种相遇完全可能从未发生，那他就只会是个专利局职员。Chollet 认为，今天很可能也有不少人同样聪明，只是我们无从知晓，因为他们没有把这种聪明表现出来。

Fridman 复述了这幅图景：地球是一个由各种难度的问题构成的空间，智能体（agent）在其中游走，只有与某个问题耦合，智能才会显现出来。Chollet 表示同意。智能是强大的问题求解能力与一个重要问题的相遇。没有问题，智能就无从表达，剩下的只是潜力，比如大脑运转的速度，或者一个智商数字，而这些本身也只是数字。

被问到如何定义智能时，Chollet 说，所有智能都是专门化的，人类智能也不例外，尽管每个系统都或多或少带有一定的通用性。人类专门化于人类的经验。这体现在先天的先验知识上，比如对智能体、目标导向行为、视觉上的物体性和时间的理解；也体现在我们的学习方式上：语言之所以学得轻松，是因为我们天生就是为了学会它而被设定的。同样的专门化，也让我们在其他问题上无能为力。我们并不是为超长期的问题设计的：一生很短，就算在一生之内，我们也很难想象自己五到十年之后的样子。工作记忆很小。大规模问题不是靠一个大脑解决的。我们有文明：这是一个解决问题的系统，它本身也是一种人工智能，运行在由许多大脑、书籍、计算机、互联网和各种机构组成的网络之上。作为一种机构，计算机科学是超人的。作为一个系统，科学就是一种超人的问题求解算法。

Fridman 把视野拉远，谈到细菌、行星、星系，以及谷歌数以百万计的设备，问规模是怎样进入这个定义的。Chollet 批评的，是智能爆炸论调里常见的那种层级式卡通图：金字塔顶端是一个大脑，身体听从指令，环境被它操控。真实的智能体并非如此。大脑和身体之间、神经系统和身体之间，并没有清晰的界线，必须把整个动物当作一个整体来看。只要观察任何一种动物足够久，就会发现它的很大一部分智能都外化在了外部：笔记、程序、书籍、计算机、其他人类、语言。几乎找不到什么硬性限制，能决定一个智能体是什么。关键在于语境。那么，在某个具体任务上，能力能否仍然呈指数级增长？如果把类别划得足够窄，在一定程度上也许可以。他说，我们不必去猜，因为现实世界里已经有一个现成的递归自我改进系统：科学。

科学感知世界，逐步理解世界，并据此采取行动。它是超人的，也在递归自我改进：知识变成技术，技术造出更好的计算机和仪器，仪器又加快了科学。Chollet 说，这是我们手上最接近递归自我改进超人 AI 的东西，也是我们推测类科学的超人系统会如何运作的依据。递归自我改进是真实存在的，“爆炸”却不存在，因为没有哪个系统是孤立存在的。调整一个部件，另一个部件就会成为瓶颈。科学进步并没有在爆炸。你看到的是一个系统消耗着指数增长的资源，产出却是线性的。那些声称科学进步呈指数级的人，看的其实是资源消耗的指标，比如发表的论文数和申请的专利数，而这些指标大多只反映有多少人在做科学。真正应该看的，是产生了多少知识，以及所解决问题的范围和重要性。

Michael Nielsen 尝试过量化这件事。他整理了大约 100 到 150 年间的一系列发现，请一个专家小组给每项发现的重要性打分，然后画出重要性在时间上的分布密度。如果科学的产出是指数级的，这个密度就应该呈指数上升。可图形非常平坦，物理、生物、医学都是如此。这个直觉也说得通：110 年前的物理学正处在剧烈变化的时代；160 年前，马匹正在被取代，电力刚刚出现。今天的节奏也很快，但若说科学和技术现在的推进速度远远快过 50 或 100 年前，就不公平了。Chollet 的解读是：一个领域推进得越深，再往前走就呈指数级地更难。信息论的早期开拓者摘的是低垂的果实；下一代人要花更大力气，去挖掘体量更小的发现，要产生同样的影响，需要的人手多得多。科学家、工程师和算力（compute）都在指数级增长。资源消耗是指数级的，重要性却是线性的。即便是计算机、互联网这样递归自我改进的循环，为得到同样多的问题求解成果，也要消耗多得多的资源。

Fridman 指出，深度学习也有同样的规律：单篇论文的重要性甚至可能在下降，论文数量却在爆炸式增长，于是总体看起来是线性的。Chollet 不认为这是巧合。资源消耗会动态调整，以维持线性进展，因为学界就是这样期待的：投入少一点，唾手可得的果实就会出现，等着别人去摘，这就形成了发现的市场。他说，指数级的进步会引发指数级的摩擦。他打了个比方：有一种装置，能测量自己的加速度，并按比例输出更多动力。把它扔下去，空气阻力会把它锁定在一个终速；拿走空气，另一个瓶颈，哪怕是光速，又会出现。在科学里，这些摩擦包括：研究者越多，沟通成本越高；要学量子力学，得先消化海量的前人知识，才能有所贡献；便宜的实验已经做完了，剩下的实验需要的设备贵得呈指数级增长。他强调，这不是数学证明。他反驳的是一种主流叙事，而对许多人来说，那种叙事与其说是科学主张，不如说更像一套信仰和身份认同，几乎等同于说上帝不存在。Fridman 和 Chollet 都认为，反驳往往来自那些依附于这个故事的人，较少来自亲手造过所谓 AI 的人。Chollet 认为这是个好故事，它很像宗教神话：有一个终极事件，世界被毁灭，然后出现新的秩序。我们需要的，是那种时间尺度超出我们预测能力的故事。

换个不那么末日论的问题：会不会有那么一天，让他忍不住感叹一声“我的天”，觉得接近人类水平的智能已经出现？Chollet 的惊讶其实在 2013 和 2014 年前后就发生过，那时这个领域还没有弄清楚深度学习到底能做什么、不能做什么。当时感觉潜力无限，之后边界才逐渐收窄。他从来不认为深度学习是没有限制的。真正令人震惊的，是它居然能奏效，而且计算机视觉进步得如此之快。他认为我们离人类水平还很远，但也没有理由说将来不会在某个时候实现。他也不喜欢“人类水平”这个说法：它预设了一条一维的坐标轴，而智能是多维的。能力强和像人，是两回事。你可以造出非常先进却一点也不像人的智能体，也可以造出很像人却远谈不上先进的智能体。

Fridman 请 Chollet 像讲维基百科那样，说说 Keras 的历史，以及它周边的框架。Chollet 在 2015 年 2 月开始这个项目，在发布当天才定下名字。那时的社区大概不到 10,000 人。Caffe 主要用 C++ 写，比 Theano 流行得多，是大家做计算机视觉时用的工具，而当时计算机视觉是主流问题。Chollet 本人对循环网络（RNN）感兴趣，那在当时还是个小众方向，要到 2016 年前后才真正火起来。他用过 Torch 7，在 Kaggle 竞赛里用过 Theano，也用过 Caffe，但没有现成的、可以复用的开源（open source）LSTM。于是他决定用 Python 自己写一个，主要围绕 LSTM 和卷积网络，并且能把两者组合在同一个库里。一个不那么显而易见的决定，是用 Python 代码来定义模型，而当时的主流做法，比如 Caffe 和 Pylearn2，都是用 YAML 之类的静态配置文件。他从 scikit-learn 那里借鉴了易用性：把复杂的训练循环压缩成一次“fit”调用。有人说这样会把细节藏起来。他说，这恰恰是重点。Keras 在 2015 年 3 月发布，正好赶上大家对 RNN 产生兴趣的时候，从一开始就在增长。

半年后，他加入了谷歌，所做的工作和 Keras 无关，在一个图像分类研究团队里。他很快接触到了内部尚未公开的早期 TensorFlow，觉得它像是改进版的 Theano，因此知道自己迟早得把 Keras 移植过去。作为刚入职的谷歌员工，他一开始没有时间顾及这件事，直到 2015 年 11 月 TensorFlow 开源，才让他警觉起来。12 月，他重构了代码：把后端相关的功能集中到一个模块里，让同一套代码既能跑在 TensorFlow 上，也能跑在 Theano 上。接下来一年里，Theano 仍是默认后端：它更容易用，bug 更少，在 RNN 上也快得多，直到 TensorFlow 反超。整个 2016 年，Keras 仍然只是他的业余项目。大约 10 月，负责 TensorFlow 的 Rajat Monga 来到 Chollet 所在的大楼。当时 Chollet 正在做视觉方面的工作，还和 Christian Szegedy 合作研究用深度学习做定理证明，Monga 邀请他过去待一个季度。他开始把 Keras 的 API 更紧密地整合进 TensorFlow，先是 contrib 版本，然后进入了核心代码。他之后再也没有真正回到原来的研究团队。

谈到 TensorFlow 2.0，经过一年半的工作，Chollet 很兴奋：Keras 不再只是一个简单的高层接口，一旦你想要灵活性，它就会碍事。现在有了一整套的选择：可以子类化模型，用 eager execution 写训练循环，调试也很容易；如果需要，也能回到经典的 fit 工作流，这适合数据科学家的习惯。同一套 API 覆盖了从研究人员到工程师的各类用户，并与 TensorFlow Lite 和云端部署打通。Fridman 提到，一些最好的软件是一两个人写的，而 Keras 如今身处一个庞大的 TensorFlow 组织之中。Chollet 在谷歌的大部分时间，花在设计讨论、设计文档和评审会议上，这些和写代码同样重要，因为用户群体极其多样：有小型和大型的生产环境，有创业公司，也有研究人员。

他说，做设计决定，就是在可维护、可扩展的前提下，用最简单的方式满足一组约束。你不会希望每增加一种能力，就多出一个新参数。你要的是模块化、分层的 API，表面积尽量小，并且反映领域专家本来的思考方式。专家读文档时，脑子里已经有了一套概念，他们会想尽快把这些概念对应到 API 上。所以要把这种认知负担降到最低。API 不应该自我指涉，也不应该泄露实现细节，只应使用人们本来就能理解的领域概念。至于 TensorFlow 3.0，这些决定甚至不由他来做。他自己更感兴趣的，是比 Keras 更高层的东西：超参数调优、AutoML。未来不是一盒乐高积木再加一个“fit”，更像是一个很擅长搭乐高的孩子，手里再加一盒乐高：他会先看数据，然后去优化你交给它的目标。

Chollet 说，深度学习模型是从输入空间到输出空间的巨大参数化、可微、连续的映射，用梯度下降训练，基本上是逐点进行的，也就是一种连续的几何形变。正因为如此，网络只能理解经验空间中与它见过的样本非常接近的那些点，最多只能做插值。因此，训练需要对输入—输出空间进行密集采样，而这在驾驶或机器人这类复杂问题上代价很高，哪怕只是视觉的一个子集，也需要数百万个样本，而且它依然只能处理与见过的东西相近的情况。与之相对的是符号规则。一个几行就能写完的排序算法，用两层嵌套循环，就能处理任何列表，因为它是抽象的，而不是逐点的映射。如果用网络去学排序，你就只能局限于这一个特定列表排好序之后的样子。他认为，未来会是两者的结合。今天有效的 AI 系统其实已经这么做了：机器人技术大多是基于模型的规划，深度学习负责感知，或者作为一种模糊的直觉，被注入基于规则的流程中。自动驾驶汽车也不是一个大型的端到端网络，那需要对驾驶经验做密集采样，不现实。汽车主要是手写的软件，运行在对周围环境的显式三维模型之上，通过深度学习模块与世界打交道，这些模块把原始传感器数据转换成符号系统能够使用的东西。

Fridman 进一步追问车道保持这种更窄的端到端场景。Chollet 认为这是可以做到的，只要搜索空间足够丰富、采样足够密集，网络能学到的东西在理论上就没有硬性上限。不过，“密集”可能意味着 10,000 个样本，也可能意味着上万亿个。图灵测试式的对话更多是在骗过人的感知，并不能衡量智能；模仿智能体的行为，也不等于真正的智能行为。一段 20 分钟、不断岔开话题的对话，用深度学习来做会非常有挑战，但并非不可能。实际上，深度学习很适合感知，也适合那些无法自然地用手写规则或穷举搜索来解决的问题。他说，物理、三维结构和物体之间的关系，总归可以用深度学习解决，只是效率极低。相比于记住“在这种情况下会发生那种事”，一个显式的抽象模型是压缩得远为紧凑的表示。自动生成这类程序，就是程序合成，而我们今天其实还不知道怎么做。它本质上是图搜索，受限于现有的搜索算法。他个人认为遗传算法和遗传编程很有前景。

如果说深度学习处在 2019 年，那程序合成就相当于 1990 年代：对问题有了基本认识，但从事的人很少，真正的应用也不多。他知道的唯一一个真实应用，是 Excel 里的 Flash Fill，它能从几个示例中学会一个很小的格式化程序。甚至这个 1990 年代的类比都可能过于乐观，因为那时人们已经理解了反向传播，也就是深度学习的引擎，只是还没有看到它的潜力。程序合成还没有找到自己的引擎。他认为，基于规则模型的离散搜索，将是下个世纪 AI 研究的基石。这并不意味着要放弃深度学习，它在有大量数据时做灵活的模式识别，依然极其有用。两者会以越来越自动化的方式结合起来。

Chollet 曾在推特上说，大约 10,000 篇深度学习论文，其实都是在把某个具体任务的先验知识硬编码进神经网络架构，然后报告一个性能提升。机器学习本应是研究泛化的科学，即能在不同数据集和任务之间复用的知识。如果只盯着一个数据集，把任务知识塞进架构里，它的信息量并不比训练一个网络然后宣布“这组权重效果很好”更高。David Ha 关于“与权重无关的神经网络”的论文把这一点说得很透：即便没有权重，一个架构本身也已经编码了关于任务的知识。以 bAbI 为例，这是一个问答数据集，由一个按模板生成题目的算法产生。一个直接编码了这个模板的网络，可以达到接近 100% 的准确率，却说明不了问答能力的一般情况。他补充说，那些真正做大规模部署的人，在标注流水线上投入很大，只是你看不到相关的论文。

Fridman 提到 Rich Sutton 的《苦涩的教训》：70 年的 AI 研究表明，能够利用算力的通用方法最终会胜出。Chollet 认为 Sutton 对过去这 70 年的判断是对的。许多手工把任务知识硬编码进去的论文，并没有产生长期影响；简单、通用、不依赖技巧的系统才会，而值得专注的那种简单，就是能搭上摩尔定律算力增长的东西。但他不确定这个判断能否延续到接下来的 70 年。它是否成立，取决于语境，而语境正在变化。摩尔定律也许不再像从前那样适用。在一个系统的某个方面取得突破，瓶颈就会转移到别处。一旦算力近乎无限，数据就会成为瓶颈，他认为我们已经在进入这样的阶段，系统大到数据质量和规模占据了主导。在那样的环境里，《苦涩的教训》将不再成立。研究重心会从算力规模转向数据效率。无监督学习和强化学习（reinforcement learning）是框架，而不是具体技术；“深度 RL”仍然用的是巨大的参数化模型，逐点训练。它的优势在于标注的密度更高：学习一个潜在空间，再把稀疏的标签映射进去。这是个好主意，应该能带来渐进式的标注数据效率提升，但并不会改变它所依赖的数据类型。

Chollet 确实对 AI 有所担忧，而且这些担忧并不是科幻。深度学习让大规模监控成为可能：人脸识别、对每个人的数据追踪、身份识别和预测。他说，中国这样的极权国家正在积极推进这些事情。更微妙的担忧是，人们的生活越来越多地转移到线上，形成了一层由信息消费和信息生产构成的数字足迹。如果你掌握了这些数据，并控制了信息流（社交网络、推荐系统），就能对人的行为建立一个强化回路。在时间 T 观察一个人的心智状态，预测他对不同内容会有什么反应，然后把能把他推向某个方向的内容推给他，而且持续地、实时地、以群体规模来做。即使是今天的 AI，加上互联网，也让大规模操纵行为和心理控制成为真实的可能。把人的心智当成一个程序来看，它的可利用漏洞面非常大。政治立场和身份认同是绑在一起的。控制了信息流，你就只需要展示那些以某种方式框定世界的新闻。更巧妙的做法，是制造发帖的动机：如果你希望某种观点得到强化，就把它推给喜欢它的人；如果你希望它被放弃，就把它推给会攻击它的反对者，这样这个人下次就会多想一想，甚至开始怀疑。

这些杠杆已经被算法在没有明确政治目的的情况下运转着。如果某个极权政府接管了这些平台，情况只会更糟。即便没有任何这样的意图，眼下已经令人担忧的是，它的目标是互动。这听起来无害。能最大程度引发互动的内容，往往对公共讨论并不健康。假新闻的点击量天然高过真新闻，道理不难懂：它用不着顾及现实，故事想编得多离奇就能编多离奇。Fridman 提到，可以作为目标函数的选项空间很大，既可以用来教育人，也可以用来制造对立。Chollet 对公司即便出于善意、却明确决定去操纵舆论的做法，会感到不舒服，他认为这是一种极权式的思维。他想要的东西，他也承认不太现实，是可配置：让用户自己决定想要以什么方式被影响。比如在 YouTube 或推特上，也许应该最大化的是对某个话题的学习和信息准确性，而不是互动量。这些算法正日益成为通往信息化世界的接口，每个人都应该按照自己的条件去接入。问题主要出在界面设计上。技术应该做导师、教练或助手，而不是你的老板。如果你觉得自己正被操纵，你应该能够换一套算法。

在实际中，公众的认识依然很薄弱。人们并不觉得，一个副作用已经很糟糕的信息流有什么问题。应该停止单纯地追求互动和热度，把每个用户的目标也考虑进来。他说，推特的话题推荐往往是最烂的东西，是最低公分母式的内容，因为它们优化的是热度。把整套算法的旋钮全部暴露出来并不现实，应该让用户自己来定义目标函数。Spotify 式的逐条点赞或点踩，在一定程度上有用，但他持保留态度：系统会把你的选择和其他所有人的选择联系起来，对大众化的普通用户还行，对其他人则效率低下，而且它依然不让你设定算法究竟在优化什么。提高认识，是个开始。

就 Chollet 而言，长期的生存性风险仍然要通过这些接口来理解。世界越来越由信息构成，算法就是接口，而总会有人控制它们：追求利润或其他目标的大公司，以及把算法当作控制工具的政府。他不相信《终结者》式的机器人，也不认为奇点一定会到来。失去对那些能够左右大众行为的算法的控制，就足以像核战争那样伤害我们自己。他不会去做 50 年或 100 年的预测。眼下具体的危险包括推荐系统的副作用和算法偏见，因为越来越多的决策过程被交给了手工设计或学习出来的系统，而这些系统几乎没有监督。社会正在重组为一个自动化的信息处理型社会。眼下最好的做法是提高认识，而他认为这一点已经见效：三年前几乎没有人谈算法偏见，现在公司和国会里的人都在谈，尽管未必总是认真的。至于如何把人类价值观编码进推荐系统，他认为这会落到目标函数工程上。眼下损失函数之所以显得粗糙，是因为真正困难的是其他所有环节。随着其他环节逐步自动化，人的注意力会往上移，移到驱动学习系统的那一层。损失函数工程大概会成为一个正式的职位。在这幅图景里，Keras 是你收集的数据与商业目标之间的接口；工程师的工作，就是把这些目标表达成一个损失函数，再加上一组约束。

造出通用人工智能，会让他兴奋、害怕，还是觉得无聊？智能永远不可能是完全通用的，最多只有一定程度的通用性，而且总是伴随着专门化，就像人类专门化于人类的经验一样。他从来不确定，那些说 AGI 的人指的是非常聪明的 AI，比今天的人类更聪明，还是类人的智能，这两者是不同的东西。类人的 AI 在智识上令人兴奋，与其说是因为它能做什么，不如说是因为，要造出它，就意味着我们真正理解了人类的智能。这样的系统需要情绪和意识，而一个智能系统通常并不需要这些。作为超人的问题解决者，科学两者都不需要。他认为，意识和情绪处于同一个谱系上：它们是主观体验的组成部分，目的是引导行为的生成。人类和动物的智能，是为了生成行为而进化出来的，包括在社会情境中生成行为，所以我们需要这些特性。一个在不同情境下发展出来的人工系统，可能永远不需要它们，也可能永远不会有意识。意识不会必然从足够聪明的信息处理中自行出现。它是心智的一个特性；如果你没有显式地把它实现出来，它就不存在。要获得类人的智能，需要一个身体，但不一定是物理身体，一个逼真的模拟就够了；而且它只能在类人的情境中产生，也就是和其他人类一起，这样才能证明它是类人的。

Chollet 说，衡量智能要回答两个问题：有多聪明，以及有多像人，也就是量级和方向，好比一个向量的模和它的方向角。他不喜欢图灵测试，因为它太偷懒：它完全绕过了对智能的定义和测量，把判断交给一个人类评委，这是彻底的偷懒。要衡量类人程度，就让智能体和其他人类互动，并把它的行为和人类本来会做的事情进行对比；那些人不一定是评委。用国际象棋、围棋或 Dota 的得分来衡量技能，是衡量量级的错误基准测试（benchmark）。你总能在某个具体任务上击败人类。人类技能之所以了不起，是因为它是在约束之下展现的：一生的时间，一个身体。去掉这些语境，给无限的训练数据和不受限制的硬件，那么任意某项技能都说明不了智能。你必须严格地定义智能。他的定义是：智能是把经验转化为可泛化程序的效率，也就是把经验空间的一部分采样，变成处理更大一块经验空间的能力。如果你能控制两件事，技能就可以作为代理指标：经验的数量和先验知识。给两个智能体相同的先验和相同的经验，那么学到的程序覆盖了更多经验空间的那个，就更聪明。按照这个定义，智能必然是专门化的，因为经验空间、它的各个部分、先验和经验本身，共同界定了语境。你永远无法看到经验空间的全貌。如果空间足够大，专门化也可能让人觉得它是通用的。人类智能常被称为通用的，实际上它相当专门化。

人类出生时就具备的很多先天先验，我们其实已经理解了不少。哈佛大学的 Elisabeth Spelke 几十年来一直在研究她所说的核心知识：物体性、智能体、目标导向的行为、时间和数量。Chollet 断断续续做了几年一项基准测试，它以这些相同的先验为前提，生成对智能体来说全新的任务，并且具有可解释性，人们可以在同样的测试上公平地参与。设计上有一条限制：练习再多，也不会提高分数。诀窍在于，把先验明确地写出来，为每个任务生成全新的经验样本，并且绝不重复使用智能体见过的任务。他把这称为一个有趣的业余项目，而不是突破，ImageNet 当年也是一个有趣的业余项目。用计算的方式去编码这些先验很难，视觉科学的研究已经表明了这一点。为什么先天的知识集合这么小？我们生来就知道的任何东西，都必须经由进化写进 DNA。DNA 是一种带宽很低的介质，写入又慢又贵：需要进化压力，层级越高的信息越需要更长的时间，而且环境中的事实必须在那么长的时间里保持稳定，大约要几百万年。所以我们或许对蛇的形状、或者什么样的东西算是脸，有视觉先验，但我们不可能在 DNA 里编码男女面孔之间的视觉差异，因为这种区别出现得太晚了。因此，这些先天知识几乎都与大猿相通，它并不是让我们与众不同的地方。与大脑相关的那部分 DNA，大约只有几兆字节的信息量。对 Chollet 而言，这种稀缺反而让他对一个考察强泛化和抽象能力的基准测试抱有希望。

AI 寒冬会来吗？Chollet 说，不会是全面的寒冬。寒冬出现，是因为我们对 AI 能力的宣传，与它实际能做到的事情之间存在很大的落差。深度学习在很多问题上都在创造大量价值，而我们才刚刚开始把它用起来。令人担心的是炒作：人们夸大能力，给系统披上神秘的、类似大脑的光环，还夸大进展的速度。论文数量呈指数增长，看上去像是在加速，其实只是更多的人进入了这个领域。如果你为一家创业公司或一个实验室募资，你可能会告诉投资人，深度学习就像大脑一样，它会吞下自动驾驶和机器人领域，通用人工智能会在十到十五年内到来。这些都不是真的。每当一个决策者相信这些话，就相当于在借信用卡债，只不过借的是信任。你也许能募到很多钱，但这会给整个领域造成伤害。

自动驾驶汽车就是一个典型例子。他指出，几乎每家公司都承诺过 2021 或 2022 年实现完全自动驾驶。大约在 2015 年前后，融资的人向公众和决策者保证，L5 级自动驾驶会在 2016、2017、2018 年到来；现在已经是 2019 年，我们还在等。他担心的是投入数十亿美元之后的那次会议：我们有自动驾驶汽车吗？没有。我们赚到钱了吗？也没有。反弹可能会很猛烈，还会波及其他行业。这就是 AI 寒冬：当人们不再相信承诺，因为承诺第一次就被证明是谎言，于是出现反弹。汽车领域多少会出现这种情况。不过他仍然不认为会出现全面的寒冬，因为这项技术确实创造了巨大的实际价值。反弹是会有的。有些创业公司把通用人工智能当成免费午餐来卖：只要智商越过某个门槛，就能获得无限的价值。投资人买了账，他们愿意等上十年或十五年；什么也没发生；人的记忆很短，下一代投资人也不会在意。

Fridman 曾用诗意的语言谈论 AGI，于是收到了不少长篇宣言，来信的人说自己已经造出了 AGI，或者知道怎么造。Chollet 收到的更多。这些文字常常读起来像是 AI 生成的，像是一个 Transformer 在写民科论文，看不到任何递归自我改进的迹象。你怎么知道它们不是有所发现？又怎样才能不在基准测试上变得狭隘？Chollet 说，智能不存在于抽象之中，它必须被应用。如果你声称自己有一个智能系统，它就应该附带一个基准测试，哪怕是一个全新的基准，而且应该展示出某种能力，哪怕是某种形式的价值，哪怕是人工的价值。你不需要去在意哪些民科论文暗藏潜力。如果一种新技术真的在创造价值，它很快就会显现出来，因为它正在产生影响。真正的分界线在于无效与有用之间。科学里充满了有趣的“万物理论”，它们最后全都毫无用处。你不需要去分辨哪些有趣的理论有用、哪些没用。你需要看的，是它是否在对别的东西产生影响。

同样的道理也适用于量子力学、弦理论和全息原理。“我们做深度学习，是因为它管用。”在它开始管用之前，研究神经网络的人被视为民科，几乎没有人愿意待在这个领域。现在它管用了，这正是它有价值的原因。这里衡量的是有效性，正确与否倒是其次。但从科学的运作方式来看，个人仍然要承受被当作民科的那些年：Yoshua Bengio 和 Yann LeCun 就是在被当作民科的情况下坚持下来的。如果你相信自己手上有东西，就坚持下去，看看结果。Fridman 说，这是个漂亮的结尾。