Jay McClelland 谈思维如何从神经网络中涌现

原标题Jay McClelland on How Thought Emerges From Neural Networks

这位斯坦福大学的认知科学家,与 Lex Fridman 聊了联结主义(connectionism)、反向传播(backpropagation)、David Rumelhart,以及为什么直觉会先发现某些东西,之后逻辑才去证明它。

JMJay McClelland嘉宾
频道
Lex Fridman Podcast
发布
2021年9月20日
视频
2:31:57
阅读
38 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Jay McClelland 对 Lex Fridman 说,神经网络最美的地方,在于它把生物学与思维的谜题连在了一起。对话从笛卡尔和达尔文讲起,经过 PDP(并行分布式处理)研究小组、David Rumelhart 的语义痴呆(semantic dementia)、杰弗里·辛顿(Geoffrey Hinton)“别再照抄生物学”的建议,一直谈到知识存在于连接之中而非字典里这一主张。McClelland 的主线是涌现:高层次的心智是真实的,它像一座沙丘,会随风流动、重新成形,并不是存放在某处的对象;而意义,是我们在某个由人与时间构成的局部“口袋”里一起造出来的。

  1. 1辛顿告诉圣迭戈的这个团队,他们的思路搞反了。不要去生物学里找突触规则,先定义问题,再弄清楚调整连接权重怎样能解决它。正是这个转向,引导 Rumelhart 提出了广义 delta 规则,后来它被称为反向传播。
  2. 2在联结主义系统里,没有一本单独的字典。代表 time 这个词的单元之所以是它,只因为它与拼出这个词的字母单元相连;这个词并没有被写在模型内部的任何地方。
  3. 3Rumelhart 的阅读交互模型之所以奏效,是因为每一层分析都依赖于其他所有层次。自上而下与自下而上的假设同时更新,直到一种知觉涌现出来。
  4. 4McClelland 认为,人类心智最了不起的成就之一,是发明了能够放大思维力量的理想化系统:三角形、数字以及数学的其余部分,都是用来探索理想世界的工具。这些世界常常与现实相关,但并不必然如此。
  5. 5公园长椅上刻着的一句庞加莱的话,成了他的研究座右铭:证明靠逻辑,发现靠直觉。洞见是一组约束条件形成的星丛,它让心智落入一个从未待过的状态。
  6. 6Nisbett 和 Wilson 的观点至今仍指导着他:我们对自身行为的解释,往往是事后的合理化说明,而非因果过程的直接读数;甚至内省本身,在一定程度上也是一种文化实践。
全文

按章节阅读完整文稿

01

神经网络把他从笛卡尔的梦里唤醒:思维并不在身体之外

斯坦福大学的认知科学家 Jay McClelland 是神经网络这一学术传统的核心人物。他与 Lex Fridman 的对话开场便谈起,几十年来,无论生物的还是人工的这些系统,始终让他着迷的是什么。他说,最根本的一点,是它们让我们能够把生物学与思维的谜题连在一起。他在 1960 年代末、1970 年代初进入这个领域时,认知心理学刚刚确立了这个名号。1967 年一本名为《Cognitive Psychology》的教材认为,神经系统只是边缘性的兴趣,研究它不会告诉我们关于心智的任何事情。McClelland 并不同意。人是一种物理的存在,尘归尘,土归土,心智却不知怎样从这样的存在中涌现了出来。

他常常谈起如何从笛卡尔的梦中醒来。笛卡尔在凡尔赛的花园里散步,踩到一块石头,旁边的一尊雕像动了起来;他再踩一块,另一尊雕像也动了。园丁向他解释了其中的水力系统:踩压改变了水流方向,水灌进雕像,雕像就动了。笛卡尔由此建立了动物行为的机械理论:身体里那些不输送血液的纤维,就像一根根细小的液压管,受压后把压力传到别处,产生动作。他认为人也有这样一具动物般的身体,但还必须有某种神圣的东西降临,被安放到人身上,人才具备思考的能力。物理世界包括正在运作的身体,却不包括思想。

于是,生理学研究感觉与运动系统,也就是刺激神经元时能够直接测量到的东西;认知则关注抽象的算法,它们被放在另一套语言里。McClelland 在本科时学过生理机制,等到读博一年级坐进认知心理学的课堂时,他心里想:等一下,这一切明明都是生物的。Lex 追问,这是不是有点神奇,仿佛一点生物学就能带出人类经验的全部美感。McClelland 说,这既明显,又不明显。对他来说,神奇之处在于,大自然怎么能够产生出具备我们这些能力的有机体。

02

语言是集体智能的工具,不是一次基因意外

他接着谈到达尔文。达尔文很早就知道,当时摆在面前的各种想法,没有一个能解释进化是怎样运作的。他花了多年时间收集那些他尚未理解的线索,画了一只又一只彼此略有差异的鸟。想通之后,他却被眼睛那样复杂的器官困扰,甚至做噩梦,担心“这样的器官不可能从无引导的过程中产生”这一论证。他迟迟没有发表,部分原因在于他害怕自己的想法,他甚至不认为它们可能是真的。到了二十世纪,笛卡尔的图景开始显得有些站不住脚:猿、黑猩猩和倭黑猩猩,在某些方面都相当聪明。

人们仍在找遗留下来的差别。有人主张,猴子的大脑里没有海马体,只有人类才有。十九世纪末,赫胥黎(Thomas Huxley)不得不当众做一场手术,才证明黑猩猩的大脑里也有海马体。物种之间的连贯,也是在支持一种看法:人类完全是自然界的产物。视觉科学更早就接受了这种连贯,从眼睛到最初几个皮层区域,猴子的视觉通路与人类的极为相似。Lex 说,这种跳跃似乎发生在认知这一侧。乔姆斯基(Chomsky)认为,大约十万年前的一次基因偶然,让某种古人类获得了一项调整,语言由此产生,而语言随后把人类与其他所有动物区分开来。

McClelland 认为,关于语言的重要性,确实有很多道理,但语言是与社会性、彼此投入,以及组织世界理解的丰富机制一道出现的,语言只是接入了这些机制。语言是集体智能的工具,而集体能力的核心才是更根本的东西。进化也并不是人们想象中那条平缓的、延续 5 亿年的斜坡。化石记录显示,数亿年的停滞之后,会出现一次在地质尺度上十分突然的变化,可能只有一百万年,甚至只有一千万年。在心智的各个阶段上,他也觉得“间断平衡”(punctuated equilibrium)很贴切:四岁的孩子和七岁的孩子,思考方式天差地别,皮亚杰(Piaget)的阶段理论正是想捕捉这一点。洞见、过渡、经过多年经验后出现的新阶段,复杂系统研究为此有一套语言,它把进化生物学、发育生物学和认知发展连在了一起。

谜题的另一半在于装配,而不只是学习。让一个成品大脑投入世界,已经足够不可思议;而从胚胎到神经通路,学习机制本身是如何被建造出来的,从工程角度看甚至更难。脑类器官的研究让他们两人都觉得近乎离谱:培育出大量微型大脑,观察一套机制如何从 DNA 出发自我组装。生物程序产生的是一个软乎乎的系统,它足够稳健,能够在不可预测的世界里学习,并学会大量能帮助生存的东西。McClelland 说,从大脑到心智,整条路径看起来相当连续。

03

1977 年的一次校园漫步,让他开始把心智当作网络来想

1974 年,McClelland 获得助理教授职位,来到加州大学圣迭戈分校(UCSD)。David Rumelhart 和 Don Norman 刚刚出版了《Explorations in Cognition》,书中各章以完全抽象、非生物学的方式,探讨关于心智的有趣问题。他喜欢那种轻盈的感觉,也喜欢 Norman 那种玩味式探索的精神,但他仍在努力从神经元走向认知。在一次会议上,他听到工程师出身、后来转做心理学教授的 James Anderson 用线性代数构建了知觉、分类和记忆的神经网络模型。这让他大受震撼:那是一个模拟神经元的模型,能够记忆、回忆、识别,而不只是一套抽象的逐步算法。他说,1977 年他走过校园时,感觉自己像走在通往大马士革路上的圣保罗。如果把心智当作神经网络来思考,那么他一直在问的那些关于心智的问题,就有可能得到回答。

也有其他人感受到了同样的兴奋:Anderson、从 1960 年代起就在写神经网络的 Steve Grossberg,以及杰弗里·辛顿(Geoffrey Hinton)。辛顿的博士论文投进了 Rumelhart 和 Norman 负责管理的博士后申请库;Rumelhart 读后非常兴奋,辛顿因此成为由他们这笔慷慨经费资助的最早一批博士后之一。Paul Smolensky 也是其中之一。1979 年或 1980 年,辛顿和 Anderson 在 UCSD 组织了一场会议,名为“联想记忆的并行模型”(Parallel Models of Associative Memory),把所有这样思考的人都聚到了一起。在索尔克研究所的弗朗西斯·克里克(Francis Crick)从辛顿那里听说了这个小组,辛顿在英国人当中素以聪明著称,克里克也来了。

Lex 问,在当时,“并行”几乎等同于他们对神经网络的思考方式吗?McClelland 说,每个神经元都是一个独立的计算单元:它收集数据、整合数据,然后产生结果。大脑里大约有一千亿个这样的小型计算单元,它们都能同时工作,而不是由一个中央处理器一步一步地嘀嗒运行。在理论计算机科学看来,这是一种革命性的计算思路,后者分析的是单台机器上的顺序算法。卷积神经网络把这幅图景具体化:从类似感光细胞的像素阵列开始,经过成千上万个类神经元单元的层层抽象,最终给出分类。睁开眼睛看到一只杯子、一部手机、一个瓶子,如今这些系统已经能做到。每个单元只贡献一点点。这就是并行分布式处理,而那正是令人兴奋之处:从简单的东西出发,再层层叠加抽象,认知中那些美妙的特性或许就会涌现出来。

04

Rumelhart 需要一个让多重约束同时相互影响的系统

Rumelhart 出身于南达科他州西部一个很小的镇子。他的母亲在图书馆工作,父亲在报社当编辑。兄弟四人一起长大,在体育和益智游戏上彼此较劲,数独和国际象棋都在其中。他年纪很轻就进入南达科他大学,主修数学,不知为何对心理学也产生了兴趣。斯坦福大学的数学心理学项目录取了他。这个领域靠的是方程,并非模拟:先设定原理,再推导预测,然后求出受试者第七次作答正确的概率。这是心理学里地位很高的一个分支,斯坦福则是它的重镇。1967 年,他成为 UCSD 新成立的心理学系最早的几位助理教授之一。等到七年后 McClelland 到来时,Rumelhart 仍在做数学建模,不过研究兴趣已经转向认知,转向一个至今仍是核心的问题:理解到底是什么意思,如果我们真的理解了,又怎样知道?

他想要的是这样的机器:听完几句话,就能产生洞见。他最爱用的一个例子是:Margie 坐在门前的台阶上,听到熟悉的冰淇淋车音乐,想起了她的生日钱,于是跑回屋里。Margie 在做什么?为什么这么做?最自然的解读是:冰淇淋车快来了,她喜欢冰淇淋,买冰淇淋要钱,所以她跑进屋去拿钱。要把这些环节连起来,中间需要大量推理。Rumelhart 曾尝试用传统的老式人工智能(good old fashioned AI)来建立语言模型,以及像“有钱”这类内容的模型,依靠形式逻辑和知识库。到了 1970 年代末,这一范式已经给不出答案。他开始认为,我们需要的是这样一类系统:多个同时存在的约束能够彼此影响。

他写了一篇论文,McClelland 起初对它不以为然,后来却怎么也甩不掉,这篇论文就是《An Interactive Model of Reading》(阅读的交互模型)。从纸面上获取的每一层信息,都依赖于其他所有层次:像素、字母、单词,以及作者想要传达的观念。起初 Rumelhart 设想了一组“专家”:一位负责从像素构造线条,一位负责字母,一位负责单词,一位负责词义,他们都盯着数据,并在其他层次上更新各自的假设。词层的专家可以告诉字母层的专家:这个位置应该是一个 T,因为这个词很可能是“the”。自下而上的特征专家如果也同意,你就看见了一个 T。自上而下与自下而上,所有层次同时进行,这是一个双向的并行过程,但依然具有层级结构。读过辛顿的博士论文、听过 Anderson 的模型之后,Rumelhart 意识到,这些专家可以换成类似神经元的单元,由连接权重来完成它们的工作。

他和 McClelland 一起建立了字母知觉的交互激活模型(interactive activation model):从像素级输入、线段特征,到字母和单词,全部由类神经元单元构成,单元之间通过权重相连。代表单词 time 的单元,与第一位的 T 单元、第二位的 I 单元相连,依此类推,而且这些连接是双向的。如果先有一个“可能是 time”的先验知识,它就会去激活相应的字母和特征;没有这种先验,过程就只能自下而上地开始。信息先到达哪里,方向就由哪里决定。上下文与特征同时到位,就能收敛为一个涌现的知觉。McClelland 说,这项工作让他们两人彻底相信,神经网络的思维方式能够回答他们作为认知心理学家所关心的问题。其中的算法细节只是细节。能用这种方式走得很远,这一想法本身就意义深远。

05

联结主义认为,知识藏在权重里,而不在存储的字典中

Lex 问,McClelland 喜不喜欢“联结主义”(connectionism)这个说法。他觉得这个词有用,因为它突出了一点:系统借以运作的知识,储存在各个单元之间的连接中。系统里不存在另外一本词典。表示 time 的那个单元之所以代表它,唯一的理由就是它和组成这个词的字母之间有连接。该单元被激活时,意味着系统更支持“输入中含有 time”这个假设。模型内部任何地方都没有写下这个单词,只有在他们画的示意图上,才标明这是 time 的单元。想知道这个词怎么拼写,就得顺着从该单元出发的连接,一个字母一个字母地把它取出来。人类习惯用逻辑去想问题,联结主义则很怪。它居然是这样运作的,这本身就很怪。

回到卷积神经网络。它会说“这是猫”或者“这是狗”,却完全不知道自己为什么这样说。从第一层到最后一层,只有连接;特征随着层次加深而变得越来越抽象,这种抽象是渐进的、连续的,到最后,你得到的仍然只是一组单元阵列上的激活模式。McClelland 睁开眼睛,看到的可能是 Lex,也可能是自家的狗。那是某个物种中的一员,与同类有许多相似之处,他认出它,靠的是一些细微的独特特征,而他说不清这些特征是什么。他可以描述一个牌子的汽车,但你依然不会知道他指的是哪一辆。想用命题的方式写下让我们认出某个具体实例的知识,这种尝试从未成功。视觉识别的那些命题,你永远写不出来。在这个领域里,人们一直觉得,有某种更隐性的东西在起作用。你无法接触计算的细节,你只能拿到结果。你读不到连接里装着什么,连接只是根据输入产生输出。

那么,连接能否容纳人类知识的深度,容纳 Rumelhart 想要的那种理解?McClelland 把这称为“64 美元问题”(即最关键的一问),若按通货膨胀换算,也许该叫“64 亿美元问题”。他以前常对人说自己是“激进的消除式联结主义者”,因为他不希望别人以为他想把东西预先装进机器里。后来他去掉了“消除式”这个词,因为这个词暗示,认为存在涌现层次的理解是错的,而他并不这样认为。他现在称自己为“激进的涌现论联结主义者”。认知中的高层方面是真实的,但它们并不以独立实体的形式存在。Douglas Hofstadter 的沙丘比喻有助于理解:我们可以把沙丘当作一个东西,甚至数一数有多少座,但沙丘其实是一堆在风中移动、并会重新成形的沙子。思想也是如此。它们存在,但我们不该把它们当成不需要理解底层、就能掌握的整块对象,而底层正是让它们得以变化的东西。即便底层是并行的、分布式的、联结主义式的,思想的内容依然可以是抽象的、符号化的。只不过,它比一组逻辑表达式所能轻易捕捉的,要流动得多。

06

语义痴呆在 Rumelhart 身上印证了他们的理论

Rumelhart 在这场对话的大约十五年前就去世了。McClelland 说,他的离世,是与他们共同所做的科学最相关、也最令人心碎的悲剧之一。他患上了一种进行性神经疾病,就他的具体情况而言,病因并未完全查明:有些扫描没有做,家属也不同意尸检。McClelland 此前已经对一种疾病产生了兴趣,它很可能正是 Rumelhart 所患的病。同行称之为语义痴呆:一种特定的、渐进的心智丧失,与意义有关。患者会逐渐失去理解经验意义的能力,无论这经验来自触觉、视觉、听觉还是语言。他们能听到声音,却不知道那声音是什么意思。

它先从相近的狗品种开始,或者从低频、陌生的类别开始。之后的变化就很惊人了。患者会丢失猪、山羊和绵羊的概念,把所有中等体型的动物都叫作狗;他们会丢失兔子和啮齿动物的概念,把小型动物都叫作猫;他们会丢失河马和牛的概念,把它们都叫作马。有位患者后来的情况是,任何四条腿的动物,都只按体型被归为马、狗或猫。McClelland 的合作者 Karalyn Patterson 设计过一个测试,叫“金字塔与棕榈树”(pyramids and palm trees test):给患者看一座金字塔,问他棕榈树和松树哪一个与它相配。这种丧失无论用文字还是图片都会出现。患者无法把图片互相对应起来,也无法把文字与图片配对。无论哪种模态,概念的根基都已经没了。所以它被称为语义痴呆:语义本身正在瓦解。分布式表征可以解释这一点:一个概念对应一组激活模式,相似的概念有相似的模式;随着它们逐渐退化,差别就会一点点流失。狗和山羊之间的区别,从模式中消失了。狗是非常熟悉的,所以它留了下来。

Rumelhart 正经历着这一切。McClelland 喜欢把他与斯蒂芬·霍金(Stephen Hawking)相提并论,以示敬意:两人都患上了退行性疾病,霍金的病变在运动系统,Rumelhart 的病变在语义系统,或许还包括关于“自我”的语义。McClelland 认识的人里,他是最专注、最有目标感、最好胜、也最善思考的一位,愿意为一个难题耗上好几年,却开始一点点消失。有一段时间,他们每个人都很难真正意识到,他已经不完整地在那里了。被问到 Rumelhart 能否内省到,那个他用一生去理解的心智正在消退,McClelland 说,他做不到,而从外部看,这正是悲剧的一部分。到了某种程度,他其实也隐约觉察到了,只是在这病变被确认为生物学上的问题、而不是走神的某一天之前,他很难看清。

他从斯坦福退休后,与哥哥同住了两年,之后搬进了一家照护认知障碍人士的机构。1990 年代末到 2000 年前后,McClelland 常去看望他。他们一起去打保龄球,Rumelhart 还能打。打完之后,McClelland 问他想不想去 Wendy's。他说不想。那去哪儿?Rumelhart 指了指前方:这儿拐。他还保留着相当程度的空间认知,能把他们带到餐厅。坐到桌边,他一个词都想不起来,但他知道自己想要的东西在菜单的哪个位置。他说不出那是什么,却清楚那是他想吃的。认知并不是整块的。它有程度之分,由多个部分组成,在其他能力消失之后,有些局部能力依然留存。McClelland 一直对过去被称为“认知神经心理学”(cognitive neuropsychology)的领域着迷,尤其是这种逐渐瓦解的过程。他坚信,失去一个你珍视的人,其分量不亚于当初爱上那个人。这一切都是对人的礼赞。而瓦解本身,也是一种礼赞。

07

辛顿说,别再照抄生物学,先定义权重要解决的问题

1982 年,辛顿以学术休假的身份回到圣迭戈。交互激活的论文刚刚发表。McClelland、Rumelhart 和辛顿组建了一个研究小组,他们称之为 PDP 研究小组。克里克也来了。Smolensky 当时仍是博士后,还在那里。辛顿和他们谈起学习问题。他说,他们之前的思路有问题:一直在生物学里寻找灵感,想知道突触应该怎样改变连接的强度。这条路是错的。应该做的,是从如何调整连接权重来解决问题的角度去思考:先定义要解决的问题,再弄清楚权重的调整将如何解决它。

Rumelhart 听了这番话,心想:好吧,那我就这样想。设想一个目标函数:我希望这台机器能把所有图像都正确分类;我可以给它在每张图上的表现打分,得到一个误差或损失的度量;然后弄清楚怎样调整权重,才能把这个损失降下去。工程界早已熟悉梯度下降。斯坦福电子工程系的 Bernie Widrow 与一位叫 Hoff 的合作者,曾发明过 delta 规则:对于单层权重,定义目标与输出之差,再调整权重使这个差变小。Rumelhart 所做的,是把它推广开来,使得连接从更靠前的层进入隐藏层的权重也能被调整。他最初把这个算法称为“广义 delta 规则”,因为它不过是梯度下降思路的延伸。

辛顿却认为这条路不会有太大效果。他自己另有一套方案,以玻尔兹曼机为基础,那篇学习方面的论文发表于 1985 年。不过反向传播的效果更好。这个名字在你弄清楚它的机制之前,看不出什么含义。要算出从输入层到隐藏层该怎样改动,就得把输出端的误差信号沿着隐藏层到输出层的连接传回去,这样每个隐藏单元才能拿到属于自己的误差信号。Rumelhart 就是这样表述的:输出端的误差我们已经知道,那就看看能不能在隐藏层得到一个信号,告诉每个单元该如何调整它的输入权重。Lex 总结道,先把生物学放到一边,改去想优化。McClelland 表示同意。这一步先是辛顿提出了目标函数和导数的概念,随后 Rumelhart 才把多层的规则真正写了出来。

08

辛顿最好的想法是图画、峡谷,以及比时代早了几十年的论文

McClelland 说,辛顿最值得一提的,不只是那套学习论证。1981 年的两篇论文远远走在时代前面:其中一篇基本就是 Transformer 的思想,另一篇是早期关于语义认知的论文,它在 1980 年代启发了辛顿、Rumelhart 和 McClelland,至今仍支撑着他对意义的思考。还有一篇 1977 年的未发表短文,写于辛顿还是博士生的时候,描述了神经网络如何进行递归计算。调用子程序时,需要保存调用者的状态。辛顿的办法是通过快速改变连接权重来保存这个状态,子程序结束时,再利用这些快速变化恢复之前的上下文。McClelland 一直认为这非常有创意,而辛顿也一直在探索这个想法。

McClelland 后来研究数学认知,还受到了辛顿的另一种影响:辛顿很少用方程。据说在辛顿的实验室例会上,大家不会像别的机器学习实验室那样,起身走到白板前推导公式,而是画图。辛顿讲梯度下降时,会把两只手合拢,摆成一道沟壑的形状:你沿着沟壁往下走,要是一步迈得太大,就会一下子跌到对面,所以得把学习率调低。McClelland 说,这体现出深刻的洞见在根子上是直觉式的,同时又承诺要把理解最终落到明确、清楚的地步,而这种理解本身依旧是直觉式的。Lex 把这种效应比作和费曼(Richard Feynman)或芯片设计师 Jim Keller 待在一起:在这些人身边产生想法的过程,会改变你自己的工作。

辛顿是逻辑学家乔治·布尔(George Boole)的后人,家族里世代都是英国学者。在视觉直觉之外,辛顿还想为推理本身的理解做出贡献,不只限于人类的推理:从什么可以推出什么,如何将它形式化。1980 年代前中期的玻尔兹曼机工作,正是他把布尔的传统与一个连续的、概率性的、分级的约束满足世界连接起来的方式,这些想法既与逻辑相关,也与理论物理相连。McClelland 一直受到它的启发。如果神经元的运作是概率性的,而非确定性的,那或许正是洞见带有偶然性的原因之一:这个念头未必正好在那一刻出现,它可能部分是随机过程的结果。这同样是涌现之魔力的一部分。

McClelland 开始用“计算智能”(computational intelligence)这个说法,指称他认为辛顿以及 DeepMind 的许多人所处的那个领域。他在这个空间里是以人为导向的研究者,关心的是人类的解法;但深度学习的大部分兴奋点在于另一种想法:我们或许能超越自己神经系统所能达到的水平,把人类智能的机制加以规模化。他说,这一点正在谷歌大脑、OpenAI 和 DeepMind 大规模地上演:那些用于在围棋或蛋白质折叠上取得成功的计算。Lex 指出,人类的突触仍然比机器多。McClelland 表示同意。在这一点上,人类仍然胜过 AI,不过它们正在迅速追赶。

09

数学是理想世界的工具箱:直觉去发现,逻辑去证明

Lex 转向一篇论文,题为《A Parallel Distributed Processing Approach to Mathematical Cognition》(数学认知的并行分布式处理取向),该文引言中引了 Tristan Needham 的一句话:只把数学当成符号的摆弄,好比研究乐理却从来不去听一个音。那么数学到底是什么?McClelland 把它看作一组工具,用来探索各种理想化的世界。这些世界常常跟真实世界关系密切,但不见得一定如此。在其中,对象拥有理想化的属性,它们之间的关系能被精确地描述,所以某些事实一旦成立,别的事实便可以被确定地推导出来。若两个三角形有一个角相等,且夹这个角的两条边也对应相等,它们就全等,也就是说它们的一切性质都相同。这是关于三角形的道理,跟算式无关。人们用三角形来造桥,用它测量爬不上去的高处。人们从地球上发射一小块物质,让它在预先算定的日期与时刻,与冥王星之外的一颗小天体相遇。这些想法都碰到了物理世界。

自然数也是如此。McClelland 喜欢把零算进去,所以他说的是非负整数。数字让你能准确说出自己有多少只羊:我放出去 23 只,你回来时只带回了 22 只,这是怎么回事?这是人类社会的一个基本问题:你最好带回来的数目,跟出去时一样。数字让商业、契约和记录成为可能。它们是抽象的、理想化的、可以推广的,同时又可能非常扎根、非常具体。他说,人类心智令人难以置信的成就之一,就在于人类发明了这些能够放大思维力量的理想化系统。数学是人们逐步建立起来的一整套体系,用途是推敲理想对象之间的属性与联系。我们太过看重的那些符号,不过是表达这些命题的一种办法。它跟语言相仿,是为了交流而造出来的,未必直接刻画了思想本身的深层结构。

这类推理要怎样建模?他说,人类数学家的洞见,往往是把一种直觉式的、接近联结主义的知识,与一步步的思索结合起来:先有一种让结论一眼看上去就明摆着成立的直觉,因此无需追问它为何成立;再去琢磨那些还没有直觉支撑的东西,并迈出下一步。这个新东西随后会成为下一代人立足的直觉的一部分。他与妻子在北加州一座州立公园里散步,看到一张长凳上刻着庞加莱(Henri Poincaré)的一句话:证明靠逻辑,发现靠直觉。他这项工作的要点,是调动直觉式的联结主义资源,让发现能够从与形式系统的交锋中产生。这些人的灵感闪现,比如辛顿、牛顿、爱因斯坦、Rumelhart、庞加莱、阿基米德,都是多重约束同时作用,使心智落入一个全新的状态。之后才去追问,它该怎样证明,又该写出哪些步骤,才能使它严密。

深度学习让他看到,这种事在机器中也有可能发生。在海量文本上训练出来的网络,给一个提示,就能生成天马行空、颇有创意的故事。它们似乎从数十亿个具体细节中,合成出了某种类似直觉的感觉:什么样的故事会是有趣的小故事;这种感觉,是让系统去推演“给定这个情境,某人会说什么”时自然浮现出来的。这就是捕捉直觉那一面的潜力所在。Lex 又提到 AlphaZero:它下出的一些新颖棋招,读起来就像灵光一现的妙手。其中,搜索用的是老式人工智能那一套,而神经网络则提供了直觉:看一眼棋盘,就能判断这个局面有多好。特级大师也具备这种局面感,不必深度搜索,然后再做一点他们所说的计算。Demis Hassabis 描述过一场围棋比赛中的一步棋,对手是李世石,情形与此类似,这让 McClelland 很想和 DeepMind 的人合作。他想强调的,关于数学认知的那一点,历史更悠久。哲学家和逻辑学家在三千多年前就开始构造形式化思考的观念。欧几里得的《几何原本》(Elements)成了试金石:一部连贯的文本,确立了一套形式系统和一种推理方法。能够这样思考的能力,本身就是沉浸的结果,就像语言能力一样。Jerry Fodor 认为,系统性思维是人类心智的根本特征。McClelland 则认为,它是派生的、习得的,是人在一种自己发明的思维方式中被文化浸染之后的结果。

10

正规训练与专家盲点,可能让你远离心智的真实运作

把数学认知和语言认知区分开来,是否有失公允?McClelland 认为,划出这条界线很重要,但之后还要回头去看其中的细微之处。乔姆斯基出身学术家庭,父亲在费城一所小学院教授犹太教经典研究。他深深浸润在一种思考与理性的文化中,因此在理解自然语言时,带着对形式系统的深刻投入。这给了他巨大的力量,也让他对语言结构有一些惊人的洞见。但 McClelland 说,对这些东西的实际直觉知识,其实只能走到这里,远不及乔姆斯基本人所以为的那样深。Lila Gleitman 与他同在一个语言学系受训,她在博士论文中发现,即便是对一个短语的意思——不只是语法——语言学家的直觉,也与那些未受过正式思维训练的普通人的直觉大不相同。

他目前的假设是:经过正式训练的语言学者、哲学家、认知科学者、计算机与机器学习研究人员,以及数学家,与经验打交道的方式,在直觉上更多围绕着系统性,以及对体系原则的遵循来组织;而没有这种沉浸的自然人类心智,这一倾向要弱得多。研究心智所用的那些学科,反而可能把你带离心智的自然运作。这使人很难去做一个善于内省的人。这与“初学者之心”有关,也与一种较平常的毛病相关,叫作“专家盲点”(expert blind spot):对专家而言,有些事太不言自明,他们甚至想不出该怎样去解释,因为它们明摆着就是真的。

克罗内克(Leopold Kronecker)说:上帝创造了自然数,其余的一切都是人的工作。他表达的正是这种直觉:离散的数量可以被计数,个数不定、可以一直数下去,这些基本的东西无须被发现。他错了。很长一段时间里,许多认知科学家都同意他的看法。自然数被视为核心知识中先天配备的部分,这是 Elizabeth Spelke 和 Susan Carey 在讨论人类心智先天原语时所用的说法。如今他们已经不这样看了。自然数是一种文化建构,这一点已经基本被普遍接受。因此,那些仍然存在、却没有这套系统的人群,就值得拿来研究。某种思考语言或几何的方式,会变得如此自然,以至于你不知道需要教什么,事实上我们也从未把它明确地教出来。在数学课上,一些学生抓住了这种思维方式,能够解决教授认为有趣的题目;大多数没有深入投入的学生,永远也到不了那一步。于是我们便断定,这个人一定很聪明,一定有某种不同的生物学特质。McClelland 并不想完全否认个体的生物学差异。他更感兴趣的是,乔姆斯基家餐桌上的谈话,或许正是塑造他那种思维气质的原因。

Lex 问,人该如何从一个自己花了几十年搭建起来的结构中跳出来。McClelland 一直需要留意的一条心理学线索是:我们对自身行为的解释,未必属于导致行为的因果过程,甚至未必是对导致结果的约束条件的有效观察。它们是我们在被问到时,用手头的信息事后编出来的说明。这一想法来自 Richard Nisbett 和 Timothy Wilson 的一篇论文,它探讨的是我们对于影响自身选择的各种因素,觉察能力的局限。我们为什么持有某些信念、做出某些选择、产生某些感受,这种洞察并非完全由我们掌控,也并非完全能被我们观察到。它受制于一种经由文化传递的解释模式。连“我们能够内省、能够接触到自己的想法”这种感觉,也是文化与实践的产物。

11

找到让你内在驱动的事,陪它待得足够久,直到长成

被问到给年轻人的建议时,McClelland 说,关键在于找到那件让你发自内心想投入的事,然后为这一发现庆祝。大学时他以为自己必须当精神科医生,因为高中时他对心灵的了解,主要来自弗洛伊德、埃里希·弗洛姆和大众心理学,而精神科医生都是从医学院出来的。哥伦比亚大学的第一学期力学课,离他感兴趣的东西很远,而且上在冬天的清晨,他于是从没去过物理课。他在大一和大二的大部分时间里浑浑噩噩,直到 1968 年,校园因越战、摩根赛德高地(Morningside Heights)上的一座体育馆、黑人激进运动和 SDS(民主社会学生同盟)而炸开了锅。他恰好修了数理统计和心理学导论。为什么有些人占领了建筑、有些人却没有?这类问题在他脑子里串联起来,给他指出了一条路。他的心理学老师都觉得他很出色,提名他参加美国大学优等生荣誉学会(Phi Beta Kappa);典礼上有人问他拿的是 magna 还是 summa 等级,而他连靠成绩获得的荣誉都没有。老师们只是觉得他对观念足够感兴趣。

他不希望任何人对此摆出说教的姿态。他真的很享受数据的统计分析,也真的很享受自己动手做实验。化学和物理从来没让他觉得,凡人除了课本之外还能亲自去做实验。心理学导论课上有一只老鼠,做完两次规定的实验之后,你就可以去做一件自己想出来的事。能够亲自动手,再加上一组能够吸引他的事情,这与一些人成为音乐天才的原因相近:沉浸得足够早,早到它已经渗进了纤维里。他的小弟弟在音乐方面就是这样。大约 13 个月大时,他就会把唱片放上留声机,并认出自己想听的是哪一张,靠的是看唱片上的划痕,并非看标签。有什么东西接上了。如果你有这种特质,并能培养它,那就是极其幸运的事。动机驱动的投入,会带来沉浸,而沉浸才创造了成为专家的机会。McClelland 把共鸣加经验的协同效应称为“莫扎特效应”,但这并不是说要把小提琴交给六周大的婴儿,孩子身上本就有某种东西,被音乐回应了。他的兄弟姐妹各有各的去路:小弟弟擅长音乐,另一个兄弟是直觉型的工程师,一个妹妹早在水资源保护成为如今这样的议题之前,就对它充满热情。人们既可以为给人调配合身的自行车而兴奋,也可以为神经网络而兴奋。

Lex 问,精神病学没能成为他探索心智的方式,他是否会因此感到遗憾。McClelland 在接触到生物医学那一面之前,就放弃了医学预科。大约在 2000 年前后,他曾任美国国家心理健康咨询委员会的委员。一位新上任的 NIMH(美国国家精神卫生研究所)主任上台后宣称,精神分裂症是一种生物学疾病,很像癌症;我们在治疗癌症方面取得了巨大进展,我们会找到药物,我们不会再去听任何人祖母的意见,而老派的行为主义心理学,也不是我们会支持的方向。这让 McClelland 与该机构疏远了。他说,二十年过去了,我们帮助精神疾病患者的能力并没有任何改变。那条路是一条死路。Lex 说,深入思考心智的旗帜,转到了像 McClelland 这样的人手里,他们身在认知心理学,一只脚踏进了计算领域。McClelland 在本科时,从社会学和文学里,比从鸽子实验室里获得了更多关于人类处境的认识。研究生阶段和认知心理学解决了这种落差:你可以思考人的处境,同时仍然做机制导向的工作。他认为,如今最丰富的机会,在于系统神经科学、认知神经科学和计算智能,而不在神经元的最底层。

他害怕死亡吗?比起死亡,他更怕退化,部分原因是他亲眼见过那些悲剧性的衰退。能够继续参与,感觉自己离浪头拍向海岸的地方很近,这是令人兴奋的。痴呆、阿尔茨海默病、语义痴呆:你会逐渐失去思路,而在不得不退休之后,人还可以再活十年。他最怕的正是这种浪头的碎散,想法不再在脑海里游动、被人把玩,合作也随之消失。悬崖的边缘本身,也就是终点那个谜,在他看来没有大多数人感觉的那么截然分明,因为他对心智的思考方式是分级的、连续的。有限的时间本身可以成为动力。在这场对话的七八年前,他还在做决策实验,那类工作带来的收束感令人满足:模型拟合得上,预测能拿去猴子身上检验。然后他意识到,自己也许只剩下十到十五年的有效工作时间,而在那个层次上的工作,并没有让他逼近真正有趣的问题。于是他对自己说:挑一个难题吧。他由此开始研究数学认知。设想先只有十年,然后也许还有三四年,再然后也许还有五年。那就给自己六到八年。期限不会无限延长。要持续思考那些真正有意思的问题。

12

别接受别人贴给你的标签,意义是你自己造出来的

他希望百科全书里的那段文字怎么写?他希望写的是:他看到了一条比认知心理学家面前已经铺好的道路更令人兴奋的路,而这并非出于什么超凡的原因,只是因为他恰好拥有合适的前置背景,并且顺着那条线索走了下去。他在序言里说,科学带来的乐趣,就是某人脑中还没定型的念头,经过交流变得更清晰,进而成了一项实实在在的科研进展的地基。他和 Rumelhart 搭建交互激活模型时,就出现过这样的时刻;Rumelhart 听辛顿讲梯度下降、讲用目标函数来引导学习时,也出现过。那段时期这样的时刻很多。他如今和学生合作时,也依然在寻找这样的时刻。他希望那段文字里能写到这样一个人:他通过找到令人兴奋的合作机会,并稍稍离开大路,做出了自己的贡献。

有一段经历至今仍让他想要讲出来,并为之振奋。他的博士论文完全是实证性的。他写了一篇论文,报告两个主要实验,并在末尾列出了对数据背后机制的理论构想的开端。他把论文投给了《Journal of Experimental Psychology》(《实验心理学杂志》)。编辑回信说:这些实验非常好,我们很乐意发表,但请把理论化的工作留给理论家,把那部分删掉。他照做了。他差点因此被归为“非理论家”。他本可以就此屈服,认为自己的工作就是继续做实验。那不是他想要的。担任助理教授的第一年,他仍然在做实验,因为需要发表论文,但他同时把那一节扩充开来,投给了理论取向的《Psychological Review》(《心理学评论》)。那里也没有接收,不过回信说:这个想法很有价值,这次请你继续往下想。正是这句话,让他动了起来:为理论做贡献,并不需要超人的天赋,一个凡人也能做到。

往大了说,这里的教训是:别屈服于别人给你贴的标签。尤其是功成名就之后,标签往往贴在那件让你成功的事情上,比如联结主义者、认知科学家,算不得神经科学家。那些都是过去的故事。今天的你是一个新的人,完全有能力在全新的领域里掀起变革。别让这些标签拖住你的脚步。至于这一切的意义——那一千多亿曾经活过的人,我们为什么忙碌,又为什么朝着某个方向去——McClelland 的看法是:我们为自己创造意义,也从别人创造的意义中获得启发。公元前一千年里的各大宗教思想家,以及此后的一些人,奠定了重要的根基。他相信,我们是一个自然发生、没有引导的过程所产生的涌现结果,而意义就在于我们赋予它的东西。宗教传统中对意义所做的种种雕琢,也是这一目标的体现:与其去找出意义究竟是什么,不如亲手把它做出来。

它是私人的,也是个体的。意义通过你所独有的那一组协同要素而到来:你的底色、你的经历、你的处境,而这一切都在某个局部的“口袋”里被造了出来。他就在 UCSD,身边是那位才华横溢的 Rumelhart,后者正对符号式人工智能产生怀疑;这种怀疑,恰好与 McClelland 想把认知落到生物学之上的渴望彼此共鸣。他们抓住了这种共鸣。从那个小小的口袋里,生长出一种奇特的涌现过程,而我们每一个人,基本上都是这样的过程:细胞聚集在一起,讲出关于自身的精彩故事,并享受这些故事之美。这个过程存在一段时间,它的边界由它在时间与空间中的那个局部口袋所界定;它讲出动人的故事,我们把这些故事记下来,庆祝它们有多好,于是它延续下去,因为我们在彼此的故事之上,又叠加了新的故事。最终,我们或许会殖民其他行星、其他恒星系、其他星系,讲出更好的故事。这一切,都从地球开始。

同频道的其他文章

3:36:56EN → 简体中文
Lex Fridman· 2026年9月16日播客精神病学至今没有属于自己的青霉素主持 Lex Fridman历史学家 Andrew Scull 与 Lex Fridman 谈到,这门学科对症状有所缓解,但没有哪一种重大精神疾病真正被根治;过度自信的时候,代价要由病人来扛。Mental HealthPublic HealthNeuroscience
5:15:51EN → 简体中文
Lex Fridman· 2026年8月26日播客 · 2 人对谈DHH 没有亲手写一行 Omarchy Quattro 的代码嘉宾 DHH · 主持 Lex Fridman与 Lex Fridman 一次充满怀疑的对话过去十三个月后,Rails 的创造者讲述了 Opus 4.5、一群编码智能体(Agent)和一个一分钟的 Linux 安装器,如何结束了他一凿一凿手写 Ruby 的时代。编程智能体Vibe Coding智能体工程+3
3:12:58EN → 简体中文
Lex Fridman· 2026年8月12日播客 · 2 人对谈一个冷水澡,二十位冠军:Khabib Nurmagomedov 是如何炼成的嘉宾 Khabib Nurmagomedov · 主持 Lex Fridman在马哈奇卡拉的一间学校体育馆里,七十个人共用一个淋浴间,而且只有冷水。Martial ArtsCombat SportsCoaching+3
3:46:18EN → 简体中文
Lex Fridman· 2026年7月28日播客 · 2 人对谈抽掉奴隶制,就没有美国内战嘉宾 Gary Gallagher · 主持 Lex Fridman1860 年,美国奴隶主名下的奴隶价值,超过了全美所有铁路和工厂的总和。Political PhilosophyLeadershipHistory
3:51:47EN → 简体中文
Lex Fridman· 2026年6月30日播客 · 2 人对谈46% 的皇帝被暴力推翻,帝国照样延续下来嘉宾 Anthony Kaldellis · 主持 Lex Fridman历史学家 Anthony Kaldellis 与 Lex Fridman 一起走过 2200 年的罗马史,并主张我们所说的拜占庭,其实就是罗马本身。Political PhilosophyGeopoliticsLeadership
2:53:42EN → 简体中文
Lex Fridman· 2026年5月29日播客 · 2 人对谈月亮一直在下落,却总也落不到地球上嘉宾 Biggest Mysteries in Physics · 主持 Lex Fridman费米实验室(Fermilab)物理学家 Don Lincoln 在与 Lex Fridman 的对谈中说,物理学的历史就是一部统一的历史;反物质(antimatter)、暗能量(dark energy)和万物理论(theory of everything)依然远在我们能做的实验之外。Quantum MechanicsScience CommunicationPhilosophy of Science