30 秒看懂
神经科学家 Karl Friston 对 Lex Fridman 说,自由能原理并不是造出心智的配方。它是关于一切持续存在之物的论断:只要某物存在,非平衡物理学的数学就会让它看上去像在为自己的存在积累证据。由此出发,对话转向分层的大脑、神经成像的两难、脑机接口的局限,以及自我意识为什么可能只是他人构成的世界强加给我们的一种推断。
- 1Friston 认为,层级结构是靠删除连接搭起来的,而不是靠堆叠更多连接。全连接的网络就是一锅汤;正是稀疏性,赋予了大脑洋葱般的层次。
- 2他把“deep”看成“hierarchical”的千禧一代说法。在任何方法前面加上这个词,听起来都很时髦,但其背后的意思仍然是分层架构。
- 3他说,脑成像是一种两难困境(catch-22):要么知道某件事发生在哪里却不知道何时发生,要么知道何时却不知道在哪里。血流动力学扫描和电磁记录必须结合使用。
- 4你就是自己存在的证明从统计上看,你能够被观察为一个有边界的东西,这件事本身就是你存在这一模型的证据。
- 5在他的框架里,当前的机器学习像是一滴已经看过几乎所有观测数据的油。它从不需要游出去取样,因此也从未进入那个让蝌蚪看起来有生命的行动—感知循环。
- 6他认为,自我意识是一种被迫做出的推断,因为世界上到处都是和你一样的生物。如果你独自待在火星上,或者像野孩子那样长大,就没必要分清“我在说话”和“你在说话”。
按章节阅读整理后的全文
我们对大脑的理解能走多远,取决于我们不肯离开哪个尺度
Lex Fridman 开场就问 Karl Friston,从神经元到功能再到精神疾病,我们究竟理解了多少人脑。Friston 在脑成像和理论神经生物学方面的研究,被引用超过 24.5 万次,但他对这个问题不肯打分。他说,我们比上个世纪强多了,但要回答能走多远,几乎不可能,除非先决定什么才算理解。
如果把每一根树突都绘制一遍,人就会一辈子泡在显微镜里。研究中风和病变的神经心理学家,则会紧盯着整个人。Friston 自己的赌注介于两者之间。假如大脑是一台做推断的机器,那你不必追踪单个分子,也能理解它的热力学,正如你不必追踪每一个粒子,也能理解一团气体。不过,如果太粗,就会漏掉那些让信息传递得以实现的典型布线。
这就是他对高场磁共振成像感到兴奋的原因。它第一次能分辨几毫米范围内的活动,足以区分皮层各层,而这些层的微电路在整个大脑中是重复的。他说,在一毫米到一米之间,才是有趣问题所在的尺度。被问到大脑最美的特性是什么,他没有提意识或语言,而是说起它的层级式、递归式解剖结构。
大脑不是神奇的汤;切断连接之后剩下的,就是层级结构
Friston 指出,肝脏能完成精妙的生物化学反应,没有它人活不了多久。但它没有大脑那种精心构造的稀疏性、递归性和专门化。Fridman 承认,他一直把大脑想象成一大团相互连接的东西,密得难以解析。Friston 说,他在读医学院之前也是这么想的。“这不是什么神奇的汤。”
他认为,层级结构不是靠增加连接搭起来的。你要从一锅全连接的汤开始,小心地删掉那些会破坏分层结构的连接。层级是由一种稀疏而特定的连接方式定义的:两个区域相隔越远,就越不可能有直接的神经纤维相连。支撑这种深度的是解剖结构,靠比喻撑不起来。
示踪研究把这种稀疏性画成一个类似洋葱的结构。所有感觉输入,以及送往肌肉和腺体的全部输出指令,都在表层交换。下面一层观察这种交换,再下一层观察前一层,以此类推,直到核心。如果大脑是一台传递消息的机器,那么塑造这种传递的电路,也就决定了功能。删掉稀疏的递归结构,剩下的那锅汤确实什么也做不了。
找出热点是在绘图,更难的问题是这些斑块如何交谈
发表在期刊上的大多数人脑神经成像研究,测量的是活动随时间的波动,通常是对刺激或任务的反应,有时则是静息状态。两条互补的原则组织起这类分析。功能特化认为,某些组织专门负责某一类加工,比如看见视觉运动。功能分隔认为,这种特化在空间上是受限的,所以一只飞动的鸟应该点亮一小块特定区域,而静止的图像则不会。
Friston 对由此得出的脑图,不介意说几句刻薄话。有人把这项事业称为新式绘图学。他也听到过有人形容它是画得更漂亮一点的颅相学,是一场寻找“做这件事或那件事的斑块”的狩猎。但这种希望并非空的。二三十年间,这个领域已经远远超出了对上个世纪病变研究的渐进式验证。失去 V5(即中颞区,MT)的患者无法看见运动的东西。动物身上的电极在同一区域发现了对运动敏感的感受野。随后,成像技术显示,在活体人脑中这个区域确实会亮起来。
只靠损伤研究从来不够。拉什利(Lashley)的“总体作用律”(law of mass action)源自动物实验:无论切除大脑的哪一小块,动物都表现出同样的缺陷。这一规律曾让“神奇的汤”观点显得站得住脚。正电子发射断层扫描(PET),随后是 1990 年代初的功能性磁共振成像(fMRI),让研究者得以在原位观察局部的特异反应。Friston 说,更大的问题是功能整合:这些局部特异的反应是如何被协调起来的。Fridman 用了那个时髦的词“deep”。Friston 立刻接过话,说“deep”是“hierarchical”的千禧一代版本。在任何东西前面加上它,你听起来都很潮,但你其实仍在暗示一种分层架构。
成像的两难:知道在哪里却不知道何时,或知道何时却不知道在哪里
无创扫描仪首先测量的是结构,就像对水、脂肪或铁做一次精细的 X 光。动态功能则分成两派。占主流的一派记录的是代谢和血流动力学信号,它们是神经元活动的替代指标,而且时间常数比放电本身慢得多。神经元不能像肌肉那样先欠着账继续干。几毫米繁忙的皮层,必须在几秒钟内被及时供血。这种神经血管耦合,正是 fMRI 所依托的原理,它的空间精度是毫米级,时间精度是秒级。
另一派记录的是产生时的电磁场,即脑电图(EEG)和脑磁图(MEG)。时间分辨率可以达到毫秒级,足以看清刺激之后层级化消息传递的级联过程。代价是空间。信号穿过白质这团“意大利面”、脑膜、颅骨和头皮时,已经在空间上弥散开了。Friston 把这种困境称为 catch-22:你可以精确到毫米地知道哪个区域激活了,却不知道何时激活;或者能精确到毫秒地知道何时有反应,却不知道在哪里。两种测量,一种通过血液间接测,一种通过电场直接测,必须结合起来使用。
选定测量方式之后,分析又一次分成专门化与整合两条路。流行的那一路,Friston 戏称为 blobology,这个新造词会出现在报纸上,却不会出现在专业期刊里:就是研究脑图上的小斑块。这个玩笑背后有严肃的一面。那些斑块背后的数学,包括欧拉示性数(Euler characteristics),是真实的;而统计参数映射,用他干巴巴的话说,就是“数学加持的斑块学”。统计量在某个受限的区域越过阈值,就出现了一个斑块。这是分隔的证据。但它还没有描绘出那个洋葱如何与自己交谈。
脑机接口与其说像插一块扩展卡,不如说像是在试图操控天气
Fridman 提到在 Neuralink 的一天,并问起能在颅内倾听、也能写入的接口。Friston 的态度很矛盾,他也承认自己是这样。刺激并不新鲜。一个世纪以来,同一类神经病学机构里的研究者刺激过狗,再读取肌肉或唾液分泌的反应。脑深部电刺激(DBS)治疗帕金森病已是标准疗法,也是观察运动障碍动力学的窗口。经颅磁刺激(TMS)治疗抑郁症则很粗糙,他说,有点像电视机的电子管坏了,去拍它一下。有时它也确实有效。
更令人欣慰的前沿是感觉替代。给一个人装上一个磁感应器,把朝向编码成腹部的触压,几周之后他就会习以为常。他读的不是一个小装置,他感觉到的是自己面朝哪个方向。正是这种可塑性,让 Friston 没有否定那些临床期望,比如闭锁综合征、截瘫、失明或耳聋的治疗。让人降温的一面是带宽。他说,目前的接口每秒只能传递几比特,就像用极慢的摩尔斯电码交流,连这些期望所需要的量级都差不到一个数量级。
更深的反对意见,关乎你想要接入的系统是什么样的。大脑是高维、非线性、结构极其复杂的,并且处于非平衡稳态。他请听众想象一批有攻击性的卫星,它们能戳一戳局部的天气,然后要求天气按指令作出反应。这是一种难以想象的大尺度混沌控制。要成为这个系统的一部分,你得和它一起进化。这不像修好一台坏掉的电脑,也不像插上一个外设,而更像是钻进天气里。Fridman 来自机器学习,他反驳说,最棘手的是工程,包括一个不能碰断的血管网络;而一旦卫星造出来,那些赢下游戏的方法,也能在这锅汤里派上用场。Friston 认同这一结论:非常难,但希望它并非不可能。
只要某物存在,它看上去就像在最大化自身存在的证据
Friston 说,自由能原理继承自对大脑高维时间序列的分析,也继承自机器学习。从形式上看,它是一个陈述:任何在变化的世界中存活下来的系统,其生存的基本要求都可以写成推断问题。存在的概率,就是你存在的证据。把存在写成一个统计问题,两个世纪的推断数学就变成了对系统集合动力学的描述,而这些动力学必定在起作用。
技术上说,任何因与环境分离而存在的东西,都可以被理解为在最小化变分自由能(variational free energy)。机器学习圈子里的人把这个量称为负证据下界(negative ELBO)。等价地说,动力学看上去就像在最大化边际似然(marginal likelihood),也就是系统自身存在的证据。Fridman 听出了这是在回答“活着意味着什么”。Friston 放慢了他的节奏。这个主张不只关乎生命,它关乎存在。如果某物存在,那么根据非平衡稳态物理学的数学,它必然表现出某种性质,使它看上去像在优化某个特定的量,而这个量恰好就是贝叶斯模型证据。
他以一个“没当成的物理学家”作答,上一次讲授物理还是在他二十多岁的时候,同时他始终记着那条降调的限定。这一原理并不说明一个东西为什么存在。它说的是,如果它存在,就必须表现出这些性质,而这些性质带有推断的意味。他脑海里最简单的图像是一个单细胞生物,甚至是水里的一滴油。为什么界面能保持?为什么油不会溶进溶剂里?在计算化学里,这就是一个大分子在把自己配置成最小化热力学自由能的状态,而它和负 ELBO 是同一个数学构造。自组装、自创生(autopoiesis),以及一种能与汤区分开的形态的涌现,看上去都是同一种优化。他喜欢的一句说法是:你就是自己存在的证明。
马尔可夫毯(Markov blanket)把宇宙划分为内部、外部,以及两者之间的表面
要说某物存在,首先得说清它在哪里结束。Friston 把这写成统计上的独立性:要看的是谁与谁不相关,也不依赖于别的东西,而非谁与谁相连。又是稀疏性。一旦你能辨认出水中油滴的表面,任何包含某物的宇宙,都会分成几类状态:内部、外部,以及两者之间的表面本身。这个表面就是马尔可夫毯。
表面状态随后又可以划分为感觉状态和行动状态。按照这种划分的定义,外部状态只能通过这层毯子影响内部状态。从操作上看,行动状态也不能被外部状态影响。因此,内部状态与行动状态合在一起,就具有自主的动力学。哪怕是一小滴油,现在也有了一块外界够不着的表面区域,以及一个看上去在最小化同一自由能的内部。换句话说,它在最大化模型证据。
按 Friston 的讲述,这套推导的力量在于,它从概率和非平衡物理中生长出来,一个生物学假设都没借。你不需要生命理论,你只需要一个边界。Fridman 说,这幅图景几乎把他说服成了泛神论者:油滴看上去已经能感知、能行动,并能维持自身。下一个问题是,如果还有什么东西能把这滴油和蝌蚪区分开来,那会是什么。
蝌蚪有而油滴没有的,是从内部发起的运动
Fridman 试过死亡、感觉、行动这几个答案。Friston 说他说中了:运动。指的是从内部发起的运动。被搅动、被推着走,油滴在碗里也会遇到,那种被动的移动不算数。能够影响行动状态的内部状态,可以让表面走向某个地方。如果你愿意,可以说油滴有两种。在一种里,内部状态随机到彼此平均掉,整体上这个东西动不了。
太阳是他的极端例子。它内部有剧烈的活动,但没有大脑那样深的层级结构,所以在表面上没有哪种整体模式会表现为游动。表面可以很忙,但这层表面的平均位置无法重新定位,因为内部是一团炽热的气体。活的内部则足够有结构,能够驱动肌肉、声带、腺体和自主神经系统。于是整个生物体才真的动了起来。
他说,改变宇宙的方式,除了运动别无他途,不管这种运动是靠喉头、步行,还是从分泌器官挤出的汁液。而让这种运动非随机地发生,正是让你活着的东西。蝌蚪的行动状态改变外部状态;这些改变又以感觉的形式返回;内部状态随之更新,并驱动下一次运动。这个循环是趋化性(chemotaxis)、觅食和行为的原型。油滴可以被看作“我坐在一碗水里”的完美被动模型。但如果给它装上推动表面、尝出化学梯度的本领,它就开始像一个生命体了。
机器学习仍然是一滴已经看过所有数据的油滴
Friston 说,自千禧年之交以来,智能研究已经转向一种具身的、强调行动的图景,但运动的核心重要性还没真正触动机器学习。它在机器人学里扩散开来,也扩散进了那些必须移动相机才能取样的视觉问题里。数据挖掘式的深度学习,是用回避来对付这个问题的。领域里实际的态度是:我们不必担心运动,因为我们有大数据。我们已经能看到所有的观测。
在他的框架里,这让当代机器学习更像那滴油,只不过这滴油被允许看到几乎每一个数据点。蝌蚪必须游出去,才能找到合适的数据。“它喜欢食物”是一个可检验的假设:移动、摄入,然后看感觉上的后果是否证明你是那种喜欢这种食物的东西。主动采样,正是把统计推断变成行为、把模型变成智能体的东西。一个从不需要决定看什么的系统,跳过了按这种观点看来构成智能很大一部分的那个循环。
规划让你更接近意识,但那条界线本身可能模糊到无法划定
被问到这个框架能否谈论意识,Friston 说,要得到权威的答案,最好请一位有资格的哲学家。但信息几何及相关思想,正被用来写下一套关于最小意识乃至自我的演算。第一级是能动性。病毒以寻找宿主细胞的方式具备某种能动性,但你不会赋予它一种能考虑未来的规划能力。一种一边觅食、一边和同伴交流的动物,则拥有另一种生物性的自主。在规划的复杂性之中,人们常常希望能在某处划出一条线。
在访谈前几个月,一位哲学家向他讲解了“模糊性”的技术概念。一堆沙子在哪一刻才算沙堆?一粒不是沙堆,两粒也不是,而且没有哪一个诚实的粒数能让这个概念突然落定。他一直以为,有意识与无意识之间迟早会画出一条线。但这也许是错误类型的问题。话虽如此,他仍然认为规划才是关键所在。如果你感觉表面上的生成模型包含了自身行动的未来后果,你就置身于“规划即推断”的游戏之中。这已经要求运动,也要求一种模型,类似变分自编码器可能编码的那种:以不同行动路线为条件,去思考未来。
在这里的论述中,在各种策略之间做选择,就是自由意志的样子:一件自我证明的人造物,看上去像在各条前进路线之间挑选。Friston 不认为这能一路把你带到自我意识。你得先给出一个正式的定义。他认识的大多数人会否认金鱼有自我意识,会为自己最爱的猫争论不休,却把这个资格给了自己的母亲。Fridman 认为,把自己纳入计划,是复杂规划的关键。Friston 同意这条线并不清楚,而且这个观察比乍看上去更有用。
这一原理和自然选择一样同义反复,却仍然告诉你如何构造一个人造物
这条原理有什么用?Friston 把它比作自然选择:美丽,无可否认是真的,却对你为什么有腿有眼睛保持沉默。它本身不会让你造出什么东西。适者生存也是同样的循环论证。事物之所以存在,是因为它们最小化自由能;它们之所以最小化自由能,是因为它们存在。你可以一直绕下去。
实践上的残留,类似于机器学习里的遗传算法(genetic algorithms),是:存在的东西,看上去其密度动力学在优化一个变分自由能,而这个量是生成模型的泛函,即一个关于外部因果和感觉毯子上后果的概率故事。写下模型,算出梯度(gradient descent),你就应该能让一件人造物实现自我证明:一滴油、一个机器人,原则上甚至是你想要的通用人工智能(AGI),对这个目标做梯度下降。他说,数学上这很容易。真正费力的,是写出生成模型。那种形式就是表型。自然选择从未告诉你为什么有眼睛;自由能原理也不会告诉你,直到你写出那个会产生眼睛的模型。
你之所以需要自我,是因为世界上到处都是和你一样的人;然后你用一生去证明童年时写下的剧本
Fridman 关于把自己放进计划里的那句话,让 Friston 看清了一个自我意识的人造物需要什么样的生成模型。这个模型必须适合它所运行的世界,而那个世界主要是由和它相似的东西组成的。如果你能假设我们是同一种生物,只不过我是我,你是你,那么自我感就成了必需的。在社交世界里,你必须推断出,说话的是我,而不是你。独自待在火星上,或者像野孩子那样身边没有任何同类,你就不需要这种推断。正是他人带来的歧义,使得“我”成为值得保持的一个假设。
这就是为什么我们把自己的特质倾注到宠物身上,也想让机器人长得像人形。如果你能假设自己就是我,只是现在轮到你说话,那么理解世界就容易得多。Friston 说,规划的最高实现,就是他们正在进行的这场对话。轮流发言和心理理论(theory of mind)意味着,我需要一个关于你的模型,即一个关于你的模型的模型,包括你什么时候想听、什么时候想打断、什么时候会挂断。没有这种嵌套的生成模型,他们就会互相抢话,或者像合唱团那样同时开口。对话之舞,就是支撑自我意识的那些模型的证据。
被问到生命的意义,他很想以物理学家的口吻作答:他的行为所预期的自由能,包括寻找关于他自己是哪种东西的信息。个人版本则更简单,也回到了童年。你在睡前故事和童话里,从父母、朋友和文化那里,被赋予了关于你是谁的信念。“我是一位公主,我将遇到一头野兽,它会变成王子。”之后,所有的自我证明,都只不过是以具身的方式去实现这些信念。由于主动推断(active inference)是双向的,你也在改变写下这个剧本的文化。Friston 自己的气质,是爱因斯坦与福尔摩斯的结合:烟抽得很凶,尽量少与人接触,并享受一个略带怪癖的大众科学家的幻想。他的父亲是一名工程师,很喜欢爱丁顿的《空间、时间和引力》。他说,他长大后做的,就是一个温和的福尔摩斯兼爱因斯坦在他的处境下会做的事。
Fridman 以 Friston 的一句话收尾,这句话颠倒了通常关于行动的故事:“你的手臂之所以动,是因为你预测它会动,而你的运动系统要做的,是把预测误差降到最小。”命令再执行,是常识中的顺序。在这种观点看来,大脑先预测一个姿势,运动系统再消除这中间的差距,于是手臂到达,是在行动中让世界符合预测。把同一件事从毫秒拉长到几十年,就是一生都在把童年的叙事变成证据。
同频道的其他文章
3:36:56EN → 简体中文
5:15:51EN → 简体中文
3:12:58EN → 简体中文
3:46:18EN → 简体中文
3:51:47EN → 简体中文
2:53:42EN → 简体中文