“这么说还是有机会的”：马斯克谈 Neuralink、AI 和淡蓝点

Lex Fridman 开启了与马斯克的第二次对话，把他称为一位世界级的工程师，而不只是特斯拉、SpaceX、Neuralink 和 The Boring Company 的公众形象。Fridman 说，大多数科学家和工程师不会质疑事情的做法，只是顺着大众的惯性走。无论大小尺度，真正改变世界的想法，都出现在有人回到基本原理、问“有没有更好的办法”的时候。

这个框架就是进入 Neuralink 的门。照 Fridman 的设定，这项工作不是单一的登月式项目。它应该用于治疗神经生物学疾病，追溯从单个神经元到高级功能的路径，并在将来通过与计算机、互联网和 AI 系统的双向通信来扩展大脑。近期的任务具体而实用，长期的任务则是一种对冲，应对数字智能在各方面超越我们的未来。

Fridman 开玩笑说，一位 YouTube 评论者把他们上一期录制的节目称为两个机器人之间的第一场无人监督对话。然后他提出一个他所谓的简单问题，其实一点也不简单：意识是人类独有的，还是渗透在一切物质之中，几乎就像物理学中的一种基本力？接下来这一小时的内容，都取决于马斯克如何回答这类问题：什么可以检验，什么只是偏好，以及在窗口关闭之前，什么值得去建造。

马斯克并不认为意识渗透在一切物质之中。Fridman 紧接着追问：如果那是真的，你怎么判断出来？马斯克落到了科学方法上。如果无法检验一个假设，就无法得出它为真的有意义的结论。没有检验，谈的就只是偏好或无法检验的信念。按这个标准，泛心论算不上知识，它只是一个允许你喜欢的故事。

科学能否理解意识？马斯克不会声称任何人能够完全准确地理解任何东西，但他确实相信，我们可以大幅改进对意识的理解。Fridman 接着问，一个系统要达到人类水平或超人类的智能，是否需要意识、身体、对死亡的恐惧，或者爱的能力。马斯克把这些词拆开来说。智能、自我意识，以及意识“感觉起来是什么”，这几样很容易被混为一谈。我们是不是正在走向一个 AI 在各方面都能超越我们的未来？他说，答案毫无疑问是肯定的。一个超越我们到这种程度的系统，会具有自我意识。但这仍然不同于作为一种被感受维度的意识，而后者本身或许就是一种错觉。

物理线索很直接。损伤大脑，就会损伤意识，这意味着意识是一种物理现象。马斯克认为，数字智能很快就能把我们认为的意识模拟到足以让人分辨不出的程度。从科学方法的角度看，一个完美的模拟不妨就等同于那个东西本身。他想要一个比文字聊天更苛刻的图灵测试：与一个数字超级智能通电话或开视频会议，对方有恰当的语调、细微的动作，也会犯错。如果你分不清对面是人还是 AI，那它不妨就是人。这正是他要带进对话黑暗那一半的想法。

Fridman 转向生存风险。马斯克曾说，AI 可能是文明面临的最大挑战之一。Fridman 提出三条路：加大 AI 安全与有益 AI 的研究，希望找到算法或政策上的修补；尽快成为多行星物种；或者与 AI 融合，乘上不断上升的智能之浪。哪条最有希望？马斯克没有挑选。他先从钱说起：如今已经有大量资金投入 AI，缺少的是对安全的投资。

他给出的制度性答案是设立一个政府机构，职责是确认某个系统不会对公共安全构成风险。食品有 FDA，汽车有汽车安全规则，飞机有 FAA。一旦某样东西可能危及公众，社会就已经决定需要一位服务于公共利益的裁判。马斯克认为，AI 毫无疑问属于这一类，因此出于同样的原因也应当有监管者。接着他指出自己论点中的漏洞：政府动作非常慢。监管机构通常是在可怕的事情发生之后才设立的，随之而来的是公众的抗议，再过好几年，规则才会写出来。

安全带是他举的例子。人们早就知道，安全带能拯救生命、减少严重伤害，已经有十年甚至更久。汽车行业拼命反对强制安装。马斯克说，那段延误中可能有几十万人死亡。汽车行业还称，人们不会购买装有安全带的汽车，他认为这种说法显然荒谬。烟草行业也抵抗了同样长的时间，这也是他参与拍摄电影《感谢吸烟》的原因之一：借此展示，当企业俘获政府的监管机构时，会有多糟糕。在这种叙述中，数字超级智能只有在一个意义上才算奇点：很难预测它之后会发生什么。它有一定概率是坏的，也有一定概率是好的。裁判，就是你用来试图推动这一组合朝好的方向变化的办法。问题在于，AI 不会等待那场历史上催生了裁判的事故。

Fridman 把话题转到 Neuralink 的硬件：柔性导线、机器人缝纫机、会随大脑移动的植入体，以及包裹这一切的安全论证。我们目前对人脑的了解非常有限。这项工作会教会我们更多关于心智的东西吗？马斯克认为会带来许多洞见，因为我们现有的数据太稀薄了。他打了个比方：磁共振成像（MRI）就像把听诊器贴在工厂外墙上，然后沿着整座建筑到处移动。你能听到声音，却不知道里面的机器在做什么。你只能大致推断出一些东西。要弄清楚到底发生了什么，你需要高精度的传感器，以及一个刺激—反应的回路：激发这个神经元，你会感到、看到什么，或者你对世界的感知有什么变化？

对人做这件事，意义重大，这是机器无法比拟的。人能够描述变化：情绪的转变、视觉或听觉变得更敏锐、句子变得更容易或更困难，或者一段记忆被唤起，受试者可以告诉你。Fridman 随后问到可塑性。大脑会适应，神经网络也会适应，双方必须找到一种通信协议，几乎就像与一个外星物种相遇。谁付出的努力更多？马斯克对生物大脑并不抱浪漫的幻想。老实说，大脑没有那么可塑。它有一些弹性，也有坚固的结构。机器的一侧比生物的一侧要可塑得多，差距巨大。植入体必须适应大脑。他说，这是唯一可能的做法。

神经元不会把电极当成另一个神经元来记录，因为神经元只是一种脉冲。别的东西在脉冲，就不是同一类邻居。接口可以有一定弹性，大脑也会对正在读取和刺激它的东西做一点适应。但绝大部分调整仍然必须发生在机器一侧，否则，马斯克说，就无法工作。Fridman 想知道，接口处的突触可塑性会不会变成一种新的可塑性，成为大脑的延伸，而不是对皮层的改写。马斯克没有接这个话。有些适应，是的；大部分，不是。这种不对称性是设计上的约束，而不是哲学偏好。

马斯克对一个人的基本模型是两层。底层是边缘系统，那是原始的大脑，冲动从这里产生。上层是皮层。他说，人脑就是一个装了电脑的猴子大脑。我们很多冲动都由那只猴子驱动。皮层不断试图让猴子大脑高兴。实际上是反过来的：皮层在替原始层忙前忙后。皮层是负责讲故事的部分，于是我们说服自己，整场表演比猴子的把戏更有意思。其他生物的电脑很弱，或者根本没有。我们有一台很强的电脑，但它仍然拿不到方向盘。

皮层与边缘系统之间的智力差距巨大。边缘系统完全无法理解皮层在做什么。它饥饿、疲惫、愤怒，或者有性欲，然后把这种冲动送到楼上。皮层就去满足它。马斯克说，大量的思考都花在了不以生育为目的的性上，如果繁殖不是重点，这样做本身就有点荒唐。为什么要这么做？因为这会让边缘系统高兴。Fridman 指出，整个存在本身相当荒谬。马斯克很乐意继续下去。数字神经网络将与生物神经网络相连接，他希望，也会带上我们一起。在那样的未来中，我们的智能绝大部分将是数字的。

Neuralink 在近期的用途是什么？马斯克列举了与大脑相关的疾病：自闭症、精神分裂症、记忆丧失、记不住孩子名字的父母。脊髓损伤、中风，以及用硅替代缺失的神经回路。这些都是路上的步骤。最终，这台设备是要应对数字超级智能的生存风险。你不可能比数字超级计算机更聪明，所以也就赢不了它。那就加入它，至少留下这个选项。Fridman 问，他是否真的希望这种连接能让我们融合，并乘上不断进步的 AI。马斯克说，机会大于零。确实有机会。Fridman 接上了《阿呆与阿瓜》的台词，马斯克接过了这句话。或许几率会从百万分之一，逐步升到千分之一、百分之一，再到十分之一，这取决于 Neuralink 进步得有多快。

长远的图景是第三层。边缘系统是第一层，皮层是第二层，数字超级智能是第三层。人们通常喜欢同时拥有前两层，也不想删去任何一层；马斯克说，乐趣在边缘系统里，而人们仍然想要皮层。他的乐观是类比式的。皮层比边缘系统聪明得多，二者仍然协同工作。也许一个第三层的数字系统，比皮层聪明得多，也能与两者和平共存。时间点不由人选择。Neuralink 必须尽早解决这个问题，因为数字超级智能到来的那一刻就是奇点：未必是好是坏，但极不稳定。他希望在那一刻之前，或者至少在不久之后，就有人脑接口，以尽量降低人类以及我们所知的意识面临的生存风险。

Fridman 问，实际的工程难题是什么。马斯克列出的是一整套学科：材料科学、电气工程、软件、机械工程、微加工、芯片设计。电极必须小到不会伤害神经元，并且要能用上几十年，与一个人的寿命一样长。信号必须在极低功耗下进行本地处理，因为大脑对热敏感，一块发烫的芯片在组织旁边就是一座小火炉。然后设备还要对这些信号做出处理，并反向刺激。双向通信才是重点。只读不写，只是半个回路。

他称之为非常难的，是材料问题。你要在一个本来就带电、带化学活性的区域里读取并刺激电信号。怎样给电极涂上一层涂层，让它随时间不溶解，同时在大脑中依然安全？收集信号既是功耗预算，也是算法问题：处理它们的电力只有极少的一点。然后，整个手术过程必须实现自动化。如果由神经外科医生一位一位地做，就没有办法规模化到大量人群。马斯克说，它必须能规模化，因为我们最终希望未来由大量的人类来决定。

Fridman 问，这是否会更广泛地彻底改变外科手术。马斯克说，它必须像 LASIK 那样。如果 LASIK 仍然是手工操作，那就不会很好。现在是机器人来做。眼科医生主要需要确保头部位置正确，然后按下按钮。在这种叙述中，脑植入体也应当走同样的路。规模化不只是商业模式里的一个注脚。它是一个物种在一个即将长出比皮层更聪明的一层的世界里，保有发言权的方式。

话题转到特斯拉。Fridman 认为，Autopilot 或许能让公众了解 AI 和机器人，因为很多人可能从未见过机器人，却会看到几十万辆没有人坐在驾驶座上的车。马斯克觉得这是负担，还是只是一项停车功能？他说，他们真正想做的，是通过自动驾驶让人们的生活更轻松。不过既然 Fridman 提到，他同意这会让人大开眼界。大多数人从未真正见过机器人。一辆自动驾驶汽车就是一台四轮机器人。已经有几十万辆具备自动驾驶能力，他说，要不了多久，就会有一百万辆能在没有人坐在车里的情况下开动。

他声称自己能立刻从细微的动作变化中判断出一辆车是不是在用 Autopilot。每个版本的软件都有一点不同的性格。在高速公路上，系统比人更精确地保持在车道中央。他说，看看人类驾驶的车在各自车道上，就像碰碰车一样到处乱晃。Autopilot 的车则保持在中央。Fridman 问特斯拉在完全自动驾驶上处于什么位置。在高速公路上，需要人工接管的概率已经极低。在走走停停的车流中，马斯克说，Autopilot 目前比人安全得多：受伤的概率低得多。它能够变道，也能处理高速公路的立交。他们也从另一个方向切入这个问题：低速完全自动驾驶。

低速这条路，正是人学开车的方式。你先从停车场开始，而不是一上来就在旧金山的混乱街道上。慢慢做对，再逐步扩大。他提到仍然缺失的部分是红绿灯和弯道很多的道路。在他看来，小街道相对更容易，至少你知道街道在哪里。红绿灯和蜿蜒的几何结构，是仍然需要解决的两件事。成熟与否的民间检验标准，隔着一条车道就能看出来：车不乱晃。剩下的工作，是在世界不再像高速公路时，也能保持这种平稳的表现。

Fridman 问，感知和控制哪个更难：完美地看见一切，还是看见之后做规划。对于特斯拉正在训练的那个巨大的多任务网络，马斯克的回答是感知。最难的，是在向量空间中对物理物体做出准确的表示。拿视觉输入，再加上一些声纳和雷达，建立一张关于周围物体的精确地图。一旦这种表示足够准确，规划和控制就相对容易了。用他的类比来说，它们就变成了一款电子游戏。

《侠盗猎车手》里的车在路上行驶，除非你撞上它们，否则不会相撞。那是因为它们早就拥有一张关于其他车辆位置的精确向量空间表示。画面只是外在的表象。马斯克说，高速公路上的完全自动驾驶正在按计划推进。Fridman 指出，他们仍然通过方向盘上的扭矩来感知驾驶员。接着谈话变得轻松起来。Fridman 提议，特斯拉的卡拉 OK 功能不仅有趣；坐在车里唱歌，或许还能帮助保持注意力和警觉。马斯克的回应是耸耸肩，这与这一小时其他部分的风格相符：你可以同时做两件事。有趣和安全功能不必二选一。

Fridman 刚刚见过 Carl Sagan 的遗孀 Ann Druyan，他是《宇宙》（Cosmos）的爱好者。他说，Sagan 很会表达：所有的意识、所有的文明，以及我们曾经知道的一切，都坐落在一个微小的蓝点上。人们常常陷入人与人之间的争执，把继续存在视为理所当然。他们不应当这样。文明会兴起，也会衰落。现在文明已经全球化，所以它的兴衰也会一起发生。地理上的隔离已经消失。事情并不总是向上走。Fridman 说，这是历史的一个重要教训。1990 年，应 Sagan 的请求，旅行者1号在约 60 亿千米（37 亿英里）之外调转方向，拍下了地球的照片。地球在照片里占据的面积还不到一个像素。Sagan 把它称为淡蓝点，并在 1994 年谈到了这张图像。Fridman 请马斯克读出其中的文字。

马斯克先算了一笔账。宇宙似乎有 138 亿年的历史。地球大约 45 亿年。再过大约 5 亿年，太阳会膨胀，很可能蒸干海洋，让这里的生命无法存在。如果意识演化的时间晚上 10%，它就根本不会费心出现。只晚 10%。他想知道，外面有多少只待在一颗星球上的文明已经灭亡，那些物种从未能抵达另一个世界，而是自我毁灭，或者被外部因素摧毁。大概有几个。他说，去火星的尝试只是刚刚够得着，几乎是勉强的。在他的叙述中，相关引力若变化 10%，即便是从火星表面向地球方向做一次单级飞行，也会变得不可行。这扇窗口既靠运气，也靠本事。

然后他读 Sagan 的文字。再看看那个小点：就在那儿，那就是这里，那就是我们。你爱的每一个人、你认识的每一个人、你听说过的每一个人，以及曾经存在过的每一个人，都在那上面度过了一生。所有的欢乐与苦难，成千上万自信满满的宗教和教义，每一个猎人和采集者，英雄和懦夫，国王和农夫，年轻的恋人，圣人和罪人，都在一粒悬浮在阳光中的尘埃上。我们的星球是伟大而包围一切的宇宙黑暗中一个孤独的微尘。在这浩瀚之中，没有任何迹象表明，会有援助从别处到来，把我们从自己手中拯救出来。地球是迄今已知唯一孕育生命的世界。至少在可预见的将来，我们的物种没有别的地方可以迁徙。马斯克停了下来。他说，最后这个说法并不成立，这正是火星存在的意义。他认为 Sagan 会同意，只是 Sagan 当时无法想象这一点。

修正很小，却是这一小时的全部方法。安全带规则、AI 裁判、双层大脑、像观察工厂外墙那样的磁共振、以向量空间感知的汽车：马斯克一直在拿一个已经确定的故事，去问它能否经受住检验。Sagan 在 1994 年的结论，对他所拥有的那个地球是诚实的。一代人之后，马斯克想让这句话失效。没有人会来把我们从自己手中救出来。如果存在第二个世界，我们就得自己修出一条通往那里的路。在这种意义上，Neuralink 不只是一件小玩意。它是又一次尝试，要让意识留在这场游戏里，而时钟（10%、5 亿年，或者数字层的到来）仍在走。