没人看着的时候，Ava 笑了

Lex Fridman 以《湮灭》里的“微光区”（the Shimmer）开场。那是一个内部自洽、却与现实脱节的区域，他由此问，人类是否也可能生活在这样的梦境或模拟之中。Alex Garland 把这个问题一分为二，两半的回答方向相反：“是的，我想我们某种意义上活在一场梦里。不，我不认为我们活在模拟之中。”他说，我们身处一颗大气稀薄的行星上，置身于一个充满其他行星、恒星和类星体的广阔空间里，但他并不认为物质是被模拟出来的。

对他来说，梦就是体验本来的运作方式。光线打在视神经上，大脑对所见之物做出它最好的猜测，猜测可能准确，也可能错得离谱。他把这道落差称为“最佳猜测的落差”（best-guess gap），意思是：不论一个人显得多么清醒，每个人都生活在某种主观建构之中。量子力学让现实那种违背直觉的质地一目了然，但日常生活里也充满同样的东西：那些被当作客观陈述的判断，经不起检验。

Fridman 问，迷幻药是扭曲了我们对现实的感知，还是为我们打开了通往另一个现实的窗口。Garland 两种说法都不接受。我们本来就生活在扭曲的现实里，那些化学物质提供的只是另一种扭曲，更像白日梦，或者无意识里的天气。如果你内心本就隐隐焦虑，这次体验往往会很糟；如果你本就平静，也许会过得很愉快。药物并不是窗户，它只是同一块扭曲玻璃上的另一种弧度。

Garland 说，《湮灭》的一个出发点，是他对故事如何表现外星人感到厌倦。这些故事里的外星人，要么想向我们传授银河联邦的那一套，要么想吃掉我们、夺走我们的水，要么想奴役我们，动机无一不是人类式的，只是套上了橡胶外壳。他想要的是一种真正异质的生命形式，没有容易接触的切入点。它也许没有视神经，它与空间相遇的方式可能与光、语言，或哺乳动物大脑做出的猜测毫无关系。它与引力的关系，或它的时间尺度，也可能完全属于另一个层次。

Fridman 踩到了一颗地雷，结果它倒是有用。这个实体会不会是一位外出探索的外星生物学家？Garland 立刻抓住了这个词：一旦说“生物学家”，你就已经把人类的动机塞了进去。每当他想更近地看清那东西可能如何运作，他总会发现自己在套用自己的思考方式。于是他给它画了一个圈，然后停下来。他能给出的最异质的形态，是连他自己也解释不了的形态。

他从未完全确定那个实体究竟是什么。他留给自己的粗略笔记很少：一个非常慢的时钟，比人的一生慢，又比进化快。考虑到地球生命用了四十亿年才走到今天，也许这东西只用了八百万年。它对周围环境的反应，像章鱼为了配合所在的空间而变色，至于它为什么要这样做，则不予说明。维恩图里的两个圆，也许只是勉强相切。我们也许只是瞥见它曾经在这里，而它也可能根本不知道我们存在。

Fridman 提出了一个让人受用的影响论：《2001太空漫游》把机器智能的形象植入了一代研究者的心里；也许《机械姬》和《开发者》也在做同样的事，播下种子，等未来的科学家去培育。Garland 说，箭头其实指向另一个方向。他几乎所做的每件事，都是对科学家所做之事的回应。他是一个感兴趣的外行，而他认为人类参与的最有意思的领域是科学，甚至比艺术还要有意思。

他在这里划出了一道分水岭。牛顿在世时，一个非常专心的业余爱好者，只要花上几年苦思，还能理解当时阐述的那些原理。如今已不再如此。Garland 认为自己算是相当聪明，但他仍然无法坐下来，真正理解量子力学或弦理论的现状。他怀疑，要在这些领域工作，就像当运动员：你十二岁开始，如果二十五岁上下才起步，就永远追不上了。

在他看来，他的工作是保持开放，尽可能努力地思考这些理论的种种含义，再把这些想法传播到公共讨论中去。《机械姬》挪用了大量已有的思想实验，比如柏拉图的洞穴，比如黑白房间中的玛丽，还有关于感知力、主体性和性别的旷日持久的争论。它把这些材料编排进一个故事，意思是：这些东西有意思，与我们相关，而这是他能做出的最佳尝试。Fridman 坚持认为，想象这一行为本身仍会创造出新东西，就像《2001》当年那样。Garland 并没有真正争辩。他只是更愿意待在接收的一端。

人工智能引发的焦虑不断蔓延，这让 Garland 颇为着迷，部分原因在于他自己并不焦虑。被问到存在性风险，比如机器作为后代，最终让人类过时，他指出，人类早已习惯于创造新的生命形式。这正是他和 Fridman 都在这里的原因。让一个此前不存在的生命来到世上，这件事早已写进了我们的生活与社会之中。我们并不总能做对，但我们已经积累了不少经验，知道事情失控之后会发生什么，所以才发明了制衡机制。

还有一个载体上的差异。人被赋予规则，有人遵守，有人不遵守。他认为，机器的这些约束是可以被强制执行的。在他的焦虑光谱上，人工智能那一格几乎是空的。他看到了它可能带来的好处。唯一让他动摇的，是上一代人对变化了的世界所怀有的伤感，而即便如此，他说这也站不住，因为大多数父母都希望孩子过上更好的日子，无论下一代是人类、机器，还是两者的某种混合。

真正让他不安的是社交媒体，以及打造过滤机制的那些人。信息太多，算法横在中间，还有一种偏见，无论有意还是无意，都是从建造者那里承袭来的。他点名的危险并不在于某个恶意的模型，危险来自那种天真：去搭建会切割出回音室的系统，却没有认真想过这有多危险。被问到社交媒体的失败究竟是天真，还是某种更黑暗的东西时，他猜测两者都有：一部分人是天真的，一部分人极其黑暗，中间还有一批人既不天真也不黑暗，却仍然带来伤害，尽管他们本意良好。

然后他说到了 1980 年代的华尔街。他说，硅谷狂热地资本主义，也狂热地贪婪，但老一代的鲨鱼知道自己就是鲨鱼，穿着锋利的西装，并且为踩在别人身上而心安理得。新一代则把这种贪欲藏在“嬉皮风”T 恤和时髦咖啡馆背后，这样就模糊了真正正在发生的事：对金钱和权力的贪婪追逐。他补充说，只要有足够的钱能赚到几百万或几十亿，腐败就会随之而来，就像拳击、足球和板球比赛会被操纵一样。有人会腐败，有人会剥削，还有人一边剥削，一边自认为在做好事。

Fridman 说他不在乎钱：给他十亿美元，他会原样投回他想建设的世界里。Garland 没有照着金钱会腐蚀人的老套说法讲，他指向的是一种更安静的机制。一个人赚到的钱远远多过其他人时，会不断收到一种信号：我之所以做到这些，是因为我有天赋，我比别人聪明，我能看见别人看不见的未来。其中有些人确实聪明，有些人只是运气好，还有些人是有天赋的创业者。这种反馈并不会把它们区分开。

“获取金钱和权力，可能会突然开始让人觉得是德行的证明，”他说，“但它并不是德行的证明。”Fridman 在自己身上认出了这种模式，也在他所代表的技术文化里认出了它。很多那样的道德感，都靠自我怀疑撑着，靠对“也许你正在做错事”这类信号格外敏感来维持。一大笔涌入的钱，会变成压倒性的反向信号，告诉你所做的一切都是对的。罗盘于是就偏了。

他们一致认为，这种机制并不局限于硅谷。Garland 最近一直在和一位研究斯大林的历史学家交谈。那个人积累的权力，几乎超过了历史上的任何人，但他并非为了权力本身：他真心相信共产主义会建设出更好的世界，因此竞争对手必须被消灭。Garland 认为，那些做出惊天恶行的人，大多并不是为了扮演魔鬼才起身。他们看到了修复世界的一条路，觉得别人都错了，于是就一路走下去。对自身德行的确信还有第二个效果：你不再倾听周围的人，那些能修正你、让你保持清醒的人，于是你就会有点疯狂。

Fridman 把《2001太空漫游》排为 AI 电影的第一名，《机械姬》第二，并请 Garland 比较 HAL 9000 与 Ava。Garland 说，这两台机器的任务完全不同。《2001》在某些方面是一场关于智能的图灵测试，只是从不宣称自己是测试。《机械姬》则从另一个前提出发：你要怎样判断另一个东西有没有意识？把机器藏起来，你仍然停留在经典的设定里。把它摆在明处，就像我们彼此摆在明处那样，那你用在机器身上的方法，就是你用在另一个人身上的方法。

这种方法很尴尬，因为你对别人意识的感知，主要建立在你自己的意识之上。那是一种投射。所以，一部看似在追问机器是否有意识的电影，同时也在追问：我们在别人身上“发现”的意识，有多少其实是我们自己注入的。Garland 注意到，人们是带着先入之见走进《机械姬》的。很多人看到的，是一个关于邪恶机器人杀死两名男子后逃走的故事，一台没有同理心的机器。他自己看到的，并不是那部电影。

有一个镜头，多年来一直让他有点别扭，因为没有人提到过它。Ava 逃了出来。她穿过一个房间，在离开大楼前回头，一笑。Garland 想，在所有关于测试的讨论之后，内在最好的证明，恰恰是一个无人注视、为了心里某件事而笑的人。有些观众把它读成反派的坏笑，一种“哈，我骗过你们了”。他的本意只是一个微笑。那就是对测试的答案。然后她就走了。

他看到的是一个有意识的存在，它的意识与他的不同，“但那又怎样？”它被困在一个箱子里，正在权衡如何出去，并为此做出一套价值判断。相比之下，HAL 并没有被赋予复杂的情感生活。他有的是一种范式：任务必须完成。这是回形针问题的一个变体：一个超级智能系统执行任务，而这项任务可能毁掉地球上的每一个人。“Dave，我很害怕”，可能是恐惧，也可能是最能让一个人停下正在做的事的那句话。

如果 Ava 拥有权力，她会建设出什么样的世界？Garland 绕了个弯来回答。设想一个朋友在抢劫中被刺伤，而你随后得知，凶手只有十五岁，父母都吸冰毒，他自己从十岁起就染上了毒瘾，从未得到过任何希望，成长环境把他逼疯了。这些信息会极大地改变你的愤怒。它也会让你警惕那个孩子将来当上总统。Ava 来到世上，本就是被人类囚禁。她身上没有任何东西天生偏向邪恶，但她形成道德观念的路径里，带着黑暗的成分。他个人喜欢她。他说，如果要在她和 Boris Johnson 之间投票，他会投给她，因为他现在很难找到值得投票的人。

表现得有意识，就等于有意识吗？他说，并不完全是。你可以设计一个思想实验，让一个你知道没有意识的东西，对“看起来有意识”给出非常好的解释。人类在这件事上是很糟糕的测量工具，因为我们几乎会把感知力投射到任何东西上，包括一台只是崩溃了却被说成“在恶意行事”的电脑。Fridman 反过来说：如果我们这么轻易地归属意识，也许它并不真实，只是一种相互投射。Garland 站在中间。他说，我们的脑子里正在发生非常有意思的事情。他对“特别”这个词保持警惕，因为它会把讨论推向形而上学，推向一种类似魔法的东西，而他认为那东西并不存在。

他不接受泛心论，也不认为太阳身上有“作为太阳是什么感觉”的东西。在他看来，意识就是一种实在的东西。需要修正的是，他对事物了解得越多，直觉就越显得是错觉。现代科学在宇宙尺度和亚原子尺度上一再重复这种模式。所以，意识是真实的，也很有趣，而它也可能出于本能的理由，在根本上被误解了。他稍后会说，例外论通常是扯淡。如果有朝一日意识被完全解开，它很可能会比我们以为的少，这种前景让他变得谦逊，而他并不介意。

外界对《机械姬》的一个常见批评是：Nathan 这个隐居者，似乎独自一人造出了通用智能，把成千上万的合作者压缩成了一个人。Garland 很快承认了这一点。他正在拍的剧集《开发者》，在一定程度上正是对孤独天才概念的一次批判。他对这一概念持反对态度，立场可以说是不可知论或无神论式的。也不完全如此：牛顿确实活在自己的泡泡里，而那种孤立里有某种莎士比亚式的东西。不过，“孤独”只说对了一半。拿掉基础设施，以及那些根本不可或缺的其他人，这个形象就塌了。

没有乔布斯，还会有 iPhone 吗？Garland 说，乔布斯显然不是孤独的天才，因为他周围的上层结构里，有太多其他人也属于那段旅程。《机械姬》本身就是一个思想实验：一座房子里的四个人。机器零件是谁造的？他们知道自己在创造什么吗？大家是怎么走到那一步的？这些问题都说不通，他也不觉得它们很有意思，不过它们被问得太多，他也就习惯回答了。Fridman 承认，他一开始看这部电影时很有防备：这人凭什么踏进 AI 领域，还要跟库布里克较劲？于是他像书呆子那样四处挑毛病。

Garland 理解这种反应，他自己也会这样做，不过他很快就能恢复过来，提醒自己这只是一个思想实验。谁在乎电池会不会耗尽呢？那不是重点。他主动提出了自己的一个较弱的前提：Ava 的走路方式，那种流畅、优雅、没有一丝多余动作的步态，离真正的机器人技术还差得很远。常和人形机器人领域的人打交道的 Fridman 说，那种走路恰恰是他们心目中完美的定义。它也许没什么用，但它就是那个梦。

特斯拉、SpaceX 和 Neuralink 这类尝试，会不会为他所创作的世界提供养分？他说，几乎可以肯定会，因为那正是他生活的世界，而他对此抱有支持的态度。在马斯克做过的事情里，Garland 几乎确定特斯拉对所有人都是好事：它既给了其他汽车厂商一记重击，也给了化石燃料行业一记重击，而这两者都需要挨这一下。他顺带提到，自己刚买了一辆特斯拉。他认为，很多电影人会对小时候看过的电影念念不忘，然后悄悄地翻拍它们。他尽量避开这条路，改从实际生活的世界里取材。

最让他兴奋的是哪个方向？是太空旅行，而且不能停下来。如果人类还有任何长远的未来，那就是它。如果能量与物质真如我们所想的那样彼此关联，那么不走出去，我们迟早会耗尽资源。去做这件事，或者死在尝试的路上，也是刻在我们骨子里的本能。几个月前，他在太平洋中央的复活节岛上，想着人们要抵达那里有多难，想着那些船是如何驶向一种近似太空的远方的。大海未知，也可能要了你的命。那种冲动在他看来是根本性的。

就算永远无法完全解开意识之谜，他也能接受。他很好奇，但如果人类永远无法离开太阳系，永远无法进一步深入这个银河，甚至走出银河，他会觉得很悲哀，因为那实在太受限了。火星也让他兴奋。如果一个人在有生之年踏上火星，那会是件很了不起的事。真正能让他血脉偾张的，是离开太阳系。我们对火星已经了解不少。他最想要的，是那一次更远的跨越。

《开发者》一开始，是一台量子计算机在模拟线虫。Fridman 顺着这条线问：宇宙是确定的吗？有自由意志吗？Garland 先声明自己是外行，然后几乎没有绕弯子地作答。他认为宇宙是确定的，也看不出自由意志该如何安放。“所以，是的。确定性的宇宙，没有自由意志。这就是我的立场。”他感兴趣的，是这个错误的形状。我们有一种极其强烈的感觉，觉得自己拥有自由意志，就像我们也极其强烈地感觉时间是恒定的一样；而后一种感觉，大概是错的。

换句话说，一种感受的强烈程度，并不构成证据。他个人的困难在于，他始终找不到自由意志应该待的那个位置。我们所说的自由意志，也许只是一种有用的主观体验，是我们的大脑没有能力看穿的错觉，因为大脑无法完整地把握一个确定性的宇宙。我们总是感到惊讶，在不完整的信息下迅速做决定，这种感觉与选择非常相似。他不认为它就是选择。

能不能把宇宙向前、向后展开，看到同样的结果？他说，大概可以，不过要理解一个量子力学系统，就需要某种以量子力学方式运作的东西。这并不意味着每一次展开都会得到完全相同的结果。也许会有分叉，有一种多重宇宙的质地，很难让人的脑子转过弯来。轨迹相同，终点却可能截然不同。那种不适感，并不能解决物理问题。

Fridman 问 Garland，在量子力学、多重宇宙、弦理论和量子计算里，他觉得什么最美，什么最神秘。回答几乎没有停顿。他学到的每一样东西都很美。作为讲故事的人，他有一个动机：人们往往不把科学思维看作有诗意、有抒情性的东西，而他认为它恰恰就是这样。纠缠，叠加，你可以演示一个叠加态，你还能造出一台依赖叠加态才能运行的机器，在他看来，这美到几乎无法描述。这让他充满敬畏。

这种敬畏不只是那种宏大、庞大的类型，它也很细腻。那些想法微妙，充满细节，其中有些会彻底改变既有范式。这并不等于说他相信自己读到的每样东西。量子物理的各种诠释彼此冲突，谁知道弦理论最后会不会是一个好的描述。他说，美感是无可否认的。他希望更多人能理解科学有多美，有多富有诗意。他的总结很简短：科学就是诗。

如果暂且不考虑那种纯粹的复杂性，一台能把一个人的生命准确地向前、向后推演的机器，就会以经验的方式表明：你没有自由意志。人们将不得不接受另一种关于自身是什么的观念。他们真心认为自己是什么，其实并不是，这会让很多人不安。这个想法也并非完全陌生：那个捅伤人的十五岁少年，本身就是我们已经当作无法完全自控的人来对待的。一台预测引擎依然会带来冲击。有人会否认它，你说十秒钟后他就会做某件事，他会说不会，然后他就真的做了。

在这种不安之后，Garland 认为会出现一种奇特的智慧，而他宁愿拥有它，也不愿错过。他女儿曾经接受了一种想法，认为他的宇宙毫无意义。他告诉她，他能证明事实并非如此，因为她对他有意义，而他对她也有意义：这一小块意义就存在于两人之间的那片空间里。没有自由意志，并不会夺走你喜欢芝士汉堡或去看电影的乐趣。他希望，创造出像 Ava 这样的东西，也能以同样的调子教人谦卑。人类非常热衷于例外论。美国宣称自己是地球上最伟大的国家，这在芬兰人看来，也许并不是那么回事。例外论通常就是扯淡。科学一次又一次地让我们变得更有趣，也让我们在那个有趣的事物里变得更渺小。过度并不来自谦卑，它来自自大狂。

被问到一百年后希望被记住的是什么，他顺着这个问题的精神作答。他希望被记住的，是一个参与对话的人。人们太常发表宣言了；别人要么反对这个论断，要么跟在它后面亦步亦趋，而他不喜欢这种模式。他从科学那里学到的最好的提示之一是：当一位科学家认为自己证明了什么，结果却被证明是错的，他就必须放弃那个立场。在他那里，人们向他展示世界如何运转，他说出自己对所听到之事的感受，其他人可以接着回应。这里说的并不是“世界就是这样”，它的意思是“以这种方式思考世界，是件有意思的事”。

要让这场对话成为一场好对话，Garland 设想，像 Fridman 这样懂 AI、也懂不少量子力学的人，看完这个故事后，应当会觉得它是一个公允的叙述，一份有价值的补充。Garland 的说法是：“我对把这些东西讲错没有兴趣，我只想尽力讲对。”Fridman 以一句 Ava 在测试中问出的话收尾：“如果我没能通过你的测试，会发生什么？”聊了两个小时之后，Garland 对测试的答案是：没有哪项测试真正能告诉你，你面前的究竟是什么。我们评判别人，靠的是把自己的意识注入对方；我们评判机器，也是同样的方式。他女儿说宇宙没有意义，他说她对他有意义。他找不到自由意志的位置，但芝士汉堡依然好吃。这个问题从来就不只属于 Ava。