硅不会发光

Fridman 开场谈的是 Shainline 写的一篇论文，名为《Optoelectronic Intelligence》。文中提出了一种受大脑启发的计算架构：用光传递信息，用电子电路加工信息。Shainline 说，美国国家标准与技术研究院的很多工作专门围绕超导电子学展开，但只有看清它想要避开什么，这一选择才说得通：那就是普通的半导体硅。

像硅这样的半导体，在低温下没有自由电荷。加上电压，电子就会移动；这些电流可以被测量，并用作信息。这种材料是一种晶体，原子排列在近乎完美的晶格上，你可以用磷替换一个硅原子，从而改变有多少电子可以自由流动。晶体管于是有三个端子：左、右，以及一个控制沟道通断的栅极。由这种 0 和 1，数字电子学搭建起了现代世界的其余部分。

晶格间距约为 0.5 纳米，比人的头发细约六个数量级。人们所说的摩尔定律（Moore’s Law），就是不断缩小沟道、在同一块芯片上放入更多晶体管的能力：同一个程序因此变得更快、更便宜，而软件作者几乎不用做什么。Shainline 指出，近几十年来功耗的缩放不再那么顺利，但这一进程持续了很久。他们交谈时的最先进水平是 7 纳米晶体管，导电通路上只有几十个原子。

这些晶体管不是一个一个造出来的。芯片工厂从一片原始的晶圆开始，用光刻在光刻胶上描出图形，只在图形开口的地方注入离子。光子击中处会使聚合物链断裂；水基清洗液溶解掉曝光的光刻胶，留下其余部分。同一图案被印刷到各个晶粒上，一层一层地叠加，通常有几十层，成熟工艺中可能有上百层。晶圆已经长到 300 毫米，大约有披萨那么大，在被锯开之前可以容纳约一千个处理器。

光刻所用的光已经位于深紫外区，波长超过 100 纳米，而图形特征却是 7 纳米，业界还在讨论 4 纳米。Shainline 并不假装知道让这一切成为可能的每一个光学技巧。让他印象深刻的是，宇宙的物理规律允许这样做。与其说人类发明了这种缩放，不如说是发现了它，尽管他们也发明了沿途的每一件工具。

Fridman 问，这种特殊性只是光刻，还是整个堆栈，甚至包括那些在这种尺寸下依然能充当栅极的电子。Shainline 说是整个堆栈。硅本身就是一种特别的半导体。场效应晶体管（MOSFET）需要在栅极下方有一层薄绝缘体，使载流子被拉入沟道，而不是被吸入接触区；而二氧化硅会在空气中自然生长在硅的表面上。元素周期表上几乎没有别的材料能做出这么好的栅氧化层：缺陷密度低，能隙大，而且能承受很高的电压而不漏电。

1940 年代末晶体管发明之后，有好几种半导体在竞争。多数人看好锗，因为它的电子在晶格中运动得很好。另一些人押注 III–V 族化合物半导体（III–V compound semiconductors），它们的器件物理看起来更加漂亮。广撒网本来就是科学应有的做法。硅最终仍然胜出。其他材料并非毫无用处，它们在一些小众用途中仍然存活；但硅正是数字计算的平台。

硅的胜出是多种因素妥协的结果，单独哪一个都不足以决定胜负。除了栅氧化层，硅还是一种单质半导体：只需要硅原子就行。化合物半导体则需要两种元素在晶格上交替排列，一旦某个原子坐错了位置，就会打开一大堆缺陷。还有禁带宽度的问题。锗的禁带宽度约为 0.75 电子伏特，硅则是 1.1。室温下的热激发会把偶然产生的载流子激发过过窄的能隙，而这些载流子会造成计算错误。载流子密度随能隙呈指数下降，因此零点几电子伏特的差距，就让硅恰好处在适合常温环境的甜蜜点上。

Fridman 注意到，数字计算居然假定错误极其罕见，这很奇怪，它与大脑恰恰相反：大脑假定到处都会出错，却依然必须保持稳健。Shainline 表示同意。被问到一个调皮的问题，即物理学家和工程师谁更该获得功劳，他没有上当。物理学把你带上场：先是半导体理论，然后是晶体管。此后的摩尔定律属于工程，这也是为什么如今一部手机能跑赢过去的超级计算机。硅的材料性质、光刻、X 射线晶体学和高分子化学，并不能干净利落地归于分界线的哪一边。这是一场漫长的共舞。他打趣说，生物学只体现在做这些工作的人身上，直到他们开始研究大脑。

在普通导体中，撞上晶格缺陷或其他电子的电子会损失动量，因此你必须持续施加电压，电流才能持续流动。在超导体中，电流一旦开始，就会无耗散地永远流下去。Shainline 说的是传统的、低临界温度的材料：临界温度约为 10 开尔文，工作在 4 开尔文附近，也就是比绝对零度高 4 度。在这个温度下，原子振动和电子碰撞的噪声降得足够低，使电子能够落入一种有时被称为宏观量子态的状态。

把一块铌冷却到临界温度以下，超导态中的电子就占据了一个相干的量子波函数，这个波函数延伸到整块金属。电子是全同粒子，所以如果一个电子撞上了本应使它散射的缺陷，另一个电子便能顶替它，整个状态不会被散射。无耗散的流动就是超电流。你仍然可以做导线，但也能做器件。最通用的元件是约瑟夫森结：两根超导线被一层薄绝缘体或正常金属隔开，超导波函数会穿隧过这个弱连接。

超导体只能在临界电流以下承载超电流；超过这个限度，它就变成了普通电阻。把约瑟夫森结偏置到这个限度之上，它就会向相邻的超导环路注入一个量子化的电流包。业内的行话是，你把一个磁通量子（fluxon）打进环路里。这些脉冲的传播速度约为光速的三分之一，开关可以在几十皮秒内完成，器件能在数百吉赫兹下运行。常规处理器大约在 1 到 3 吉赫兹。为 4 吉赫兹而兴奋的玩家，看错了比赛的项目。

约瑟夫森结的物理学已经很清楚了。它们没有在数字计算中取代硅，原因很平凡。你可以不断缩小晶体管，它依然能完成数字任务；而约瑟夫森电路往往依赖结与环路之间的相互作用，环路不能随意做小。真正的限制来自磁场如何与超导材料相互作用，光刻本身并不是瓶颈。液氦和一个啤酒桶大小的低温恒温器放不进手机。对于仓库级规模的机器，账本就变了：Shainline 参观过橡树岭国家实验室（Oak Ridge）的 Titan 和 Summit，那些机房在冷却上已经花了大笔钱，即便在那里，他也不认为超导体会在数字工作中取代半导体。

IBM 在 1970 年代推动过超导数字计算，回头看，它选择的器件和架构注定会失败。1990 年代，Konstantin Likharev 与 V. K. Semenov 提出了一整类约瑟夫森逻辑，理论上可以比硅快一百倍。Shainline 后来读了这些论文，觉得它们非常精彩。硅之所以持续胜出，是因为缩小特征尺寸是一条持续变好的简单路径。单个开关的速度或能耗并不等于一台计算机，制造、封装和材料都要算进去。他回忆说，Likharev 本人也认为，抢夺硅在数字领域的戏份，大概是这些电路最不合适的用途。

这就留下了另一种计算。数字逻辑是比特，是两个界限分明的状态，有时钟，有算术深度，高度串行。大脑毫无疑问在处理信息，但计算的起点和终点定义得很模糊，信号是模拟的、异步的，也没有时钟；时间尺度是由内部活动构成的。晶体管是数字计算机的一个构件。神经元是一个处理器。甚至突触也不是晶体管。神经元接受多种输入，跨越许多空间和时间尺度，并产生多种输出，计算和通信在这里就成了两件不同的工作。

Shainline 在《Optoelectronic Intelligence》中写道，电子擅长计算，光擅长通信。按他的用法，计算就是接收信息、对其进行操作，并产生新的、更有用的信息。一张含有钥匙的图片输入进去，钥匙的坐标输出来。你减少了总信息量，同时保留了重要的部分。通信则是把信息从存储的地方送到需要它的地方。Rolf Landauer 坚持认为，信息是物理的，所以它一定待在某处，搬运它就是一个物理行为。理想情况下，通信不会改变信息，它只是把信息重新放置。

电子带电，相互作用很强。堆积起来的电子会想离开；它们也有质量，所以你可以把它们停放在某处，并把这叫作一个比特。改变栅极电压，你就能移动它们。光子，尤其是低强度的光子，基本上彼此之间不相互作用。给某个通道再加一个光子，其他光子仍然做着原来的事，这对扇出极好，对计算却很糟：一包光很难改变另一包光。让电子沿导线传输，就意味着要给导线充电。电容随长度增长，能量随电容和电压的平方增长；而一个必须与 10000 个同行通信的神经元（这是现实的皮层数量级），就要为此付出 10000 次代价。

波导则不同。把光子注入玻璃光纤或片上硅中，所需提高的电压不会随长度或额外的分支而增长。连接越多，光就越多，因为光子会沿分支分裂，但这里没有电子式的电容性寄生布线。在另一端捕捉光子，这个问题并不愚蠢，它构成了该研究院团队大部分工作的核心。组长 Sae Woo Nam 的职业生涯就建立在超导单光子探测器上。电流在一个超导支路中流动，直到一个光子破坏宏观量子态，该支路转为电阻态，电流改道进入一个可测量的脉冲；几纳秒后，导线冷却，超导性恢复。

半导体探测器需要约一千个光子才能登记一个脉冲，而超导探测器只需要一个。在 Shainline 的神经形态设计中，这是一个优点：一个光子或五个光子产生的突触事件相同，因此通信保持二值，不会把额外的模拟信息夹带进通道。该团队的其他超导传感器，包括与 Adriana Lita 相关的过渡边缘传感器（transition-edge sensors），可以按脉冲幅度计数光子，这对用数态编码信息的光量子计算很重要。但对这种架构而言，要点更简单：通信只应表明，一个神经元放电了。

Shainline 说，神经形态计算是一个连续谱。有些芯片仍然像拥有更多内核、并使用类脉冲消息的数字计算机。另一些则把晶体管当作模拟电路使用，行为更像神经元，这一谱系可以追溯到 Carver Mead、Giacomo Indiveri、Gert Cauwenberghs、Jennifer Hasler 等许多人。Shainline 身处光谱的另一端：放弃常规硬件的假设，从第一性原理出发，询问什么样的物理能让一个人工系统捕捉大脑的信息处理技巧。神经元和突触的适应时间尺度，从两次放电之间的间隔，一直到有机体的整个寿命。网络结构的重要性，至少不亚于器件本身。

新皮层神经元会形成数千个连接，这使信息能够迅速从网络中的任何一处跳到任何另一处。在皮层中画一个框，大多数连接仍留在框内，这叫聚集；但有一部分不可忽略的连接会离开框，而且更大的框显示出同样的统计特征。这就是尺度不变性。连接概率随距离的变化并非指数式衰减（那样的话大脑就是局域的）；它是幂律，形状与引力和电磁力属于同一族。时间上同样如此。神经元并不共享一个特征频率；振荡频率的分布同样是幂律，从几十毫秒一直延伸到一生的记忆，如果你愿意，还可以延伸到不同有机体与文明之间。在硬件中捕捉这些嵌套的时空动力学，在 Shainline 看来正是神经形态计算的目标。

架构不是可选项。把大脑皮层铺在桌子上，大约有披萨那么大：约 100 亿个神经元，具有幂律连接，处理着 György Buzsáki 所说的“什么”（what）通路。海马体则跟踪“在哪里”和“何时”，其连接几乎是随机的，随距离几乎不衰减，但只有约 1 亿个神经元，小到足以保持高密度连接。两个模块通过丘脑不断对话，它们合起来就是丘脑皮层复合体（thalamocortical complex）。Shainline 认为，如果你想得到同样的活动，而不只是一锅神经元的浓汤，构建具有这种模块化分工的系统，大概是必需的。

记忆由多种机制构成，而不是一种。Hopfield 式工作记忆存在于动力学模式之中：足够相似的输入会落入同一个吸引子，比如上次属于某位电影明星的那张脸。印入这些模式需要突触权重更新。用 Shainline 的硬件语言来说，监督学习意味着外部用户可以调节每一个权重的旋钮；无监督学习则意味着权重从器件物理中自行重新调节，没有任何外部导线接入。生长新的长程轴突，并不是你学习这段对话的方式；那是对已有接触的可塑性。短期突触可塑性会在第二、第三、第四次放电之后削弱突触。元可塑性（metaplasticity）改变的是权重变化的速率，就像讲堂里的一种神经调质让你更容易被写入。稳态机制让过度放电的神经元提高阈值，回到有用的范围。权重更新是故事的重要部分，但不是全部。

这一硬件计划是美国国家标准与技术研究院在博尔德园区的集体工作；该研究院隶属于美国商务部，更为人所知的是标准和精密测量。Shainline 提到 Sae Woo Nam、Rich Mirin、Sonia Buckley、Jeff Chiles、Adam McCaughan 和 Bryce Primavera，本文借用了他们的思想。他们大多是物理学家、电气工程师和材料科学家；他希望能有更多神经科学家加入。外界常说，我们无法复制大脑，因为我们并不了解它。五到七年前，Shainline 也这样认为。后来他读了文献，却被相反的事实震撼：人们已经知道了这么多，而许多概念在数学上也已经相当完备。意识和自我仍然是悬而未决的问题。但大脑在做什么、为什么这么做，对一个硬件设计者来说，已经是一份可用的路线图。

他说，如果硅芯片上的光源像晶体管一样简单，那么世界上就不会有处理器在超过一定距离时不用光来通信。硅因其能带结构而极不擅长发光，这是室温下不可改变的材料事实。化合物半导体发光效率很高，但它们的晶格常数与硅不同，而生长它们所需的温度，会毁掉已经在晶圆上的晶体管。在 Shainline 看来，自然并没有邀请你把激光器与数字开关单片集成（monolithic）在一起。行业里实际的答案是封装级集成：在不同的芯片工厂分别制造硅芯片和 III–V 族光源芯片，再把它们拼接在一起，就像 Shainline 在 Vladimir Stojanović 的项目周围所做的工作，后来那个项目发展成了 Ayar Labs。这有助于带宽，但它仍然不是每个神经元都配一个光源。

超导电子学改变了集成问题。你仍然从一片硅晶圆开始，但它现在大多只是三明治的面包；计算发生在沉积的超导体中，这些超导体不需要与晶体管做晶格匹配。化合物半导体发光器可以放在晶圆上，超导电路可以生长在它上面，至少，这并非显然注定失败。4 开尔文也让硅本身成为一种没那么糟的发光体。而且，由于超导突触只需要一个光子，而不是几千个，你可以接受世界上最差的光源，只要它在神经元放电时能喷出几千个光子就行。室温下的光电集成一直极其困难。Shainline 的赌注是，一种不同的应用（神经形态而非数字），加上超导探测器，或许终于能让它实现。

4 开尔文让很多人站起来离开。Shainline 称这种想法是“以地球为中心”的。我们生活在 300 开尔文，也希望我们的小玩意儿待在那个温度。宇宙微波背景是 2.7 开尔文；我们仍然比深空要暖和。量子计算通常在 50 到 100 毫开尔文下工作，又冷了一百倍，但这并没有阻止这个领域的发展。他说，只要放弃在火车上用手机和笔记本电脑的想法，4 开尔文在实验室里就是寻常事。对于认知的物理极限这类科学问题，舒适不是约束条件。如果冷的硬件能在比任何室温技术高出几个数量级的规模上思考，那就选择冷。

在这个平台上，一个神经元就是约瑟夫森电路。突触接收超导探测器上的一个光子，并把模拟电流（有效分辨率约八到十位）加到一个环路上；一个电阻设定指数衰减，即突触后信号。同一个构件，即由两个约瑟夫森结组成的直流超导量子干涉器（DC SQUID），可以充当突触、树突、胞体或可塑性元件，只是参数略有不同。当胞体把一个结驱动到临界电流以上时，脉冲会被电压放大，驱动一个半导体光源（它是神经元中唯一的半导体部件），这束光再通过波导网络扇出，而该网络是由 Jeff Chiles 等同事设计的。记忆是环路中环流的电流；耦合则像变压器一样，从一个环路传到另一个环路。Shainline 把它们称为环形神经元，因为这个说法比“超导光电神经元”好用。

具有真实复杂度的硬件神经元，无论是硅的还是超导的，边长大约都在 100 微米。波导受光波长所限，大约只能做到 1 微米左右；而生物轴突可以细到 10 纳米。要接近大脑的规模，就必须利用第三个维度：在一片晶圆上堆叠几层有源超导电路和无源波导，大约五到十层，足以容纳数百万个神经元；再把整片晶圆一层层堆叠起来，中间用光纤连接，直到一个桌子大小的体积容纳约 100 亿个神经元。这种堆叠本身必须保持分形：从晶圆上的网络，到晶圆堆叠，再到整台机器，都要保持幂律连接，否则信息就无法从一点扩散到整个系统。Shainline 说，在这个尺寸上，当然要用光。

单个突触只是由几个约瑟夫森结组成，可以在 SPICE 中通过在皮秒网格上积分电路方程来仿真。网络则会让这种成本爆炸式增长。疫情期间，团队把共享的构件抽象成每个突触、树突或神经元一个漏电积分器微分方程，并在更粗的时间网格上推进。加速倍数达到一千到一万倍，足以把目标从几十或一百个神经元提高到一百万个。Shainline 喜欢复杂性的来源：简单的瓦片，重复排列，靠参数与连线产生你没有手工设定的行为。同一个平台还能承载神经科学问题和其他物理问题，包括临界现象与伊辛模型（Ising models）。他并不打算把它变成公司。他说，如果想赚短期的钱，就去用硅做深度学习。

他不会过度承诺，说超导神经形态硬件很快就能在机器学习自己的游戏中击败机器学习。在他看来，机器学习通常要求你知道输入和目标。他所说的智能，是指处理那些你不知道会出现什么、也不确定自己想要达成什么的问题的能力，即“我不确定自己在这个世界上想要达成什么”。同事们仍在推进机器学习方向。该研究院的 Mike Schneider 正在一个九像素、三类别的玩具任务上构建超导图像分类器，分类时间可能约为 100 皮秒。约瑟夫森电路本身，在做同样的工作时，效率可以比晶体管高出几个数量级，但低温恒温器的空载成本很高，所以系统必须足够大，才能摊薄这一成本。不是手机，也许是数据中心。

Fridman 描述了特斯拉当时宣布的 Dojo：一台应用驱动的训练机器，处于训练、部署到车队、收集边缘案例、再训练的循环之中。Shainline 不知道产品时间表，但这一模式与超导光电技术未来可能提供的东西相吻合：一个集中式认知中枢，具备大规模数据整合能力，而不是每根干线上都有一台低温恒温器。五到十年不算疯狂，明天就未必了。该研究院也关心这些网络离开实验室之后会发生什么。Elham Tabassi 在那里领导一个规模大得多的人工智能项目，重心是可信性。计算机科学希望算法可以被证明是正确的。生物系统证明不了什么，它们对犯错有很强的稳健性。Shainline 大意上引用图灵的看法：一个系统可以智能，也可以完美无缺，但不能两者兼具。

对话的后半段围绕 Shainline 的一篇论文展开，题为《Does Cosmological Evolution Select for Technology?》（宇宙学演化是否挑选了技术？）。物理学家发现，自然规律伴随着一些参数，比如耦合强度、质量、精细结构常数，而这些数值看起来是精心调定的。稍微调动它们，宇宙就可能在一纳秒之内出现又消失。有人称之为一场预先安排好的把戏。多数人的回应是弱人择原理（weak anthropic principle）：我们看到的宇宙当然适合我们，否则我们就不会在这里。Shainline 从来不认可这一点，而且一旦注意到超导性，或者硅几乎完美的天然氧化层，它就更加解释不了什么。这些恩赐对技术有用，但对裸露的生存并非必需。

他把这个论证建立在 Lee Smolin 的宇宙学自然选择之上，那来自 1980 年代末的一篇论文，题为《Did the Universe Evolve?》（宇宙进化了吗？）。由 Alan Guth、Andrei Linde 等人发展的暴胀宇宙学是出发点，而不是替代品。1986 年，Guth 与 Edward Farhi 论证说，大爆炸在数学上与黑洞无法区分。Smolin 的一步是：一个宇宙中的黑洞，就是另一个宇宙中的大爆炸；而由于黑洞形成是一个量子引力过程，后代的参数会发生微小突变。变异加选择：能制造更多黑洞的宇宙，就会有更多后代。Smolin 估计大约有 2 亿代，并论证选择压力来自恒星，因为恒星会制造黑洞。

Shainline 认为 Smolin 在几乎所有方面都是对的，但仍不完整，因为它把智能生命当作恒星工厂缝隙中的一次偶然。恒星靠引力浪费地制造黑洞。Shainline 小心地说，他只是在转述量子场论的计算，这些计算表明：把大约 10 千克的物质压缩到极小的体积中，可能使一个黑洞很可能膨胀成一个子宇宙。一颗一千米的小行星，若被打碎成 10 千克的小块，将产生至少一万亿个黑洞，比银河系历史上所有核心坍缩超新星多三个数量级，而这只是一块废料。一个抵达小行星带的文明，也许运行在超导光电网络上，就能超过恒星的繁殖速度。那样的话，你会预期我们的参数是在长寿恒星、适宜的水、岩质宜居行星，以及使技术成为可能的物理定律之间的一种妥协，处在拉锯的中心，而不是落在任何一个单一的最优点上。

如果这一假说成立，智能文明就需要足够常见，使得其中有一些能够造出黑洞，但它们不必遍布每一个恒星系。每个星系只要有一个成熟文明，就足以主导该星系的繁殖力。Shainline 把筹码押在稀少上。他遵循 Max Tegmark 以及近期天体生物学的看法：你不应该为银河系中出现了一个智能物种而震惊，但如果隔壁的恒星也有，你就应该震惊。在一个星系的整个生命周期里，数量可能是一到一百个，但这些生命不必重叠。地球的记录是对时间窗口的警示。生命很快以微生物的形式出现；随后大约经过二十五亿年的氧化，复杂的身体才出现。大约五亿到六亿年前的寒武纪大爆发（Cambrian explosion），是他所认可的稀有地球阈值：只要有湿润的宜居行星，微生物或许无处不在，但那种爆发式的身体构型并非处处都有，而人类或许还是一道更窄的门。

Fridman 提出了一个漂亮的反转：如果宇宙学演化挑选的是技术，那么人类就不可能是这一过程中最令人惊叹的产物。一个宇宙的大部分都很乏味，只有几块石头，加上几只猿在录制播客。Shainline 没有顺着这种思路走向犬儒。他看到的是层级。早期宇宙是等离子体。第一代恒星必须先形成，才能为后来的几代提供金属；而我们只是第三代。地球上的生命是另一层。下一层也许会生长在我们之上：更强大的认知系统，生活在地表之外的寒冷黑暗之中，配备从无线电到伽马射线的单光子传感器和巨大的收集光学，观察着宇宙。这样的系统大概会自得其乐。其中一种消遣，对于喜欢电子游戏的人来说，就是去创造、维护并观察类似地球的东西。

Fridman 最后指出，Shainline 的工作有一种奇特的耦合：一边是尖端硬件，另一边是物理定律的演化，而哲学与工程一样被严格地应用。他称 Shainline 是最擅长解释艰深思想的人之一，能够在智识的每一层工作，这里的分形式，正是这场对话一直在用的意义。Shainline 礼尚往来地回敬了这份赞美。两人都认同，最有价值的，是那种将这些层次连接起来的习惯，而不是只驻扎在其中某一层。