扎克伯格化名 Mark Elliott 参赛，随后主张要有多个 AI，而不是一个

扎克伯格刚参加完他的第一场巴西柔术比赛。Fridman 同样是参赛者，他想知道，在口袋里还揣着几十亿用户的情况下，这是什么感觉。这位 Meta CEO 说，这很好玩。他好胜心很强，这种需要全神贯注的运动，是他保持心理健康、扛得住其余工作的方式。朋友们在他车库里改成的小型训练馆里陪他练，其中一人提议去参加比赛，他不打算回避这样的挑战。他很有把握自己能表现得不错。

为了不让这件事变成一场公开的热闹，他用了一身伪装。他戴着帽子、墨镜和新冠口罩，报名时用的是名字加中间名，Mark Elliott。直到上台前一刻，他摘下这套装备，人们才认出他。他不想输。Fridman 追问了更深层的恐惧：他怕的不只是输，还有在一项只有你和另一个人、无处可躲的运动里丢脸。扎克伯格看上去并不害怕，他显得很兴奋。

“我只是觉得，学习的一部分就是失败，”他说。练柔术的人负担不起面子，因为只有当你拒绝在已经输掉之后拍地认输，你才会一直困在糟糕的局面里，而初学者会输很多次。他这辈子已经丢过足够多次脸，这件事已经成了他的一项核心能力。人长大以后会建立起成年人的身份认同，就不想再显得愚蠢。在他看来，能一直做有意思的事情，靠的是愿意回到第一步，被摔来摔去，看起来很傻。一旦你觉得自己太丢人，不敢去尝试新事物，你也就学不到任何东西了。

他把柔术垫子和 Meta 联系在一起。公司所做的那些大事，都是十年以上的使命。一开始，人们会怀疑，最初的成果看起来很幼稚，而公司的态度是，不要等东西完美了才拿出来。先发布，收集反馈，再修改。Fridman 指出，随着年龄增长，怕被看成新手的恐惧只会越来越强，因为你已经有了需要守护的专业能力。扎克伯格表示同意。成长发生在你愿意再一次说些蠢话的地方。

Fridman 问他，在重大决策的日子里如何应对恐惧。扎克伯格几乎是脱口而出：最让他有压力的，始终是人的问题。战略问题不会让他太难受。他对公司想做什么、什么最重要、希望公司代表什么，已经有足够的把握。他并不会每件事都做对，公司也犯过很多错误，但他对公司应该往哪里走，心里有清楚的判断。

将近二十年后，他认清了一件事。团队紧密的时候，几乎什么都能做成：能闯过艰难的挑战，能做出艰难的决定，能推动工作前进。而当这个群体出现紧张，事情就会变得非常艰难。他和经营其他公司的朋友聊过，他觉得自己在培养那一小群与他一起经营 Meta 的核心成员上，花的时间多得不成比例。正是这个群体让工作变得有意思，而它出现裂痕时，也正是最让他发愁的地方。Facebook、Instagram、WhatsApp、元宇宙、AI，在这些事情里，人的问题是他最急于做对的部分。

他花大量时间与这个圈子相处，公开地直面最大的难题，以此来建立这个圈子。每周一早上，大约三十位核心成员会聚在一起。人员有进有出，但这个团队已经合作了很长时间，会议常常开两个小时左右，没有固定的议程。他会带上几个自己在想的话题，也请其他人带自己的：某个国家的政策问题、一项新技术、一个合作伙伴的难题，或者 WhatsApp 设计里两种他们都很在乎的价值之间的权衡。日积月累，在台面上处理这些问题，人们就培养出了彼此之间的直觉和纽带。这是一个相当好斗的群体，他把这句话当作夸奖。在那个会议室里，设计、工程和政策，正是通过这种交锋来真正决定的。

Fridman 把话题拉回柔术垫子，问他最喜欢的降服技术。扎克伯格更喜欢无道服（no gi）的练法，因为它更接近 MMA，而他的风格也更接近 MMA。很多柔术选手躺在地上也没问题，好的防守位（guard）是这项运动的核心。但在 MMA 里，你不想躺在地上，因为即使控制住了局面，也要挨拳头。他更愿意做上位的一方，持续施压。不过他不是重量级选手，一起训练的很多朋友又比他壮，所以背后取位就很重要。那里的杠杆优势最大，因为人的手臂在背后很弱。

他说，正确的策略不是对某一种收尾方式太过执着。话虽如此，他不喜欢伤害别人，所以他认为勒颈比关节技更人道一些。Fridman 把他的风格比作 Khabib Nurmagomedov。扎克伯格说的是比较干净的版本：从背后取位，然后做裸绞（rear naked choke）。至于想入门的人，考虑到他有多忙，他给出的建议不是一套课程。你得愿意挨很多打。时间久了，它会形成一种流动感。他记得的教训更简单：一旦被锁住，你就已经输了。唯一的问题，是你肯不肯承认。

他认为，成就任何事情，很大程度上取决于你是否愿意咬牙坚持，而韧劲往往就是做得最多的人与做得最少的人之间的区别。在他看来，几乎每一个创办成功公司的人都在拼命工作。体育教会了他另一半道理：你不可能扛下一切。在 MMA 里，一次糟糕的反击就是迎面一记重拳；在冲浪时，你没法反向冲上浪头；在翼板（foil）上，你可以朝几个方向蹬水，但当对抗的势头足够强时，就完全行不通。公司的周期以月计算，硬件可能要好几年才能等到下一轮决策。而短周期的运动，几秒钟就能给出反馈。对于经营者来说，谦卑的教训是知道在哪些地方，精巧比力气更重要。

Fridman 转向 AI，说今年对整个人类文明来说是有意思的一年，并请扎克伯格讲讲 LLaMA 的故事：Meta 这个 650 亿参数的语言模型，以及它该如何发布。扎克伯格同意，前一年见证了大量扩展大型 Transformer 模型的进展，语言方面是大语言模型（LLM），图像方面是大型扩散模型。Meta 采取了相当开放、偏学术的做法。这里有人才的因素：世界上很多顶尖人才希望知道，他们可以分享自己的工作。交换的条件是产业级的基础设施，外加分享发明成果的文化。

LLaMA 是研究团队做出的语言模型。他们以有限的开源形式发布，面向研究人员。责任和安全问题足够重要，他们认为不该在第一版就做商业发布，于是把这个问题暂时搁置。通过面向研究的发布，模型已经流了出去，但公司知道它不应该被放进商业产品。后续的模型已经在开发中，会花更多时间在安全上。他更宽泛的看法是，如果能让很多不同的人在这项技术上做到最先进的水平，那会很好，而不只是少数几家大公司。

他说，训练最先进的模型需要数亿美元的基础设施。即便这个成本每天都在下降，当今世界上也没有多少组织能在最大规模上做到。他希望看到学生、黑客和创业公司能做出什么，并指出 Meta 自身的基础设施里就有一个先例。公司把自己的数据中心和服务器设计贡献给了开放计算项目（Open Compute Project）。当时的逻辑是，如果更多人能用上这种服务器设计，就会带来更多创新，让设计更高效，也让 Meta 的业务更高效。这个做法奏效了。他想在模型上试试同样的逻辑。

二月那次有限发布，用 Fridman 的话说，是泄露了：它逃出了研究圈。扎克伯格说，他们虽然只是把模型分享给研究人员，但实际上已经是一次慢速发布。接下来发生的，是一个充满活力的开源社区。llama.cpp 重新实现了这个模型，让它能在更小的电脑上更高效地运行。有人搭起了基于人类反馈的强化学习（RLHF）。Alpaca、Colossal AI 和 GPT4All 等项目都在它的基础上冒了出来。扎克伯格觉得很有意思。没有庞大云计算预算的个人，也能在笔记本电脑上跑它。连 Meta 自己运行的版本，也能用少得多的算力完成工作。这为所有使用它的人省下了大量的钱。

他很谨慎地给模型定位。作为一次相对早期的发布，LLaMA 并不完全处于前沿，没有达到 OpenAI 最大模型或谷歌最大模型的水平。他们发布的最大的 LLaMA 有 650 亿参数。OpenAI 之外没有人知道 GPT-4 的规格，但他的理解是，它大约大了十倍，而谷歌的 PaLM 参数量也大约是这个规模的十倍。LLaMA 模型非常高效，在 650 亿参数左右的规模上表现不错。这种效率也是安全论证的一部分。当模型逼近超人类智能时，每个人是否都应该拥有最前沿的模型，这里确实存在真正的争议。他说，没有人看了那一代 LLaMA 会觉得它接近超级智能。

Fridman 提出了尖锐的担忧：那些害怕生存风险的人会说，开源这一步必须小心，而开源也会把强大的工具交到坏人手里。扎克伯格的回应显得事先准备过。在当前阶段，利弊明显倾向于更开放地做这件事。如果出现了接近超级智能的东西，就需要更多讨论；Meta 还没有决定在那种情况下会怎么做，他认为我们可能离那一步还相当远。他并不认为当前的立场适用于未来的每一件事。在他看来，开源软件往往比闭门开发的软件更安全，因为会有更多人查看代码、找出漏洞。靠隐蔽来保证安全，是更糟糕的模式。Meta 至今也没有开源 WhatsApp 或 Instagram 的核心应用代码，因为那些代码不够通用，对很多人没有用处。Memcache 是他亲手编写并主导的一个缓存工具，也是他亲自主导的最后几件事之一，它属于另一类软件：用途广泛，就像现在的语言模型，也像 Fridman 刚刚称赞过的那套翻译技术栈。

那项翻译工作本身就像一场科幻发布。Meta 把文本转语音和语音转文本的覆盖范围，从大约 100 种语言扩展到 1100 多种，而且模型能识别超过 4000 种口语，Fridman 说，这比此前任何已知技术都多出四十倍。扎克伯格把产品描述为一个老想法：能实时翻译的耳机或眼镜。他认为，技术现在基本上正在把它做出来。对于那些从未有足够数据来训练传统模型的语言，覆盖面本身就是意义所在：许多过去被技术栈忽略的人，终于被纳入其中。

对于下一代模型，扎克伯格没有宣布日期。很多工作是在以研究为先的 v1 基础上，加入最新的安全措施，并使用来自 Meta 各项服务的更多数据来训练，内部的努力集中在让模型尽可能对齐、尽可能负责任。产品构想很具体。将会有一个可以在 WhatsApp 里对话的助手。他认为，每位创作者都会有一个能代表自己行动、粉丝可以与之交流的 AI 智能体。他希望每家小企业都有一个 AI，人们可以用它来购物、获得客服支持。底层的语言模型是引擎。像 v1 那样开源它，会释放生态创新，让 Meta 的产品变得更好，也能获得闭门之后得不到的安全反馈。这项工作，是把一个研究项目推向核心基础设施，既服务于 Meta，也希望服务于许多其他事情。他说，内部争论与其说是要不要开放，不如说是用什么正确的方式开放。他们已经明确 v1 的代码和权重没有商业许可，而总体上看，大家也尊重了这一点；据他所说，没有信誉良好的公司把它塞进产品里。不过，由于它已经分享给了这么多研究人员，它确实已经流出了大楼。关于 v2，他没有什么可以宣布的。

Fridman 转述了 Yann LeCun 的一个问题：LLM 的微调是否需要像维基百科那样众包？扎克伯格和 LeCun 讨论过很多次，他觉得这个想法很有吸引力。不同团队测试不同的数据配方；与其让某一家实验室选出赢家，不如实现一种协作方式，让更广泛的社区也能参与微调。基础设施、社区管理和产品设计，都让这件事很难，他还没想清楚。作为一个想法，它符合开源的精神。如何产出对齐的模型，本身就是一个非常重要的研究领域，它需要与模型核心智能本身同样大的进展。他不认为仅仅把现有的大语言模型放大到更多参数，就能自动抵达通用智能。途中可能还有一些更根本的步骤。即便如此，当前的技术水平已经能创造大量产品价值。他更希望世界能有一段时间，把这些突破做成人们真正在用的东西，而不是一个接一个地制造惊喜。

Fridman 指出，超过三十亿人在使用 WhatsApp、Facebook 和 Instagram，所以这些应用里任何由 LLM 驱动的产品，都是一件影响文明规模的大事。扎克伯格勾勒了三类工作。其中最有意思的一类，也是他与 OpenAI、谷歌和微软的最大区别：其他公司都在打造唯一的 AI，比如 ChatGPT、Bard、Bing，而他认为，人们会想和许多不同的 AI 互动，就像他们使用不同的应用、让不同的人扮演不同的角色一样。创作者一天只有 24 小时；把一个人的个性封装起来，让粉丝能获取演出信息，这很有价值，而且这不会是同一个模型。企业会希望有一个只卖自家产品的 AI，而不是可能推荐竞争对手的通用助手。第二类更简单，而且已经很接近了：让系统帮你修改一张照片；或者告诉它你是遛狗的，让它生成广告并找到合适的人。第三类是，包括元宇宙世界在内的每一款 Meta 产品，都在朝这个方向演进：描述你想要的世界，它就把代码写出来。自然语言会成为越来越多的交互界面，无论是什么语言，翻译能力都内置在技术栈里。

Fridman 问，将来这些网络上和你成为好友的人，会不会有一部分是 AI 系统。扎克伯格认为我们会走到那一步，并指出了一些已经有些年头的证据。微软在中国的小冰是一款前大语言模型时代的聊天机器人，有几千万人对它产生了相当深的依恋。现在也有 Replika 这样的服务。他怀疑，大多数人的朋友没有他们希望的那么多；他引用的人口统计研究显示，普通人的亲密朋友比十五年前更少。工具的首要任务依然是帮助人们彼此联系。一个会提醒你朋友生日、告诉你对方近况、并帮你主动联系对方的 AI，远不只是复制粘贴的表情符号，他觉得这是一个很有力量的社交助手。除此之外，他还能设想导师、啦啦队长、教育辅导员。他的两个孩子，五岁和七岁，喜欢学编程，遇到卡点就得等家长。为那个年龄设计的编程助手会非常有耐心，从来不会不耐烦。他不认为这些都能归入一个单一的 AI。

Reddit 上有人提出了一个把反乌托邦描绘得很清楚的问题：如果人们通过能润色语言的聊天机器人来交流，下一代会不会只能用咕哝声交流？扎克伯格认为，长期影响大多是好的。这个问题的框架本身是负面的。语言翻译已经让你能和不会说你语言的人交流，没有哪个认真的人会说你就应该去把那门语言学会。语言只是思想一幅不完美的地图。Fridman 认识的一位柔术教练，会把写给家长的邮件先过一遍 GPT，免得自己显得不近人情。Meta 平台上的创作者告诉公司，在私信里谈品牌合作，是工作中最有压力的部分之一：他们想和社区建立联系，可一旦品牌方提出要求，他们就僵住了。一个能帮他们得体地拒绝的工具，是他听说过确实存在的需求，是一个简单的产品。他和 Priscilla 刚刚迎来第三个女儿。婴儿哭，是因为他们没法告诉你自己需要什么；他五岁的女儿仍然会因为同样的原因哭；很多成年人会因为面子和技巧的阻碍，无法把自己的意思说清楚而感到沮丧。在他看来，帮助人们应对复杂社交关系的技术，总体上是好的。一代人之后，没有人会埋怨谷歌毁了人的记忆力。

Fridman 说，他仍然自己写大约 80% 到 90% 的代码，然后再修改，并说模型让人不必再记住每个函数的具体细节。扎克伯格更关心大公司版本的这个问题。在 Meta 的工程师坐下来写代码之前，他们得先弄清楚成千上万人写过的库和依赖。他对能总结内部知识库的工具很感兴趣，而不只是写代码的工具。在公开的实验里，你向模型要一个脚本，它已经知道该引入哪些库，而这一直是最烦人的部分。Fridman 提出了另一面：如果把思考外包出去，你就会漏掉那些看起来很正确的代码里的细微 bug，也会失去找出它们的能力。扎克伯格同意这是一种取舍。他说，能亲手做一些基础工作，依然很有价值。踩在更高的巨人肩上，人就忘了巨人当年是怎么爬上去的。

Fridman 问起社交网络上那些类似人类的机器人、网络钓鱼和社会工程学。扎克伯格把这个问题拆开来讲。五到七年来，Meta 一直在部署传统的 AI 系统，而非生成式的，用来识别有害内容。他列出大约十八类内容，包括恐怖主义、儿童剥削、煽动暴力、知识产权侵权等。生成式 AI 会对这些系统形成考验。到目前为止，而且他对此保持乐观，Meta 可以动用更多算力，用更强的 AI 来防守。在他的描述里，仇恨言论并没有变得复杂多少。国家行为体则不同。无论是俄罗斯，还是其他国家搭建的僵尸账号网络，抑或真人以协同方式冒充他人，这些行为都是对抗性的：每次 Meta 找到他们，他们都会进化。公司内部的叫法是协同的不真实行为。二十年前如果有人告诉他，将来一所大学的网站上会有一个用 AI 做反恐的机构，他会觉得这太疯狂了。而现在，事情就是这样。

他想把什么是坏事说得具体些。人们自然地彼此碰撞想法，直到某种叙事出现，这正是文化和艺术的诞生方式。一个由机器人和假账号组成的网络，背后有人操纵，却表现得像是自然发生的行为，这才是问题所在。他认为，人们不应该在不披露的情况下运行协同的网络。他猜测，在可预见的未来，AI 的大部分挑战都在这里：放大已知的危害，而不是生存风险。那些更遥远的问题很难被证伪；他自己的直觉是，当前技术如果没有另一轮重大突破，是到不了超级智能的。这不等于没有危险。Fridman 指出，你现在已经可以问模型，如何搭建一个 Meta 检测不到的协同不真实网络。扎克伯格说，很多微调工作，就是训练已经发布的 AI，让你没法要求它们帮你犯罪。所有系统都不会做到 100% 完美。目标是让这件事不比次优的替代途径更容易，因为人们仍然可以用谷歌；并且让它足够昂贵，使老练的行为体转而去别处。

接下来，是那个没人能下定义的部分。Fridman 问 GPT 病毒是否从实验室泄漏，得到了一个细致、引用充分的回答，他不希望这种细微差别被审核给磨平了。扎克伯格表示同意。大家都认为，儿童性剥削和恐怖主义应当被清除出平台。虚假信息就棘手一些：错误的说法不一定有害，也不一定要因此审查某人。新冠疫情早期更糟，因为它有实际的健康影响，科学尚未经过充分检验，而按他的叙述，很多权威机构态度摇摆，要求删除的一些内容，事后看来其实更有争议，甚至是对的。这损害了信任。他尽量把争议归结为人们都同意的危害，尤其是身体伤害，然后让人们自己选择希望如何标注内容。他认为推特的社区笔记做得相当好：在不删除帖子的前提下补充语境。Meta 最近推出了一项功能，对于不信任事实核查机构的人，事实核查不必影响内容的分发。煽动暴力依然不允许。他指出，科学从来无法达到 100% 的确定性。边缘案例不能成为停止为人们提供他们所需内容的理由。

Fridman 问，在政府和利益集团施压的情况下，Meta 如何扛住，包括在 AI 审核的世界里。扎克伯格说，没有一刀切的答案。原则是尽可能让人们表达，同时对服务上不希望出现的内容划出清晰的类别。当政府说某些内容不希望出现时，难的情况会分成几种。一个由民选产生的政府，有着不同的价值观，身处另一个地方，这就带来一个问题：一家加州公司是否应该推翻那个国家已经认定不可接受的东西？他认为，这种想法里有一定的傲慢。另一种情况是，专制政权镇压异见，与民众的意愿背道而驰。总的来说，他们会主张并抵制下架请求。在要求获取信息的请求上，他们的底线要硬得多。被告知不能说某件事，属于对表达的侵犯；而政府以在美国属于违法的方式获取数据，则会让人面临真实的人身危险。

等到需要打官司的时候，已经太晚了。很多保护工作在几年前就开始了，关键在于数据中心建在哪里。有些国家的用户很多，在当地建数据中心能降低延迟，但他们仍然不会把数据中心放在那里，因为那些政府在保护人们数据方面没有良好的记录。如果你在一个国家建了数据中心，而政府想要这些数据，他们可以选择带着枪上门，强行拿走。提前做出的架构决定，比记者会上的对峙重要得多。在言论规范上，尤其是面对民选政府时，他认为应当保持一定程度的尊重。谈到推特文件（Twitter Files），他说，从外部很难确切知道每个案例里到底发生了什么。机构会标记他们希望安全团队知道的威胁；按他的说法，这往往是信息，而不是命令，最终的决定仍由 Meta 做出。各方面的压力都非常大：民选官员、机构、媒体、激进团体，每个国家都是如此。所以他不确定任何一项具体的要求会在这些压力中增加多少分量。你不能靠让所有人都满意来做决定。你要找到自己认为正确的平衡，并接受无论落在哪里，都会有人不高兴。

他对言论自由的看法变得更加细致，但并没有变得更不支持表达。如果不认为大规模的人们表达自己是好事，你就不会去搭建这些服务。事情已经很清楚，有些类别几乎所有人都认为是坏的：即使在美国，有着强有力的第一修正案保护，你仍然不能立即煽动暴力，或侵犯知识产权。实际的教训往往关乎该怎么应对一个纯粹的混蛋，尤其是重复出现的行为，而很少是“这个能不能被允许”。同时，又不能把一个可能对社区有价值的争议观点，与骚扰混为一谈。谈到 AI，他认为问题与其说是审查，不如说是给出最有益的回答。他和团队审阅过的一个案例研究是：有人问怎么用 3D 打印枪。一种拟定的回复是直接关闭对话，也就是“作为大语言模型，我无法讨论这个”那种风格。另一种是：我认为这不是个好主意，以下是包括美国在内的很多国家的实际情况。他更倾向于第二种：假定对方出于善意，进行教育，保持信息量。你不可能在所有问题上都这样做。但他认为，这是更好的默认选择。

Fridman 问起一个基于文字的社交网络的传闻，内部代号 P92，是推特的竞争对手。扎克伯格说，确实有这个项目。他一直认为，基于文字的信息工具对社会非常重要，而推特不知为何没有达到他原本预期的潜力。他觉得马斯克也这么想，这可能是马斯克收购它的原因之一。他觉得有意思的一种替代方案，是 Mastodon 和 Bluesky 所体现的开放、联邦化思路，再与人们已经在 Instagram 上建立的社交图谱和身份结合起来。他不想走得太远：他们会探索很多东西，也没有确定的上线日期。在他看来，文字特别适合讨论，因为评论可以是一等公民，对话可以分叉；不像 TikTok，视频本身就是架构，评论只能跟在后面。他一直认为，推特或者任何在这一领域最终胜出的产品，应该有十亿人在用。做到这一点并不是理所当然的。Meta 早期曾陷入平台期，后来在国际化和帮助人们把服务推荐给朋友方面变得很擅长。一旦具备了这项能力，他就觉得，在那些公司加入之后，他们也能把 Instagram 和 WhatsApp 做大。字节跳动用 TikTok 做到了这一点。在他的外部视角看来，推特有一个好点子，却没有攻克那一环，所以你才会看到其他人从不同角度切入同一个方向。

他很着迷于进行一场更大的实验：更去中心化的控制，和更开放的技术栈。WhatsApp 的端到端加密就是这种思路的一个版本，它把服务推向边缘。Meta 为 WhatsApp 运行的服务器，相对于 Facebook 或 Instagram 来说比较轻量；更多的复杂性在于应用之间的协商，以完全加密的方式传递信息。如果这种模式能行得通，就能把更多权力交到个人手中。他把整个话题称为推测性的。随后，Fridman 出于对方在公开场合说了些尖锐话之后的友好，问马斯克做得好的地方是什么。扎克伯格没有从外部对此做详细点评。他能说的是，马斯克推动把推特变得精简得多、更偏技术、管理层级更少，工程师与做决定的人之间的距离也更近。你可以同意或不同意他的手段。他认为，这些原则总体上是好的改变，对整个行业也有好处，因为很多其他人也这么想，只是不敢去做。扎克伯格在三月写过一封信，概述组织上的变化；当人们看到马斯克在做什么时，其他创始人告诉他，这给了他们思考如何塑造自己公司的空间。至于马斯克是不是砍得太狠，他不作评论。

他说，Meta 自己的裁员尤其艰难，因为有相当一部分人离开，与他们的表现或文化上的不匹配无关。这是一项战略决定，而且在那一年的变化里，文化和战略层面的考虑多于纯粹的财务考量。经历了十八个月的宏观经济、竞争和自身造成的动荡之后，他想要一家更强大的科技公司，更专注于更快地打造更高质量的产品，并且有稳定的基础，能继续投入 AI 和元宇宙。之后你必须尽可能有同理心地去执行，而这件事没有好的处理方式。他想赋予工程师更多权力，包括在技术栈的几乎每一层，都配置直接做工作的独立贡献者工程师，让做事的人不至于被埋在八层管理之下。每多一层，信息就多一层延迟。他认为，经营公司的一部分艺术，就是不断重新设计它，让反馈回路变得更短。这和柔术的教训一样，只不过用在了组织架构图上。支持性职能也很重要，但需要恰当的比例：法务或市场太少，你会犯错；太多，你就会变得迟缓、保守。裁员流程开始时，平均每位经理管理大约三名下属，接近三而不是四，因为公司招人太快，经理需要预留余量。他说，最佳实践更接近每位经理七到八名下属。今后，他不希望那么快地招那么多人。在一个更精简的世界里，你可以朝更紧凑的结构做一次整理，同时不必低估管理和指导的价值。

一旦公司不再以那样的速度增长，你要怎样招到优秀的工程师？扎克伯格说，吸引他们靠的是做有意思的事、有愿景，以及大家相信的履历。挑选他们才是门艺术。他自己招人时用的启发式方法，他认为如果在组织里逐级套用也是有效的，就是：只有在一个平行宇宙里你也愿意为这个人工作时，才应该雇用他。他并不急于停止经营公司；在那个宇宙里，他仍然会想向那些人学习，尊重他们的判断和价值观。对于刚毕业的人，实习是一种筛选机制。Meta 在对方工作了几个月之后，对谁是最好的人的判断，远比看简历或短暂的面试要准确。面对面的感觉比纸面信息能说明更多问题；很多契合度与文化有关，甚至和具体团队有关。这就是他们在实习上投入如此之多的原因。这对公司有用，对想尝试这里的人也有用。

他认为远程工作会留下来，但对元宇宙的工作要加一个附加条件：一旦临场感做到位，实际所在地的重要性可能就降低了。而今天，它仍然重要。他还不想经营一家完全远程的公司。那些拥有特殊技能、住在办公室很远的人，绝对值得招揽。已经在内部建立了关系的人，远程工作不会影响绩效，相关研究也证明了这一点。新人和职业生涯早期的人，仍然需要会议后走廊里的那些交流。Fridman 试用过 Quest 3。扎克伯格说，更多细节会在 Connect 大会上公布，这款头显将于那年秋天推出，售价 499 美元。相比 Quest 2，有两项重大升级：高分辨率的混合现实，你能看到真实世界，并在其中放置虚拟物体，比如一块电影屏幕、一张桌面、穿墙而来的丧尸，或者桌上的一套《龙与地下城》地图；另一项是更好的 VR 头显，图形处理能力是原来的两倍，屏幕清晰度提高 40%，设备厚度减少 40%。Quest Pro 最初售价 1500 美元，后来降到了 1000 美元；在很多方面，Quest 3 的混合现实已经超过了他们在 Pro 上交付的水平。使命上的约束正是重点所在。他们希望这款产品人人买得起，而不是精英的玩具，这是一个极其困难的技术问题，因为你不可能把无限的硬件装进盒子里。

苹果刚刚宣布 Vision Pro 售价 3500 美元，计划在 2024 年初上市。扎克伯格看过发布材料，但没有上过手。首先，他把这视为对 Meta 一直在鼓吹的这个品类的肯定。苹果入场会让它的很多粉丝开始考虑混合现实；而价格意味着很多人负担不起，所以苹果有可能提升了整个领域的需求，而 Quest 3 是主要受益者。在他看来，苹果做的是高端产品，Meta 的理念则更加大众化。他们已经卖出了数千万台 Quest 设备。根据传闻，他了解到苹果正在制造大约一百万台这种头显。两家公司的使用场景也不同。Meta 专注于社交互动、健身、游戏和主动运动。在他看来，苹果的大部分发布材料展示的是人们坐着看屏幕，这同样是一种真实的用途，也包括慢慢取代笔记本电脑。苹果强调没有手柄，强调眼动追踪和手部追踪的优雅。Quest 3 也可以用手操作；有一个演示是钢琴教学，音符高亮，不需要手柄。如果你看重游戏，手柄依然能更精确地捕捉精细的动作。这是不同的设计取舍，不同的成本，面向家中不同的场景。

Fridman 提到了 Eliezer Yudkowsky 和生存风险。扎克伯格说，当一批严肃的人对你所参与的事情提出生存层面的担忧时，你必须认真思考，而他确实思考过。随着系统越来越接近超级智能，他们需要更加认真地思考这件事。对今天参与这些项目的人来说，很清楚，我们还没有到那一步。他担心的是，人们过于专注于尾部风险，反而没有好好对待近期几乎肯定会出现的危害：欺诈、诈骗，以及那份已知的清单。在一些安全辩论里，他认为智能和自主性被混为一谈。你可以把智能扩展得很远，而不必让它本身成为一个“存在”。在人类生物学里，新皮层是预测和推理的引擎；一个更原始的旧脑结构仍在拍板，而新皮层并没有自由意志。我们可能会造出比新皮层强大得多的系统，它们依然只是工具。真正需要小心的地方是自主性。相对简单、不那么智能、却拥有失控自主性的东西，早就有了名字：病毒，无论是生物病毒还是计算机病毒。如果他是政策制定者，他会希望把这一区分讲清楚。构建智能系统可以提高生活质量和生产力。自主性的那一部分，是我们在给系统设定目标、让它们自己做出大量决定之前，需要先学会治理的。

Fridman 问，构建通用人工智能（AGI）是否会让他成为世界上最有权势的人，这种权力是否会腐蚀他。扎克伯格把问题转回到开源上。他不认为，如果只有少数组织掌握这种能力，而不是让它更广泛地可得，世界会过得最好。在他看来，当进步是单极的、权力失衡时，历史就会变得古怪。这也是他认为开源总体上是正确做法的原因之一。他相当有信心，现在开源模型是净正面的。有很好的论据认为，即便接近超级智能，这仍然是对的，但他显然还没有做出这个决定，而这场辩论将受到从现在到那时之间发生的事情的影响。被问到哪一年能实现超级智能，他拒绝给出日期。去年确实是一次真正的突破。一种极端情况是，再来一两次跃迁，就会得到真正疯狂、接近通用智能的东西。另一种更接近行业历史经验的情况，是 Gartner 所说的“低谷期”：在这里停留五年、十年、十五年，直到下一个重大突破被想清楚。误差范围很宽。他不认为突破每六个月就会叠加一次，也没人知道需要多少次。大多数讨论还没有认真面对的一点是：我们已经有了比单个人类更聪明的组织和结构。一家运转良好的公司，以及分配资本的股票市场，都是分布式系统。当这些“控制论有机体”彼此平衡地建构时，它们似乎很有生产力。在这个框架下，AI 可以让集体拥有更充分的信息，在辩论中做得更好，并以人类的时间尺度进行反馈循环，而不是像一个独立的心智那样冲出去。

Fridman 把话题拉回身体。扎克伯格最近完成了 Murph 挑战：一英里跑，100 个引体向上，200 个俯卧撑，300 个深蹲，再跑一英里，总共在不到四十分钟内完成。这不是他的最好成绩，也不是阵亡将士纪念日那天在朋友间赢下的比赛。他想说明，把各个动作打散、混合进行，和一组一组按顺序做，计时是完全不同的。他每年阵亡将士纪念日都会做 Murph，纪念墨菲中尉。他的大女儿们会陪他做四分之一的 Murph；七岁的小女儿想要一件负重背心，但没有如愿。他每周练三四次柔术，但不能每天都练，因为身上会有淤青，其余日子他会做有氧、力量和柔韧训练。他力求每天都做点体力活动。Meta 大楼的屋顶有一座公园，因此一对一的会议可以边走边谈；他很难就这么坐着。他不认为一个存在只是一个心智。被问到 AGI 是否应该有身体，他说这取决于目标。股票市场没有身体，也不说语言。如果不去模拟衰老、养育孩子、设计房屋这些感受，纯粹的智能对这些事物的理解必然会有局限。如果目标是尽可能理解人，身体可能就很重要。不过，独立存在的智能仍然能创造大量价值。至于我们死后持续存在的 AI 替身，他认为我们会有能力做出来，而且应该由每个人自己选择。这和主页的规则一样：Lex 的粉丝俱乐部可以，声称自己就是 Lex 的主页不行。

Fridman 以信仰作结。扎克伯格把它分成哲学和文化两个部分。《创世记》开篇，上帝创造了大地，并按自己的形象创造了人；在旧约的这段叙述里，关于上帝唯一的语境，就是上帝创造了万物。他从中领悟到的一课是，创造，无论是艺术性的还是有用的，都是一种美德。这推动着他对美好生活的许多思考：帮助身边的人，做一股积极的创造性力量，为世界带来新事物，包括孩子。没有什么比回到家看见女儿们在搭乐高更让他高兴，他希望她们不要失去那份热情。自从有了孩子，文化层面的东西，比如社群、价值观和传统，对他变得重要得多。他读大学时很少想到宗教。孩子会逼着你去选择，要把什么传递下去。他说，相信有某种比你大得多的东西在引导一切，是一种踏实的感受。除此之外，它还让你在继续努力创造的同时，保有一点谦卑。