Benjamín Labatut：AI、人的局限与技术究竟为了什么

Jasmine Sun 问 Benjamín Labatut，为何选择文学小说作为探索量子物理和先进 AI 等主题的载体。Labatut 回答说，人类现象比许多讨论中的技术叙述更复杂、更凌乱。

他将日益围绕数字化、离散类别组织的文明，与他所说的人类的连续性作对比。对他而言，文学试图重新纳入科学方法暂时搁置的非理性等方面，呈现更黑暗、更不整齐的视角。

当被问及如何解释连续性时，Labatut 说这个问题无法在有限时间内解决。会议乐观的视觉语言让他想起早期人们对核技术的热情。他担心数字系统过于强调可以分割、测量和用逻辑处理的东西。

他以 McCulloch-Pitts 神经元为例，介绍早期的数学抽象：在这个模型中，神经元要么激发，要么不激发。Labatut 说，当他研究基础性发现背后的人时，他们复杂的人生会揭示形式模型遗漏的维度。

Labatut 认为，围绕 AI 的精致视觉风格遗漏了对其未来的黑暗想象。他预测，目前的一些热情可能让位于恐惧或羞耻。这些是他对文化的判断，并不意味着某种结果已成定局。

Sun 转向《The MANIAC》：书的中间部分以部分虚构、具有历史依据的方式描绘 John von Neumann。她问，作为一个有血有肉、拥有非凡智力的人物，这位数学家为何对 Labatut 有吸引力。

Labatut 说，人们对 von Neumann 智力及其对周围人影响的描述，让他想起当代对超级智能的讨论。令他着迷的不仅是这位科学家的能力，还有他的盲点，以及 Labatut 所描述的冷静、计算式、由逻辑驱动的视角。

Labatut 认为，人并非只会推理：人的存在方式超过了认识方式。逻辑可以照亮重大问题，但他把相互确保摧毁作为僵硬的非此即彼推理可能导向的例子。他认为，有些问题是人们在生活中经历过去的，而经历会改变当事人。

随着 AI 进入复杂的现实世界，Labatut 担心有害影响可能比真正的改善更容易出现。他区分了变得更好与变得更快或更便宜，并质疑温和的经济增长是否足以让人感到安全或满足。

Sun 回忆起初次尝试 Claude Code 时的兴奋，随后又开始思考软件究竟解决了自己多少问题。Labatut 反问，软件又制造了多少问题；两人随后开玩笑谈到更奢华的软件。

Sun 赞赏《The MANIAC》的结尾既表现了对 AlphaGo 能力的惊叹，也保留了人类棋手的悲伤。她问，为什么书的结尾是无需人类棋局数据训练的 AlphaZero，而不是李世石输给 AlphaGo 的故事。

Labatut 说，技术发展轨迹虽然迷人，但人们可能把注意力放错了地方。他问，人们是否过分关注“多少”和“多快”，却忘了问“为了什么”。在他看来，李世石之后的生活可能比接下来的系统更有意思。

对 Labatut 而言，人的故事不仅包括棋手的天赋，还包括家庭、兴趣和个人特性。他担心，对抽象的迷恋会把这些细节推到一边。他还说，就自己的体验而言，当前 AI 写作尚未产生他认为好的散文或诗歌。

Sun 说，AI 当前的写作局限可能会让作家感到安心，也可能促使人们写得更有个人特色，尽管如果系统未来更擅长写诗，她也不会惊讶。她问 Labatut 会对追求超级智能的科学家和工程师说什么。

Labatut 质疑人们对“超级”“极致”等词的迷恋。他认为，人类的认识方式包括亲身经历的过程，而不仅是智能：人不是罐子里的大脑。他问，为什么有关更高智能的讨论会比其他可能的品质获得更多关注。

话题转向人形机器人。Sun 描述了自己在宇树科技面对机器人时，立即产生它可能很危险的感觉。Labatut 将这种反应理解为具身、反思之前的体验，认为纯抽象描述遗漏了这一点。

Labatut 呼吁认真对待公众关于工作流失和生存风险的说法。他不认为任何人拥有完全可靠的计划来应对这场转型，并说与 AI 开发者的私人交谈显示存在大量不确定性。

被问到 Demis Hassabis 时，Labatut 拒绝透露私人对话。他将文化中对更多知识的追求描述为浮士德式交易，并提到那些渴望无所不知或永生却需要付出代价的故事。

Labatut 认为，人的局限和脆弱是人之珍贵的一部分。Sun 指出，尽管乐观程度不同，他和 Tyler Cowen 都认识到智能和理性的局限。Labatut 最后呼吁，人们在令人恐惧的时期更加有人性。