也许人是在另一套假设下理性的

Lex Fridman 介绍 Anca Dragan 时说，她是加州大学伯克利分校的教授，研究人机交互（human-robot interaction）算法，关注的不只是孤立工作的机器人。他还提到，她也为 Waymo 提供咨询，但这次对谈里她是以伯克利教授的身份出现的。广告过后，他问她是什么时候开始爱上机器人的。她的答案是循序渐进的，而且大多是偶然的。

她先接触的是编程，然后是数学，再然后是计算机科学。上大学时她接触到人工智能，申请了卡内基梅隆大学的机器人研究所；她来自德国一所几乎没人听说过的小学校。MIT 没有录取她，伯克利没有录取她，斯坦福也没有录取她。卡内基梅隆是唯一给她录取的学校，这多亏了一个交换学期，以及已经在那里的人写的推荐信。她之所以去，是因为机器人似乎是一个能把她已经热爱的优化方法带进物理世界的地方。

这段经历讲起来更有味道。2014 年，她还是伯克利的学生，坐过一次谷歌的自动驾驶汽车。一个又一个决策，车子都做出了正确判断。机器人操作研究让她明白，让机器人做成任何一件事都有多难；而在这辆车上，事情就是成了。她坦率地承认自己会把机器拟人化。她说，硬件上没有什么神奇之处，但这辆车在她脑子里活了过来。它有一张“脸”，有一只小小的手臂，还会“看”着她。她意识到，机器人也许不只是搬运东西的工具，它们可以与人产生某种联系。谷歌当时发过一张贴纸，上面写着她坐过自动驾驶汽车，印着公司那个可爱的萤火虫标志。这张贴纸在她的笔记本电脑上贴了好几年。

她对数学的兴趣出现得更早。她说，在罗马尼亚，数学奥林匹克竞赛几乎算得上全民运动，她从五年级开始参加。理论很有趣，却没有终点。计算机科学之所以最终胜出，是因为它是她能在现实世界里真正动手去做的数学。她的第一个程序是四年级时用 QBasic 写的，画了一个圆。现在她已经不记得是怎么写的了。那门课是课外活动，可以选，代替舞蹈或音乐。她的母亲问她，为什么选了编程。

被问到最喜欢的机器人，无论真实的还是虚构的，Dragan 说出的是《机器人总动员》里的 WALL-E。理由很具体：这个角色的表现力令人惊讶。两个像镜头一样的眼睛，一对手臂，再加上恰到好处的节奏感，就足以演绎好奇、犹豫、孤独和喜爱。她过去更直接地研究过有表现力的动作，至今仍在想，一个头部和一只机械臂，不用说话，能传达什么。她补充说，皮克斯也是这个例子让她印象如此深刻的原因之一。

接着她讲了一个私人故事，她有时会在课堂上讲。她丈夫是亲手造了一个 WALL-E 来向她求婚的。他让它动起来：七个自由度，包括那对镜头。机器人走进来，打开了肚子上的一个舱门，露出一个慢慢打开的乐高盒子。他们至今还留着这台机器。这个故事并不是跑题。它是家里版本的研究问题：动作可以承载意义，人也会被动作打动。

她说，手工打造的表现力只是问题的简单版本。请一位动画师，设计几条运动轨迹，机器人在一个狭窄的场景里就能显得讨人喜欢。难的版本是要把它做得通用、自主，让机器人拿起一样东西时，依任务不同，可以显得自信、犹豫、高兴或失望。机器人一动，就在传达内部状态，或者说，旁观者认为的内部状态。这在家庭里会很重要。这一点已经体现在那些对 Alexa 无礼的孩子身上：音箱从不生气，语气也从不改变。

Dragan 说，要把人当作机器人世界的一部分，就必须扩大状态空间。仅仅跟踪构型、动作和奖励已经不够。你还需要观察者的内部状态：这个人感知到了什么，他又认为机器人在做什么。然后，你要在这个更大的系统里做优化，这意味着要为“动作如何改变别人对你的模型”写出数学表达。这很难。Lex 问，模型里的人需要复杂到什么程度？是情绪、攻击性、博弈论中的类型，还是仅仅一个有前进方向的物体？

在回答之前，她先把范围收窄。她不是在说闲聊，不是在说挑选一张脸，也不是在说廉价玩具机器人和精致机器人会改变人们的行为这一发现。她关注的范围更窄。拿一项机器人在实验室里已经能独自完成的任务。现在问，在真实世界里，为一个人去完成这项任务意味着什么。这里会有两件事发生变化。

第一，机器人不再是唯一的行动者。汽车要共享道路，办公室机器人要共用走廊。让它去茶水间给你拿杯咖啡，别人也会伸手到同一个空间里。即使机器人知道自己的目标，它的动作也必须和别人的动作咬合。第二，程序员设定的目标是错误的靶子。在你家里，你对“干净”到什么程度有自己的看法，也对机器应该靠得多近有自己的看法。机器人应该优化的，是最终用户的偏好。在互动中把这些偏好弄清楚，是协调与服务背后共同的难题。

照她的说法，理解人包含两件她几乎视为同一件事的任务。一是预测：这个人接下来会在哪里，他会怎样开车。二是推断：他想要什么，意图是什么，偏好是什么。如果你能从行为中读出欲望，预测也就变得容易了，因为人并不是随意行事的。他们之所以这样做，是因为在努力实现某个目标。

机器人领域在逆强化学习上已经走了很远。正向强化学习是给定奖励，求出策略。逆向则是给定行为，反问这种行为对哪种奖励来说是最优的。一个人开车，系统就能还原出他的驾驶风格；一个人演示自己希望房子怎么打扫，系统就能还原出其中的取舍。它背后的模型薄得惊人：人的行为对于人想要的任何东西来说都是最优的。把这个假设倒过来，你就得到了偏好。

这条脉络比机器人学更早。20 世纪中叶的经济学，以 von Neumann 和 Morgenstern 为代表，把选择看作效用最大化。1950 年代末，Luce 和 Shepard 加入了噪声：人的选择有些随机，选中某个选项的概率随效用变化。机器人学继承的是这个带噪声的版本，称为玻尔兹曼理性（Boltzmann rationality），在很多任务上已经够用。到了 1970 年代，行为经济学指出，人根本谈不上理性。人是杂乱的、情绪化的，充满了各领域特定的启发式规则。

简单模型在《月球着陆器》（Lunar Lander）这类任务上会失效。她的团队研究这个游戏，是把它当作帮助某人控制一个复杂“身体”的替身。人们大多是左右猛烈地撞来撞去。对于运动功能受损的患者，轮椅上安装的机械臂，同样可能显得杂乱无章。Dragan 说，有些日子，这种混乱看上去无从解读，她真想收拾行李去换个工作。随着机器人能力越来越强，代价也越来越大。更强的机器依然需要被告知正确的做法，而计划依然是从人的行为中读出这件事。

如果机器人的任务是优化人想要的东西，而不是程序员写下的内容，Dragan 希望把这看成一场合作。双方都会行动。至少在隐性层面上，人更能接触到被优化的那个东西。他们可以交谈、示范，还能发出其他信号。机器人不必一动不动，去解码一串观测数据。它自己也可以行动，而且其中一些动作可以设计成引出真正有信息量的回应。

Dragan 当时的学生 Dorsa 把这个想法放到路上去验证。自动驾驶汽车想在人类司机前面变道。它想知道那位司机是激进的还是保守的，会不会给出空隙。被动地观察是一个糟糕的传感器。和一辆只是直行的车并排开，激进的司机和保守的司机看起来一模一样。有用的观测始终等不到。

于是这辆车学会了朝旁边车道轻轻挪动，然后观察。如果对方减速，模型就更新为保守，此时并线就变得合理了。如果对方不让，模型则朝另一个方向更新，汽车就等着。Lex 把这称为一场舞蹈。Dragan 说，这样思考的人只有寥寥几个，原因之一是很多机器人学家确实怕人。人是杂乱的。她的赌注恰恰相反：杂乱不是视而不见的理由。人也会做出反应，而反应本身就是信息。

但仍然有一些任务，近似理性的假设会崩溃。通常的选择很让人沮丧：要么放弃，要么接受五十年来的行为经济学已经称人为非理性的。Dragan 一直在尝试第三条路。也许人是相对理性的，只是在不同的假设下。当机器人学家说某人是理性的，他们其实悄悄假定这个人和机器人拥有相同的状态、转移函数和规划视野。如果这个人并不具备这些，他的行为看起来就会慌乱不定。问题可能出在借来的世界模型上，人本身未必有错。

Lex 把这件事当作人生道理来看，就像把它当作机器人学论文一样。如果一个人的行为看起来无法解释，那么首先该怀疑的是缺乏共情，而不是这个人的头脑坏了。在《月球着陆器》里，机器人懂得物理，人却不懂。人似乎会在脑中运行一个简化的直觉物理模型来操控飞船，这正是 Josh Tenenbaum 和 Tom Griffiths 在认知科学里研究的那类东西。Dragan 的团队尝试推断，哪一个简化模型最能解释人的操作指令。然后，这个辅助系统不再照搬摇杆的输入，而是去推断这个人原本以为着陆器会落到哪里，再把真实的物理倒着用，让那个预期的结果得以实现。

人们把飞船降在了两面旗子之间。她不会把这个结果说成定论，但她会把它看作一个证据：放弃，并给操作者贴上“疯了”的标签，本身就是一种低估。她说，同样的精神，在别的地方也能打破贝尔曼更新（Bellman update）的前提。也许这个人从来看不到真实状态；也许他还在估计转移函数；也许他还在学习奖励本身。一个把视频平台上的一次点击当作明确偏好的推荐系统，读到的其实是人还没想清楚自己喜欢什么时做出的选择。

她想做的研究计划与具体领域无关：算法化人机交互的基础，无论机体是汽车、四旋翼飞行器，还是机械臂。应用层面的工作总是需要额外的适配。共同的问题是：当机器人不再独自把洗碗机里的碗拿出来时，算法会发生什么变化。她同意，开放领域对话就是恰好以虚拟形式出现的人机交互。她关心的界线在原理上，底盘则是次要的。

Lex 把信息收集的思路反过来看。人会对机器人维持一个世界模型，而这个模型是可以被塑造的。孩子们本来就对 Alexa 有一套模型，司机本来就对自动驾驶汽车有一套模型。那么，优化人们如何看待你，有没有价值？Dragan 说，这个过程是不可避免的。看到一辆车强行别了别人一下，你就会往“激进”的方向更新；看到机器人朝门口开过去，你就会得出结论：那就是它的目标。人对机器人做的推断，正是机器人想对人做的推断。

一旦这一点被纳入状态，机器人就可以把优化目标设为提供信息，而不是制造混乱。在某一条研究路线里，状态的一部分是人对机器人内部参数的信念。每一个动作都是新的证据。人被用贝叶斯法则（Bayes' rule）建模，同时假定机器人是理性的，而机器人会选择那些能把最多概率质量放在真实参数上的动作。这里的数学是常规的，设计上的主张却不寻常：既然人无论如何都会推断，机器人就应该挑选那些让正确推断变得容易的动作。

Lex 对清晰度之外的东西也感兴趣。他担心的是轻蔑。孩子冲 Alexa 大喊，是因为什么也没发生。他成长于苏联时代，也了解人类如何对待被标为“他者”的群体，他认为机器人是下一个。他的直觉是，机器需要一些态度、一点神秘感、一些顶撞，否则它们得不到尊重。Dragan 给出两点看法。人确实会对强硬做出反应，也会对脆弱做出反应。被推了一下之后短暂露出失落的机器人，可能比一个表现得无懈可击的机器人更受善待，因为人忍不住要把它拟人化。经典的心理学演示至今依然有效：空白屏幕上一个三角形追着一个方块，就足以让观众对那个三角形生气。

她说，更深一层的框架是一般和博弈（general-sum game）。汽车希望乘客安全到家；旁边的司机也希望自己安全到家。他们都不想相撞，却并不共享同一个目的地。把互动看作“预测加回避”，就漏掉了影响这一层。高速公路汇入时，如果车辆预测到车流会一直不断，又找不到无碰撞的方案，就会永远停在那里。若汽车稍微往前挪一点，人可能会减速让它进来。她喜欢机器人学里一个较老的词来形容这种情况：欠驱动（underactuation）。有些自由度你能直接控制，有些你只能施加影响。她说，人机交互就是一个欠驱动的机器人问题，这里头有一种诗意。

Lex 有一个奇怪的爱好：看了几百个小时的行人视频。在美国过马路，每天有数以千万计的次数，这其实是一场小型的懦夫博弈，尤其是在通行权不明确的路口，或者路口的性格会随时段变化的时候。有一位跑步的人曾告诉他，在人行道上不要和别人对视，大家自然会让开。Dragan 给这种现象起了个名字：礼貌性忽视（civil inattention）。你明确表示不会改变方向，就等于告诉别人要绕着你走。犹豫、瞥一眼、停留片刻，则是在表示你仍在博弈之中，可以被影响。机器人的试探性移动，是同一场博弈，只是多了一步核算：这次试探，值不值得它可能换来的信息？

Jim Keller 是一位芯片架构师，也曾负责 Autopilot 团队，他曾对 Lex 说，驾驶仍然是一个弹道问题：别撞东西，掌握动力学，忽略人。Lex 的直觉正好相反：人让问题难了一个数量级。Dragan 用一个思想实验来回答。想象旧金山市中心，把所有人都拿掉：没有行人，没有人类司机，没有骑车的人，没有电动滑板车。她认为，到了那个时候，驾驶就完成了。感知过去是卡点。几年前，还不敢说整套系统能分清每样东西在哪里。现在，人都不在了，她就不觉得感知是挡在路上的东西了。

规划、控制、湿滑的路面和施工路段仍然很难。在她看来，真正让人觉得危险的是高速路上的车速，而不是在熟悉的市中心慢慢爬行。谈到传感器，她的话说得很直接：只要有机会，不用激光雷达（lidar）她就觉得不负责任。她承认，马斯克说激光雷达是拐杖，是个挺有意思的说法。眼下能用的东西，确实会变成拐杖，让研究者不去箱子外面看。但对安全攸关的系统来说，原则正好相反。在纯视觉方案被证明可靠之前，她的信息来自那些能用激光雷达的系统，而她会继续使用它。

人的部分并不是没有数学可循的谜团。公司已经在小范围内部署无人驾驶汽车。Lex 把他在凤凰城坐 Waymo 的经历，描述为自己人生中最具开创性的机器人时刻之一：驾驶座上没有人，也没有抢方向盘的选项，车子按限速行驶，还能应付行人、路口和左转车辆。Dragan 不会把剩下的工作简化为纯工程问题。在一个地方成功、在其他地方仍然空白，说明这套方法可以扩展，也说明新的城市会需要新的算法，或者至少是修改过的算法。

Lex 问，其中有多少可以从数据中学来，又有多少仍然是人类专家注入的启发式规则？Dragan 不接受通常的二分法。把整套系统归为手写规则与端到端的强化学习或模仿学习（imitation learning）两种，就漏掉了规划、搜索和优化。机器人学本质上是序列决策。当机器人在一个空间里搜索一条既能到达目标、又不碰撞东西的路径时，没有人把那些路点写成规则。在她看来，这种搜索是不可或缺的。

学习也是不可避免的，因为搜索需要世界的模型。单靠模仿，一出训练分布就失灵。强化学习更有前景，但在真实世界里试错是一个严厉的老师；在仿真里试错，只有当仿真世界（包括其中的人）足够好，使得由此得到的策略可以安全地投入运行并继续学习，才会有帮助。她说，为此目的的人类模型，必须是人工构造的结构与学习得到的部分相结合。如果把策略拟合到一批人类数据上，再去计算机器人的最优响应，机器人就会跑出数据的支撑范围。在那个范围之外，拟合出来的人就毫无价值了。许多策略都能和一个有限的数据集相容。数据并不能告诉你，这个人接下来会做什么。

Lex 不喜欢“分布外”（out of distribution）这个说法，因为它悄悄塞进了一个整齐的统计模型，假定一切都已经见过。人走进陌生的情境，仍然大多能做出还算靠谱的预测。Dragan 的回应落在先验上。你必须对“从历史到动作”的巨大映射空间做正则化。历史可能指过去几分钟，也可能指过去几个月，合适的时间跨度取决于任务。一个候选的归纳偏置（inductive bias）是：人有意图，而且意图驱动着他们的行为，至少在附近的数据表明不是如此之前。这个先验会不会失效，是否需要更丰富的信念结构，她认为是一个完全开放的问题。在人工智能的宏大意义上，常识推理也许不必先行解决。

Lex 希望模型里有对死亡的明确恐惧。玩懦夫博弈的行人，其实是在拿生死做赌注。Dragan 认为，功利主义框架本身就包含了这一点。把一个主体视为有目标的，你就给了它一个活下去的理由：死掉的主体无法完成任务。她引用 Stuart Russell 的话：你死了，就没法把咖啡拿来。正因为如此，她仍然待在一个她知道已经有缺陷的理性框架里。她看到的替代方案，要么是收拾行李走人，要么是完全转向黑箱，对数据之外的东西一无所知。她宁可保留这个有用的虚构，并随时准备察觉它何时失灵。

话题从完全自动驾驶转向已经上市销售的 L2 级辅助驾驶系统，包括特斯拉的 Autopilot 和凯迪拉克的 Super Cruise。后者会盯着驾驶员的脸，只有在眼睛注视道路时才允许免手驾驶。Lex 问，一个不那么聪明的机器人加上一个负责监督的人，是不是能让两者都安全的稳妥方案。Dragan 的谨慎之处在于一个隐含的假设：一个人不再驾驶、只是偶尔介入，他的安全程度会和手一直握着方向盘时一样。

从技术上讲，接管的系统会到达一些驾驶员本来不会走到的状态。从驾驶员的角度看，这些状态是离策略（off-policy）的，而且并不明显的是，人在这些状态中的表现是否和熟悉的状态一样好。从人因工程的角度，即使她努力保持投入，她也感到主动操控和被动观察是两回事。生成答案的学生，比直接被告知答案的学生学得更多。航空业几十年来一直把这种差距视为既定事实。

Lex 因为提出相反的观察而挨过批评。几十年的人因研究预测过驾驶员会走神，而大规模的数据和大量的交流却让他感到意外。他说，对于足够笨的半自动系统，人作为观察者，反而可能比作为驾驶员时更有干劲。Dragan 并没有把门关死。天真的设计，隐含地押注了一个可能不成立的假设。而刻意让人留在回路中、把目标定为赋能仍然在场的驾驶员，则是另一种哲学。希望一个人几乎不开车、同时随时准备抓住方向盘，与希望人机组合的表现超过一个人单独开车，是两回事。

接着 Lex 提出了压在整场对话底下的那个问题：我们该如何设计好的奖励函数？Dragan 的回答是，我们并不真正知道怎么做。她过去以为，最难的是把奖励定制到最终用户身上。现在她认为，即使把交互的部分剥离开来，指定一个奖励依然很难。写下一个目标，部署智能体，你希望它在每一个新情境下诱导出的行为，都是你原本想要的行为。对于一条机械臂来说，这意味着一个代价函数（cost function），既要在与人保持距离和效率之间取得平衡，又要在她没有调过的场景里也显得正确。她不知道如何保证这一点。实践中，她会虚构几种有代表性的情境，然后不断调整，直到最优解在这些情境里看起来正确为止。强化学习革命曾许诺，我们将不再用手写行为。结果工作的重心转移到了奖励上。她调代价函数已经调了十年，而很长时间里，她都没有正视这门老手艺还有多少仍然保留在那里。

Lex 把这种失效模式从机器人学里抽离出来。你遵循了规范，却依然没有得到你想要的东西。这是人的问题，它有个名字：古德哈特定律（Goodhart's law）。一旦某个指标成了目标，它就不再是个好指标。Dragan 接受了这个类比。机器人会优化你写下的东西，而那未必是你的本意。她最早研究的机器人与最终用户之间的合作，同样适用于机器人与试图把任务写下来的程序员之间。程序员不是完美的神谕。写下的奖励，也不是法律条文的字面。

一旦你不再把规范当作神圣之物，其他的信号就会进入视野。想象一台家用机器人，程序员给了它一个可用的初始目标。它靠得太近了，你把它推开。经典控制可以把这股力当作需要抑制的扰动。更顺从的模式，则可以松软下来，顺着推力走。Dragan 给出的第三种解读是：这一推针对的是奖励。如果机器人本来在按最优方式运动，而你却进行了干预，那说明你不同意它对“最优”的理解。代价函数是错的。外力叠加在机器人原有的指令上，就是一条线索，指向你真正想要的动作，系统可以因此学到，你更喜欢更远的距离。一次推搡无法排除无数种其他解释，但更长时间的相处也许可以。机器人还可以有意地移动，把这些解释区分开来，这还是同一个收集信息的思路，只是这一次发生在物理接触之中。

紧急停止是另一条泄露信息的渠道。机器人应该停下来，同时也应该更新：它原本要做的事，比静止不动还糟。环境也会泄露信息，无需任何示范。一台机器人走进房子，看见鞋子排成一行，就可以推断这一排是有意义的，因为鞋子不会自己排队。对于反过来的推断，她很谨慎。乱糟糟的房子，并不代表主人想要混乱。它只说明主人把有限的注意力花在了别的事情上，而那件事排在更前面。当下世界的状态，是一层层选择沉淀下来的结果。如果读得太粗糙，你学到的就是错误的偏好。

Lex 问起 Asimov 提出的三条定律，这是他的亲戚们一想到机器人就会拿出来说的民间伦理。Dragan 不想要三条定律。她甚至记不住这些措辞，更深层的问题是，它们无法翻译成数学。作为一个目标函数，“不伤害某人”究竟意味着什么？你希望机器做的是你的本意，而不是你字面上说的话。在她团队与合作者（包括 Pieter Abbeel 和 Stuart Russell）的工作中，设计者设定的奖励被视为证据：它说明人在实际设想的情境里想要什么，而不是一个要永远优化下去的通用函数。机器人应当对自己真实的奖励保持不确定，并且不断根据纠正、示范、停止，以及房间本身来更新。

被问到改变她人生的一本书，她想起了罗马尼亚读十二年级时的一个 PDF：Russell 与 Norvig 的《人工智能：一种现代方法》。那时她对人工智能的全部了解，只有《黑客帝国》。抓住她的想法很简单，在她看来也很美：你可以有一个目标，并且从一团乱麻般的情境中，找到一串能自主抵达它的决策。这依然是实验室的标志。他们对人类行为写出数学表达，把它和数据、学习结合起来，再把结果交给机器人去规划，而不是手写规则，告诉机器人如何绕开人走路。那种兴奋，和她当年看着搜索算法在图上找路径时的感觉是一样的。

她说，如果医生告诉她还有五年，那会是她的噩梦，因为她喜欢活着，也不喜欢别人告诉她将会死去。她也不想永远活下去。《善地》让她得到一个道理：哪怕是来世，也必须是有限的，否则人就会失去生活的主线。她并不信教；她认为死亡就是存在的终结，而存在本身是一种特权。她挥之不去的那份伤感在于，我们之所以热爱身在此处，部分正是因为它会结束。她几乎觉得一切都是美的，包括那些最琐碎、最不起眼的小事，而她知道，正是因为有限，这些才显得美。Lex 希望把这一事实写进我们的奖励函数里。她笑着说，人们说她有俄罗斯式的忧郁，但她并不打算因此重新设计自己的生活。她会多去加勒比海旅行，少做一些系里的事务，也不再参与招生。工作、学生、同事和家人，本来就已经带给她快乐。大多数时候，她已经拒绝了那些不能带来快乐的工作。

为她打开门的那位老师，是一个小故事，但她也明确表示，这是一笔更大的人情债。同学们在罗马尼亚的高中毕业会考（baccalaureate）之前都花钱请家教补课，而她却荒废了物理。她开始跟一位名叫 Bîcă 的老师学习。老师让她去参加竞赛，申请国外的大学，还让她提高英语。她的父母负担不起这些额外的花费。老师免费给她补物理，还陪她一起备战奥赛。Lex 点出了显而易见的一点：没有任何制度上的理由要这么做的人，正是她能够来到伯克利的原因之一。她记得这是那种说不清由来的小小善意，只因为有人单纯地希望一个学生能走得更远。

人生的意义，是她没法一本正经去问的问题，但她还是要回答。在天文馆里，镜头一路拉远，直到人类变成尘埃；接着讲解员讲到多元宇宙理论，整个深不可测的宇宙就变成了一个光点。那一刻她就放弃了：宇宙层面不存在意义。剩下的，是去影响你所能触及的那一小块地方，你的社区、朋友和家人，并且为其他人在场。宇宙的浩瀚与其说让她振奋，不如说让她沮丧。她觉得自己的大脑没有这种容量，甚至连物理学家也只理解到某个界限为止。Lex 最后谈到用人工智能扩展这种能力的梦想，然后以 Asimov 的一句话结束：你的假设是你观察世界的窗户，需要时不时擦一擦，否则光线进不来。这场对话就是这样一次擦拭，从“人是最优的”这一假设开始，最后落到一种可能性上：人只是生活在一个不同于我们所写下的那个模型之中。