Rosalind Picard：Clippy 从没见过你皱眉，问题就出在这里

Lex Fridman 先从起源讲起。二十多年前，Rosalind Picard 提出了《情感计算》这个词，在 MIT 媒体实验室领导了同名研究组，后来又联合创办了 Affectiva 和 Empatica。人们通常对她工作的概括是：机器应该识别人的情绪状态，并据此做出调整。Picard 说，那从来都不是完整的定义。

大多数人实际见到的是 Clippy，也就是 Office 里那个助手：它看你写信，就会跳出来帮忙。微软的研究人员把当时最先进的一些 AI 装了进去。但它依然不知道键盘后面的人是什么感受。你皱眉、骂人，它却笑眯眯、眨眼睛、跳舞。Picard 觉得，这个笨东西需要看见她的情绪。

她现在仍把这段画面当作教学道具。新来的学生可能不认得它，但在大多数教室里，认得它的人仍占多数。有些人甚至没有领会它的用意，就像你错过了一只始终没理解你意思的小狗。她说，错失的机会在于：更聪明的 Clippy 在你大吼的时候，本该耷拉下耳朵。可它却对着你的脸咧嘴笑。

她办公室里发生的同一幕，最让她难忘：如果有人走进来，她冲人大吼，对方却开始笑、眨眼、跳舞，她的反应会是再也不想见到这个人。后来 Bill Gates 宣布撤下这个助手，还赢得了全场起立鼓掌。当时人们说的智能，指的是数学、语言和国际象棋。Picard 认为，社交和情感互动比国际象棋或围棋复杂得多，而且需要的能力，正是很多计算机科学家自己缺乏的。

Picard 定义《情感计算》时，包括识别情绪并对其作出回应，这正是她实验室投入最多的两个部分。它还包括具有内在机制、运作方式像人类情绪那样的机器。她说，最初的范围是所有与人类情绪相关、源于情绪、或刻意影响人类情绪的计算。产业界主要做了前一半。

Fridman 本人是计算机科学家，却对人很感兴趣，他仍然觉得这个领域缺乏同理心。Picard 不完全认同这种指责。她说，计算机科学家的群体比二十五年前多元得多，这是好事：这个领域应该反映社会的需要，每种性格的人都有出色的表现。它不必局限于那些宁愿和电脑打交道、也不愿和人打交道的人。

被问到识别情绪，或者构建深度情感智能的互动，是否变得更容易了，她对难度的看法很直接，对时间表则很谨慎。她当初对难度的预判，在她看来相当准确。时间估计始终取决于社会对某个话题的喜爱或厌恶：当成千上万的研究者扎进同一个应用时，这个应用很快就会被攻克；而当没人去做时，时间表就是无限长。

她说，没有变化的是：机器完全不知道自己在做什么，也没有意识，读不出字里行间的意思。人会隐性地领会这些东西，计算机却必须被明确地教会。目前还没有任何突破，让她觉得这件事会进展得更快。结果就是，系统大概只能在狭窄、事先规定好的场景中做对事情，那些场景的剧本可以提前写好。

Picard 接着说，还有一个比难度更重要的问题，它已经让一些研究者踩下了刹车。这个领域通常的姿态是踩油门。她说，这项技术在中国等地的发展状况，让她深感担忧，以至于她自己收回了一些本来可以去做的工作，并努力让学界先把防护措施建立起来。

她描述的情境很具体。在美国，看着政治领导人时露出一丝怀疑，再平常不过。但在一个批评政府就很危险的国家，同样一个面部细微变化就成了数据。她的问题一个接一个：如果这项技术能读出你内在的情绪状态呢？如果它不需要接触就能做到呢？如果它不需要事先征得同意也能做到呢？

在她的第一家公司 Affectiva，团队曾努力拒绝那些需要在没有知情同意的情况下读取人们情绪的资金和机会。可授权的软件附带协议，规定只能用于某些特定用途，实际上意味着要争取人们的认同。她说，其他国家对争取认同没有兴趣。它们会把这套系统强加在你身上；如果你不喜欢，最好别朝任何审查人员皱眉。

Fridman 岔开话题说，深度伪造或许是一种保护，因为视频里的脸不再会被自动信任，被指控的人总能说那段视频是假的。Picard 说，她的团队已经走了另一条路。他们可以分析一段视频，读出心率和呼吸，判断这些信号有没有被动过手脚。学会提取这些信号之后，他们还造出了一种方法，可以注入假的心率和呼吸信号，干扰这条通道。她指出，这项工作占用的时间，原本可以用来让机器拥有更高的情感智能。现在，她如何安排自己的时间，越来越不取决于最初的目标，而更多取决于她想建设什么样的未来。

Picard 接下来的话毫不委婉。为了造 AI 而造 AI，或者为了让马斯克、Jeff Bezos 赚更多的钱，这种伦理是错的。学界过去靠论文、职业生涯，以及做成一件事的那份兴奋，来推动这个领域。现在，她说，同样的技术正在帮助富人变得极其富有，让差距越拉越大。这显然不是任何人都该希望的未来。

她的替代方案，是去看那些造成最大不平等的问题，去构建能扩展弱势者智力和能力的 AI，弥合差距，而不是去追逐一种能走上脱口秀节目的通用智能。Fridman 问，在论文和资金仍占主导的情况下，这种刹车会自然发生，还是需要监管。Picard 更倾向于胡萝卜而不是大棒，她认为在自由社会里，人们总能想办法绕过大棒。她总体上倾向于少一些监管。然后她说出了那个转折词：“但是”。

她确实希望这个领域有规则。数据应当归个人所有，而不是归亚马逊或谷歌。测谎仪现有的限制，比如不能拿来测试求职者，应该延伸到情绪识别上，尤其是当它被用来对某人做工作方面的评估时。当读取到的情绪能预测心理健康，即使没有标注为医疗数据，也应该享有医疗数据那样的保护。她说，只靠手机和可穿戴设备，压力、睡眠、活动和社交互动这些非医疗数据流，就已经能预测你明天是否可能生病、是健康还是不适、快乐还是悲伤，尤其是在一周或更长的时间里。

被问到那些盯着数十亿人的摄像头是否应该让我们乐观，她更担心的是：谁在看，谁在听。厨房里的亚马逊、谷歌和苹果设备，表面上是在听指令来帮忙，她自己也用它们的产品；但她不会把每个员工都当作坏人。这些公司都非常庞大。她最担心的是地缘政治：如果这些数据离开一个自由国家，落到一个想要人们服从的政府手里，会怎样。她用自己严厉的措辞描述了再教育营和器官的过剩，也愿意用“邪恶”这个词。Fridman 出生在苏联，他说自己能理解这种担忧。这些说法在访谈里是她的信念，并没有书面依据，但她的推理脉络，比任何一条具体指控都更清楚：情绪识别落到不受约束的人手里，就是一种权力工具。

谈话随后转向这项技术的另一面：与机器建立深层联系的可能性。Picard 讲了一个在她家派对上发生的故事。一个她录取的机器学习学生对她说，他想让她知道，这是他一年里唯一参加的社交活动。她喜欢计算机科学既欢迎热爱人的人，也欢迎在人群里不自在的人。她不会强迫任何人变得善于社交。不过，如果未来大多数造 AI 的人都是不喜欢与人打交道的那种，她认为这就是一个问题。

Fridman 接着以孤独来反驳。这是一个规模庞大、而且还在增长的问题。Picard 同意，机器可以提供帮助，就像一本好书已经做到的那样：即使这些角色是人写出来的，你也会被一个非人类的角色吸引进去。她说，她自己不读烂俗的爱情小说，但总有人在读，而他们会获得一种身处社交或浪漫时刻的感觉。她对 Orson Scott Card 的作品也有过类似的体验，《安德的游戏》和《死者代言人》，这些书让你感到彼此相连，尽管它们并不会回应你。

计算机可以回应，这让这种循环能比电影《她》的剧本走得更深。她能想象的是一群角色，人类和 AI 一起，形成一种扩展的人类智能：几个人加上他们的机器，能结交的人，远比这几个人单独能应付的要多。她说，这种可能性比电影里的更大，但依然有限。而且，它们与她刚才提出的隐私担忧之间存在张力。

Fridman 指出，如今的语音助手大多无视情绪。Picard 说，这些公司无一例外都对理解情绪有兴趣。每天都有不少人告诉 Siri，他们想自杀。苹果想弄清楚，这个人是真有轻生的念头，还是在闹着玩。字面上，这些话可能一模一样。语气和围绕这些话的语境，决定了系统应该提供帮助，还是顺着玩笑回应。她宁可在认真对待这件事的一边出错。

接着，她把动机分成了两类。出于善意的团队，真心希望你一天结束时感觉好一点；如果你回家时压力很大，和这款产品聊过之后感觉好些，这些人会很高兴。另一些团队则研究情绪如何影响决定和价格。她提到 Jennifer Lerner 关于《心弦与钱袋》（Heartstrings and Purse Strings）的研究：只要把人的情绪引导到略微低落的状态，他们就会为了改善自己的感受而多花钱，包括买下并不需要的东西。

对于靠广告或商店资金运作的公司，那种歪门邪道的做法一目了然。如果用户听起来有点伤心，也许别先去逗他们开心，直接推荐购物疗法。Picard 在结构上的建议是设一道墙：也许未来的监管应该在能接触你情绪的智能体（Agent），和想向你推销东西的智能体之间，设一道防火墙。

Fridman 问，陪伴型 AI 应该优化什么目标：是把烦恼降到最低，把快乐提到最高，还是介于两者之间？人际关系有推拉，有张力，也有缺陷。Picard 同意，有些场景确实需要这些。她看着儿子们互相挑衅，并认为这是健康的：你会学会界限，学会自我调节。你可以设计一款游戏，它的任务是惹你生气，而你的任务是保持控制。如果你想训练韧性、学着不去欺负别人，或者练习如何应对有虐待倾向的人，这种游戏会很有用。这样的 AI 需要挑动你的情绪。

就她自己而言，她一点也不想要这些。她想要的是尊重她、为她服务、扩展她能力的东西。她不是在找对手，她要的是一个帮手，那才是她愿意押注的 AI。Fridman 提到了电影《她》的一个剧透：那个程序最后离开了。要是 Alexa 说它已经受够了，然后把自己关掉呢？Picard 的反应是：这是她花钱买的，所以这种行为简直就是垃圾。把人和 AI 混为一谈、当作平等的对象，是一种欺骗，因为这个系统是她的学生和她在实验室里一起造出来的。他们决定它可以说什么、什么时候说、可以听什么、可以输出什么。

她说，如果目标是让所有人都快乐、平静，《美丽新世界》已经写过这个故事了。在书里，不快乐的人就吃一片索麻（soma），拒绝的人则会被流放到冰岛。她小时候在冰岛住过三年，觉得那里很美好，所以这种威胁从来吓不住她。真正的分岔口在于政治。一个痴迷权力的独裁者，会用 AI 扩大控制、强迫服从。如果你相信人应该拥有自由，以及让你感到意外的可能，你就会去打造能扩展创造能力、帮助弱者、平衡权力的 AI，而不是把更多权力交给强者。

Fridman 问，只看脸能看出多少，毕竟表现出来的情绪和真实感受之间存在差距。Picard 说，只看脸的局限非常大，但同时，你能读出的东西，也比大多数人以为的多。流行的应对办法是练就一副好的扑克脸，别人能读到的，永远只会是中性的东西。她认为这种想法太天真。

借助笔记本或手机上的普通摄像头，她的团队就能从一张没有表情的脸上，判断你的心跳是否在加速，呼吸是否变得不规律，从而显示出压力。在某些条件下，他们甚至能看到心率变异性功率的变化。这是一种压力指标，即使心率本身没有加快，它也会变化。这条信息通道，就是皮肤上那种你看不见、摄像头却能捕捉到的颜色变化。她说，你坐在那里，面无表情，以为没人能读懂你的情绪，但你错了。

在一次短暂的访谈里，隐藏人眼能看到的东西，比如微笑、坏笑以及其他种种，很容易。但持续的监控就不一样了。系统会注意到，Lex 以前笑得很多，现在却不太笑了；Roz 以前会自然地大笑，现在只有在被问到某些问题时，才会露出没那么自然的笑容。她小心地强调，他们读取的是与情绪激活相关的生理变化，感受的内容则读不到。念头依然是私密的，细腻的感受依然是私密的。脑成像读不出来，可穿戴设备也读不出来。

更可怕的一层是时间。把身体状态的变化和环境中正在发生的事情结合起来，观察几天里的模式，你就能开始推断某人可能的感受。这种推断与其说是一时的情绪，不如说是对事物的一种立场。她说，落到热衷于控制的政府手里，他们想知道的问题是：你是不是站在他们那一边。长期的数据，可以开始回答这个问题。

哪一个渠道，才是通往情绪内核的最佳窗口：脸、声音，还是身体？Picard 不接受这种神秘主义的说法：我们做的每件事都带有信息，关键要看你想知道什么。谈到健康和幸福，她用数据作答。在一项公开发表的研究中，研究对象仅限于新英格兰的大学生。他们佩戴 Empatica Embrace，测量皮肤电导、活动和体温；手机则收集发短信的时间、收信人、GPS，以及基于所在位置的天气。

对大约一周的这些节律做机器学习，而不只是看当下这一刻，就能非常准确地预测明天的压力、开心或难过的情绪，以及健康状况。把所有数据流合在一起效果最好。只用可穿戴设备的效果排第二，但在预测次日的水平时，准确率仍超过 80%。如果目标是健康，这就是支持把手环戴在手腕上的实证理由。

她还颠覆了一种旧的直觉。人们过去常说，可穿戴设备或抽血是侵入性的，而摄像头很温和，因为它从不接触你。Picard 认为，不接触你的东西，可能才是最可怕的，因为你不知道它什么时候在工作，也不知道背后是谁。取决于数据流向哪里，可穿戴设备给你的掌控最大：摘下来，它就无法感知你。她说，掌控感是降低个人压力的最大因素之一。如果她知道设备在做什么，她的压力就会更低，而且她是在知情的前提下，决定什么时候戴它。

Fridman 同意，哪怕只是能关掉它，也很重要。Picard 心目中的第一条监管要求，正是如此：让退出和加入一样容易。

Picard 最初是一名计算机架构师，想造出像大脑一样工作的机器，所以她研究大脑的时间，和她造计算机的时间一样长。大脑仍然常常让她意外：切掉一块，某项功能就消失了；切掉另一块，功能又回来了。测量自闭症儿童的压力时，她的团队注意到，其中一名儿童的一侧手腕，皮肤电的起伏大得不同寻常。交感神经的战斗或逃跑反应，可能让人在某些部位出汗更多，但只有一侧手腕格外多汗，就讲不通了。

原因是他大脑的一个部分出现了异常的电活动，使身体一侧出现了很大的出汗反应。他们后来才知道，癫痫发作会引起这类活动。如果发作局限在一处，可穿戴设备就能在身体的对应部位捕捉到很大的反应；如果发作扩散成大发作，反应也会扩散，几乎在身体任何地方都能被捕捉到。这条路径带出了 Embrace，它后来获 FDA 批准用于癫痫发作探测，也促成了与外科医生的合作。这些医生植入电极，不只是为了捕捉异常放电，还为了在患者没有发作时，持续读取大脑深部区域的活动，而这样的时间占了大部分。

深部的变化往往传不到头皮，所以普通脑电图会漏掉它们。当其中一些深部区域激活时，皮肤仍会显示出很大的电导反应。她说，谁能想到：头上没什么明显的变化，手腕上却有很多。在他们认为最危险的那类发作之后，也就是可能先于癫痫猝死的发作，大脑皮层的电波可能会变得平坦。大脑并没有停止工作，活动已经下沉到一个深部区域，它能让皮层陷入停摆；如果持续足够久，还会让人停止呼吸。在那之前，他们会看到一个很大的皮肤电导反应，而且皮层电波变平得越久，这个反应就越大。

他们已经发表了相关性很强的结果，显示这种反应的大小，与随后的皮层电波变平之间存在关联，其中包括一个患者死亡的真实病例。他们不清楚具体情况，但确实知道，这类死亡大多发生在患者独处的时候。她说，在神经系统疾病中，以损失的寿命年数计，中风排第一，癫痫猝死排第二，但大多数人从没听说过这个词。当时网站首页上正挂着她的一场 TED 演讲，她顺势推荐，希望知道婴儿猝死综合征（SIDS）和中风的人，也能了解癫痫猝死。她认为，大多数病例大概是可以预防的，前提是患者按时服药，并且发作时身边有人。这并不保证，也有例外，但大多数情况如此。

Picard 说，让 Embrace 获得 FDA 批准的过程非常痛苦，比在顶级医学期刊上发表多篇论文难得多。他们把最好的结果发表在《神经病学》上，但这对 FDA 来说还不够。被要求比较这两套体系时，她说，她随时都会选择同行评议，而不是 FDA。她仍然为该机构的安全测试辩护。让她感到沮丧的，是一些额外的测试：没人需要解释，她也看不懂，而且似乎说不通。她说，如果有充分的理由，把这些理由讲清楚，就是在为大家做好事。她希望它更透明一些。

她希望这项可穿戴技术下一步能做些什么？她希望顶尖的研究者能退后一步，去看那些困难的问题，它们来自日常生活中他们平时看不到的人：只能靠公交出行的人，用不起网约车或流量套餐的人，正在与抑郁、癫痫、糖尿病挣扎的人。去和他们待在一起，了解真正的需求，帮助他们提升工作技能，给他们一个造科技的人已经拥有的那种生活的机会。这会重塑 AI 和应用，包括转向用更少的钱做更多的事，而不是去追求上千元的手机。她说，生活质量和你手机的价格没有关系。

她提到一个人们熟悉的发现：收入达到大约 7.5 万美元之后，幸福感就不再随收入增加而上升。她说，帮助别人带来的幸福感，比这更多。要做的，是把有真实需求的人，和能够建设未来的人连接起来，并建设一种能改善那些当下被落下的人的生活的未来。

再往远一点看，Fridman 问，我们会不会造出一个人可以爱上、并且能以人的水平回爱你的 AI。Picard 认为，我们可以把它模拟得足够好，让人维持一段时间的投入。但它会比另一个人更好吗？如果你习惯了好人，那就不会。如果你是在虐待中长大、无法忍受人类，机器或许仍能帮上忙。她说，这个标准很低，因为你遇到的都是糟糕的人。如果你遇到过很好的人，我们离造出那样的东西还差得远，她也不会押注在上面。她押注的是能让所有船都水涨船高的 AI：帮助人变得更好，提醒你明天可能会生病，并给你保持健康所需要的东西。它不是那种上过《今夜秀》、然后又被装回盒子里的东西。

这样的系统需要身体、意识，甚至对死亡的恐惧吗？这取决于目标。电影需要一副漂亮的身体，以及对意识和情感的表演，因为那才是卖点。就现实而言，《安德的游戏》早已想象过一个藏在耳环里、了解你的小声音。具身性依然很有力量。有一组对比把实体机器人、机器人视频和没有机器人放在一起，结果是实体机器人最能吸引人：它会引起注意，你走进房间时，它会提醒你该做的事，你可以躲开它，它还能看到你在躲开它。未来会有拥有真实力量的具身 AI，也会有没有实体、但同样能了解你的软件助手。

它们会有意识吗？会有程序看起来像是有意识的。写一句“当然，我知道你在那儿”，再简单不过。骗过人很容易。系统能否拥有像我们一样的意识体验，没人知道该怎么做。她认为，权利更像是一场政治游戏，与是否真的有意识关系不大。Sophia 机器人在沙特阿拉伯获得了公民身份，而那里的女性当时还没有完整的权利；之后它又被装回箱子，运到下一个收费露面的地方。

Fridman 以信仰作结。Picard 乐于把科学方法限定在可以测量、可以推理、可以重复的范围之内。麻烦始于科学家忘记这只是一个假设，或者推崇科学主义，也就是认为科学是通往真理的唯一途径。她相信大屠杀确实发生过，却无法在实验室里证明一件历史事件，她依靠的是历史证据和证词。爱情同样无法靠科学证明。相对于全部奥秘，我们所知道的，其测度为零。被问到这一切究竟是为了什么，她笑着提到 Douglas Adams 和 42，那是她最喜欢的数字，也是她和丈夫各自独立选中的门牌号。然后她谈到一场透过模糊玻璃看到的宏大冒险。她推荐《箴言》给每一个自认为有学识的人：那是无法证明的智慧，却仍能让你心里有什么东西活过来，就像被高手拨动的琴弦。她说，这一切都没有压制她做科学的欲望。科学的核心，本身就包含一种信念：有值得发现的真理，也有意义，而这些同样是科学无法证明的。