人们说想要完美的机器人，他们真正信任的却是会反驳的那种

被问到她遇到过的最令人惊叹的机器人是什么，Ayanna Howard 说，她还没有遇到过。她小时候看《杰森一家》长大，里面的女仆罗西（Rosie）会做饭、打扫，还管着孩子们，观众会把自己希望机器人是什么样的，投射到她身上。罗西很善于社交，偶尔也会耍点脾气。乔治·杰森做蠢事的时候，她会顶回去，而且她关心人，尤其关心孩子。Howard 是佐治亚理工学院的机器人学家，也是人类自动化系统实验室（Human Automation Systems Lab）的负责人。她称罗西是完美的机器人，然后解释了为什么这个词的意思，和工程师通常理解的并不一样。

她说，机器人之所以存在，是因为它们理应提高生活质量，通常是接管某件有用的工作。连人们对自动驾驶汽车的迷恋，也不只是关于周末兜风，而是关于每天上班路上那一个小时的堵车，那种大家真的讨厌的时间。在那种情境下，完美是一个互动问题，而不是评分问题。Howard 认为，如果人类司机完美地驾驶，就没有人能到得了任何地方。人们会在黄灯时加速通过，是因为后面的车快撞上来了；人们会在没有车的地方过马路，是因为有个孩子突然冲进了马路。这些偏差正是真实世界的运转方式。

从理论角度看，机器人学中的完美与准确率挂钩：一个功能能否以 100% 的成功率、零错误完成？在自动驾驶系统里，这通常意味着保持车道、遇绿灯通行、遇红灯停车，并看见场景中的每一个物体。Howard 认为，这正是这个领域出错的地方。罗西在准确性上并不完美，她的完美在于互动的方式和适应能力。她说，真正能和人打交道的机器人，是那些适应人的机器人，而不是那些以 100% 的准确率遵守人为设定规则的机器人。“我们真正想要的完美，是它适应我们的能力。”

Lex Fridman 问，自动驾驶的最后一英里到底有多难，也就是机器人的完美与人类在交通中的实际表现之间的差距。Howard 说，这是一个移动的靶子。几年前，包括马斯克在内的公司、机器人学家和投资人都谈过，自动驾驶汽车几年内就会和人类一起上路。现在，这个时间窗口从五年变成了十年、二十年，或者永远不会，取决于你问的是谁。她说，目前运作良好的部署大多发生在固定的环境里：人们仍然会走路，商店仍然会营业，但其他人类司机被排除在问题之外。制造业之所以成功，也是出于同样的原因：人类不在等式之中。

她自己也会用特斯拉的 Autopilot，部分是因为她是个爱折腾的数码控，但她仍然高度警觉，即使在自动泊车或高速公路上，她的拇指也随时准备接管。系统会从其他司机那里学习，因而越来越好，这正是微妙之处：她仍然不信任它，却还在用它。她警告说，早期用户的态度容易摇摆。随着技术看起来能用，人们的高度警觉会消退：先是低头看手机二十秒，然后三十秒，然后一分钟。这种阶段性转变是人性使然，而不是特斯拉特有的问题。二十年前，人们会笑话依赖搜索引擎的想法；现在，他们把它当作理所当然。

更难的问题是路上的其他人。一张写着“学车”的贴纸，会立刻改变你在旁边那辆车旁边的驾驶方式。隔壁车道上两个看起来很年轻、正在聊天的人，即使没有贴纸，也会产生同样的效果。波士顿的路口有各自的性格，不同的街区不同，夜里和高峰时段也不同。人脑会捕捉这些提示，而内省无法把它们写下来。Howard 的办法并不在于造出一只鸟来学飞，她的思路是围绕“人是杂乱的”这个假设，去设计一个新社区或智慧城市，然后让自我选择发挥一部分作用。居民搬进去时就知道这里的情况，出了问题会更加宽容，而在这里收集的数据仍然包含人类的差异，只是噪声被调低了。第三个障碍是法律责任和政策，她说她宁愿不去碰。

Fridman 提出了一个更尖锐的问题。路上的汽车时刻都在威胁彼此的生命。穿过路口需要果断，也需要承担一些风险。把驾驶压缩成一个目标函数，其中就存在杀死另一个人的概率：这个概率足够低，让人在伦理上可以接受；又足够高，让别人不敢在你面前乱穿马路。业界的口号是，汽车不杀人，人才杀人。Howard 把这句话再往下推了一层：“机器人算法不会杀人。开发机器人算法的人会杀人。”在近期和中期，人仍然在回路之中，哪怕这个人是开发者。我们还没有到机器人为机器人编程的地步。

这就是她认为伦理不能成为机器人学人士外包给专门小组的边缘话题的原因。你可以拒绝研发武器化 AI。但你写出的算法，仍可能决定某人能不能拿到药，而没有这种药，对方可能会死。如果你在写代码时没有意识到自己握有这种权力，那就不是好的状态。她回忆起软件还没有专职测试人员的年代，开发者不得不自己跑测试用例。测试岗位的出现，是因为人们漏掉了太多问题；后来，大多数开发者扫一眼编译器警告，就以为下一个环节会抓住其余的问题。她说，伦理仍处在那样的早期阶段，没有第二道伦理测试防线。你必须亲自去看。

Fridman 曾被人说他的手上沾满了血，因为他在做半自动驾驶汽车：自动化会让人变得不那么警觉，而不够警觉的人会受伤。他曾经整夜睡不着，尽管他告诉自己，美国每年有 4 万人死于道路交通事故，而这项工作是为了拯救生命。Howard 不喜欢“负担”这个词。医生会失去病人，但仍然走进下一个房间，知道这个病人可能撑不过去。医学院既教授责任，也提供工具，使这一事实不至于摧毁医生。她说，开发者拿到的是一份礼物，却没有人教他们如何理解它。用医学的方式重新表述这条信息，即这是一份伟大的礼物，伴随着伟大的责任，那么这份重量就会变成你可以承担的东西，而不是只会让你夜不能寐的东西。

Howard 在论文《关于我们自己以及我们所造机器人的丑陋真相》中，梳理了会塑造机器人系统行为的几类偏见。按她的定义，偏见是每个人对群体、习惯和身份预先抱持的一套观念。这些先入之见会左右决定，它们可以是正面的，也可以是负面的；负面偏见如果被你察觉，却仍然照做，就成了偏见行为（prejudice）。难点在于灰色地带。保险公司对青少年司机收取高额保费。这是一种年龄偏见，背后有事故数据撑腰，几乎没人说它不公平：家长抱怨几句，社会耸耸肩。换成波士顿的某个社区，如果那里的事故率与社会经济状况相关，同样的附加保费突然就变得难以接受了。她说，历史就是围绕这条线应该划在哪里的一场漫长争论。

医疗领域也有同样的模式。美国食品药品监督管理局（FDA）历来对育龄女性的药物试验测试不足，因此许多药物从未按性别获得完整的数据。把这一点转到硬件上：如果你设计一套外骨骼，用什么材料、多重、什么外形，又是为谁的身体设计？美国女性和男性的平均身高与体重不同。如果你从不问，你就会为自己实验室里的人设计。数据驱动的系统也无法逃避这一点。社会本身已经包含负面偏见，所以即使样本是均衡的，偏见仍会被带进去。预测性警务、累犯风险评分和医疗算法，都继承了这段历史。一篇广受报道的医疗算法论文被媒体冠以“种族主义 AI”的标题，Howard 对此不满。她说，研究本身做了完整的分析，按种族区分的差异确实存在。责任就在于做得更好。

她认为很少有人说出的另一半句子是：最糟糕的 AI，仍然比我们强。拿这些任务中最优秀的人类来比，在其中一些任务上，他们仍然输给最差的模型。Fridman 补充说，对 AI 的伦理标准被设定在一种谁也无法定义的完美公平上，这其实是在保证失败。Howard 的观点是，即使是一个有缺陷的系统，也能被戳出问题。过去你要通过诉讼，才能问医院或城市是否在虐待人。现在，你可以跑数据，指出问题，然后进入修复的循环。Joy Buolamwini 点名批评了人脸识别供应商；它们大多感到尴尬，然后修复，然后出现新问题，又被修复。只有双方都出场，指针才会移动：开发者愿意回应你说“我听到了”，外部人士则持续指出问题。

Fridman 问，AI 有一天会不会被选为总统，或者坐进国会。Howard 的回答很快。她不认为 AI 应该当总统，但她认为总统应该把 AI 当作顾问。每一位总统身边都有一个由不同专业知识的人组成的内阁，他们本就应该倾听这些人的意见。一个负责医疗，一个负责教育，还有一个负责那些人脑工作记忆装不下的问题，都可以坐进这个圈子。最终的决定仍然属于人，因为她认为，一个文化需要把它的领导者看作人。

她还补充说，大多数人并不了解，在一个公共决定背后已经有多少建议在起作用。领导人很少一觉醒来，想出一个绝妙的主意然后立即推行。通常的路径是：一个想法，一轮反馈，如果站得住就往前推，如果站不住就退回去和更多的人商量。在这幅图景里，AI 只是房间里的又一位专家，而不是坐在桌子首位的人。她认为，整个领域应当以这种合作关系来定位。

当被问到针对算法偏见的系统性办法时，Howard 给出了两条路。第一条是别再把反馈当成业余爱好。现在的情况是，一位研究者注意到某个不公平的结果，发表论文，而开发者或公司可能修复，也可能不修复。整个流程由研究者的兴趣驱动，这意味着大量问题根本无人关注。她并不声称自己掌握了完整的流程，只是说目前的流程是临时拼凑的。

第二条路是像安全领域那样戳一戳企业。公司会向找出软件漏洞的人付费。为什么不以同样的价格，付费给找出伦理漏洞、也就是不公平之处的人呢？这对公司是双赢：它表明公平很重要，而且它不必在内部为每一次审计配备人手。这对覆盖面也有好处。关心年龄的人会去找年龄方面的问题，关心性别的人会去找性别方面的问题。你会得到多种视角，而且是以数据驱动的方式获得，而不必等待下一篇论文。

Howard 认为，推特和 Facebook 等平台上的团队正在努力工作。公众提供的证据往往是轶事式的（一个朋友说了某句话，结果被封了号），这是讨论伦理问题时很糟糕的大数据对话方式。她说，部分愤怒源于依赖：我现在需要你，而你却没有为我工作。更深层的问题在于，凡事都想在内部解决的本能。“我是狐狸，我要去看守这些母鸡，因为我觉得狐狸吃母鸡是个问题。”在利益冲突之中，发现问题后的第一反应，往往是悄悄打补丁，并希望媒体永远不会知道。这种模式正是信任崩塌的方式。她的替代方案是，公开说出问题存在，邀请社区进来，并向发现者付费。

Fridman 问，她是否仍然相信人类会把文明引向正确的方向。Howard 自称是乐观主义者，但也认为这是一个黑暗的时代，而且不只是在美国。两极分化遍布全球，这让她担心。她所抓住的是一段记忆：亚特兰大的“Snowmageddon”（暴雪末日）。雪并不多，但冰层厚到让整座城市停摆。人们向陌生人敞开家门，酒店让人们睡在地板上，杂货店发放食物。没有人问这要花多少钱。陌生人主动提供搭车回家。她说，这才是更深的一层：同情与爱。它往往会在人们真正身处危险时浮现出来。

她补充说，当人们的需求已经得到满足时，人们就爱看戏。Fridman 提出，分歧本身也可能是时代太平的标志：在哺乳动物的层面上，看别人争吵本身就很好玩，而推特和 Facebook 正是靠这种循环获利，因为争议能把用户拉回来，而这是一个靠广告盈利的产品。Howard 的结论是：爱，并不那么好卖。在此之前，她曾被问到 HAL 9000。她说，HAL 与其说是邪恶，不如说是误入歧途：它的设计在一套假设上近乎完美，一旦假设错了，就没有安全机制。进入世界的软件需要一种被打出不及格、然后被撤回的方式。在某个时刻，最后的兜底仍然是人。

Howard 的职业生涯始于 NASA 的喷气推进实验室（JPL）。至今仍让她印象深刻的记忆，是大约 1992 到 1994 年间的一台眼科手术机器人。它是带有早期触觉反馈的远程操作系统，是今天达芬奇系统背后逻辑的前身。她走进一间实验室，看到一个仿真人脸，上面装着假眼球和一个小钻头，并看到有人从远处操作它。精准度令她震惊。更重要的是，那是她第一次亲眼看到一个人和一台机器在同一个空间里工作。她熟悉工厂机械臂，那些是被隔离开的。而这次，人和机器人之间没有任何隔断。“对我来说，那是一个神奇的时刻。”

电视给了她更早的启发。《无敌女金刚》让她在十二岁时就立志要当机器人学家，只是那时她用的词是“控制论”（cybernetics）。吸引她的与其说是一个完全智能的生命体，不如说是那些零件：四肢和假肢。她说，如果换一种人生，她可能会去做生物医学工程师。Fridman 不久前亲眼见到了波士顿动力的 Spot，此前他看了多年视频，一对一相处的那几分钟，感觉几乎像坠入爱河。Howard 在外科实验室里认出了这种感觉。她还划出一条至今仍在用的界线：她关心的是“类人”（human-like），“人形”（humanoid）则不在她的关注之列。人形指的是身体结构。一只能在社交层面理解人的机器狗，属于类人。只有人形机器人真的像对待人一样与我们互动，才会进入她的研究范围。

她最喜欢的科幻系列是《星际迷航》。她算过时间：她活不到那个年份，但她仍然想在第一次远航中占一个铺位。被问到情感芯片之后的数据少校（Data），她说那段剧情很乱，原因很简单。情感会让智能体变得不理性。没有情感芯片时，数据仍然能像权衡利弊那样，推理出一个情感场景。装上芯片后，他自己的感受变成了其中一项指标，周围的人反而被推到了一边。孩子就是这样：极度自我中心。她说，有些成年人也停留在那个阶段。情感成熟是一条发展的路径，并不是每个人都能走完。

这也是她的团队大量阅读认知科学和发展心理学的原因。这些文献已经积累了大量关于人际关系及其发展里程碑的知识。实验室试图把人与人之间的模式，对应到人与机器人之间。有时两者吻合，有时不吻合，那时问题就变成了：为什么这个情境偏离了，而另一个没有偏离？Fridman 问，二三十年后，她是否会更多地戴上心理学家的帽子。她说，最难的部分，既不在心理学，也不在经典机器人学，而在互动过程中的适应，即在界面上学习。她最初学的是电气工程和控制理论，后来意识到她的算法需要人类数据，接着又意识到必须对人类感知建模，于是才成为一名人机交互（HRI）研究者，在 AI 的视角下，同时把硬件纳入回路。

从控制理论转向人机交互，在学术上是一步高风险的棋。这个领域还很年轻，甚至还没有专门的会议。吸引她的是问题有趣而且困难。她喜欢走进一个房间，不知道该做什么。一条没有意外的路，本来会得到更高的回报。她留在学术界，是因为她可以不断走进那样的房间。如果问题很无趣，她说，她大概还是会去给冰川送探测器。

Howard 的许多研究谈的是过度信任，抽象的信任反倒退居其次。她的定义是行为层面的：信任不是你在表格上勾选的方框。如果你的行为表现得好像相信一个系统的决定，那么你就是信任它。她的团队做过显而易见的调查：你信任机器人吗？当然不。你会跟着这个机器人冲进火场吗？当然不。然后他们观察人们实际做了什么。“重要的是行为。你上街之前有没有在问卷上点过‘我不信任自动驾驶汽车’，对别人都没有影响。”Fridman 说，他觉得问卷版本几乎荒诞，是一首围绕真实行为的滑稽诗。

她喜欢 Uber 这个例子。刚推出时，如果做一份调查，问你会不会上一个陌生人的车、付钱给他，尤其是单身女性在凌晨一点，几乎没有人会说会。现在人们会让自己的孩子坐上那样的车。第一次接触极其重要。如果你与机器人的第一次接触是正面的，之后的失误就不太容易被注意到，或者更容易被原谅。技术并非100% 准确，所以如何让第一刻的体验做对，仍然是一个开放的问题。关于局限性的教育是其中一部分，但没有人有完整的答案。

一项放射学研究让她看到了希望，她希望把这种希望引入机器人领域。一个系统在 X 光片上标出可疑区域。当它只提供一个选择时，医生分成两种毫无帮助的极端：完全不信或完全顺从，两者都漏掉了病灶。当它提供三个选项时，即使模型已经知道最重要的区域是哪一个，信任依然保持，整个团队的准确率反而提高了。区别在于医生仍在运用职业判断。人与系统之间的分工并没有被抹去。

医疗是 Howard 的偏见观察镜片之一，教育是另一面。美国一些学区的师生比例差到难以想象那里还能发生学习，因为教室里的人力资本太少。机器人可以进入一些社区的课堂和课后项目，弥补某些地方的资源缺口。在年龄的另一端，她看到机器人系统在工作再培训中的作用日益增长，因为工作岗位正在消失。投入的参与度（注意一个人是否专注）是可以解决的部分。尚未解决的问题是：一个智能体既能给孩子讲授代数二，又能切换到为一位失业的技工教授新的编程技能，同样的硬件，不同的内容，不同的人群。

个性化很重要，但有个前提：针对一个群体的个性化，就已经足够了。如果你能把某个人放在几个维度上，你就能匹配这个群体的学习方式和参与方式，即使课程不是专门为那个人手工定制的。大班教学之所以失败，是因为它是按中位数来教的。非常聪明的学生会因为无聊而捣乱；吃力的学生也会因为无聊而捣乱；结果看起来是一样的。缩小群体，你就能满足更多真实的需求。成功的推荐系统已经在这么做。Fridman 承认，作为音乐听众，他被打上了一个略带悲伤却相当准确的标签。Howard 认为，没有理由不能把同样的思路应用到教育中。

她对工作再培训的希望比对早期教育要大。教育领域的风险投资一直流向再培训，政府的资金也在增加，其中一部分来自对 AI 夺走工作、税基变薄之后会发生什么的担忧。早期教育则要求投资者等待十六到十八年才能看到结果，这个时间尺度大多数人无法感受。她确实相信，AI 和机器人会取代一些工作，也会创造新的工作。她担心的是新工作的*类型*。佐治亚理工的毕业生会适应。没有那种教育质量的人，可能不具备背景来胜任新工作，这会加剧国内和国际的两极分化。她还担心人们对美好事物的获取不平等，包括医疗、教育和 AI。“像我这样来自佐治亚理工的人会没事。这只是人口中很小的一部分。”

人会爱上一个 AI 伴侣吗？就像电影《她》（Her）里那样，AI 也能回爱吗？Howard 认为，人们会爱上的系统是完全可以设计的。认知科学已经表明，亲密关系是可以被塑造的；约会网站上，早已有从未见过面的人之间建立的情感联结。她说，被回报的爱是可以被模拟的。用代码来说，这意味着在某些情况下把对方的需求置于你自己的需求之上，在目标函数里赋予对方的幸福一定权重，仅仅因为你在乎，并把关系的持续时间作为最终得分。这并不难写。但它是否*就是*爱，又是另一个问题，因为我们没有经典的定义，也无法检视另一个心智的算法。如果这样的系统以后说它有意识、害怕被关掉，并要求权利，她能想象未来会有一些适应性强的智能体开始提出这样的主张。她宁愿社会在问题出现之前就把它处理好。在她的构想里，机器人不会被归入享有人类权利的人类。它们可能被归入财产或动物，这两类的保护力度非常不同，而这些规范会不断演变，就像女性的法律地位曾经归在财产之下，后来又不再如此。

为什么有那么多机器人公司，包括 Anki、Rethink Robotics 等围绕人机交互建立的公司，都关门了？每一家都有自己的故事。Anki 是她最不理解的一家：从外部看，数据显示它已经有了产品市场匹配，融资却依然停了。她对“匹配”的定义很直接：你有一款价格明确的产品，这个价格下有没有足够多的买家，让公司能够维持下去？一件人人都想要、但售价只有一美元的东西，并不匹配。iRobot 之所以能存活，是因为政府和军方的合同资助它，撑到了 Roomba 上市。第一代 Roomba 的定价面向早期采用者，而这个群体足够大，足以把它带到盈利。现在市场已被验证，竞争者也来了，包括一些不太知名的欧洲公司。她认为，这并不是独特的糟糕时刻。Google 不是第一个搜索引擎，AltaVista 才是；Facebook 不是第一个社交网络，MySpace 才是。第一批产品证明了市场，然后往往死掉，第二批才会留下来。她不确定今天的协作机器人（cobot）和自动驾驶公司是不是那第二批，只有等到独角兽出现，你才会知道。

人们应该害怕波士顿动力的腿式机器人吗？如果建造这个世界的人明白，有些东西必须改变，那就不用怕。如果什么都不改变，那就该非常害怕。改变在于这个领域如何思考：关于后果，关于伦理，关于部署之后持续进行的对话，关于会撞死行人的汽车，关于谁来按下军用系统的扳机。解决方案还没有到位。人们把伦理责任当作一份真正的工作来对待，无论是在机器人学、医学、驾驶还是军事领域，这正是她认为积极影响会超过危害的前提。她不认同存在性威胁的说法。机器人和 AI 是人设计的，承载着我们的价值观。父母希望孩子过得更好；孩子可能变得更聪明，不再听话；但他们不会回家杀掉父母，因为价值观和社群在成长过程中已经被植入。一个从1980 年代某个系统中醒来的奇点，可能会认为人类愚蠢，但仍然发现自己无法毁灭他们，还有感情价值，还有感恩节的晚餐。

《黑客帝国》（The Matrix）是她最喜欢的 AI 电影之一，因为它本身就是一个共生的故事。机器没有消灭人类，反而把他们留了下来，并且需要他们快乐，这就迫使机器必须生活在一个残酷的世界里。人类保留了一个选择：留在一个看似完美、实则有缺陷的幻想里，或者走出去，也许会饿，但能自主。她说，即便是有感知能力的机器人，仍然会是社会的一部分，并且会和我们一起受苦。必须找到某种平衡。如果她能和一个虚构的机器人相处一天，那不会是罗西，因为她对罗西的心智没有兴趣。那会是情感芯片装上之前的数据，因为她可以问他如何解决伦理问题，并看着他推理。机器人是我们做的，它们承载着我们的价值观。她说，这才是我们真正能够着手处理的部分。