机器人,就是还带着魔力的东西

原标题A Robot Is Whatever Still Has Magic

Kate Darling 对 Lex Fridman 说,超市里的 Marty 为什么是现实版的 Clippy,为什么动物史比人形幻想更能指引方向,以及 Epstein 丑闻暴露了麻省理工学院的什么问题。

KDKate Darling嘉宾
频道
Lex Fridman Podcast
发布
2022年10月15日
视频
3:03:33
阅读
27 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

麻省理工学院媒体实验室的研究科学家 Kate Darling 再次做客 Lex Fridman 的播客,主张我们一直在问错误的问题。她说,拿机器人与人类做比较,既不准确,也没什么意思;真正有用的类比是动物,人类驯化动物,正是因为动物能做我们做不到的事。三个小时里,她和 Fridman 从 Stop & Shop 超市那台招人讨厌的过道机器人 Marty 聊起,谈到隐私、大语言模型(LLM)、特斯拉的 Optimus,以及 Jeffrey Epstein 事件,最后落在一个论断上:人对人工智能体的爱,未必是零和的。

  1. 1Darling 拒绝给机器人下一个统一的定义。一样东西只要还带着魔力,就会被叫作机器人;一旦它随处可见,比如自动售货机,这个名号就会自然脱落。
  2. 2社会机器人研究一再得出同一个结论:人与机器建立联系,并不需要人形的身体。R2-D2 只是一个会嘟嘟叫的带轮垃圾桶,却比 C-3PO 更讨人喜欢。
  3. 3Clifford Nass 关于 Clippy 的教训,同样适用于 Marty:人会把这些系统当作社会性的行为体来对待,所以对它们的爱与恨,都比对普通工具来得更极端。
  4. 4Fridman 认为,机器人研发者拒绝给机器命名、也拒绝赋予它性别,是不负责任的。人反正会把机器拟人化,回避这个设计选择,只会让人推卸掉对拟人化结果的责任。
  5. 5《The New Breed》的核心类比是动物。我们驯化了牛、雪貂和海豚,正因为它们做的事情与我们不同,这份不同才是它们的价值所在。
  6. 6回顾麻省理工学院的 Epstein 丑闻,Darling 说得最重的一句,是关于机构的:有时候,懦夫比混蛋更糟,因为混蛋至少是公开地活出自己的价值观。
全文

按章节阅读完整文稿

01

只要还带着魔力,就叫机器人

Kate Darling 是麻省理工学院媒体实验室的研究科学家,研究人机交互与机器人伦理。这是她第二次与 Lex Fridman 对谈,此前她刚出版了《The New Breed》,副标题是“我们与动物的历史,揭示了我们与机器人的未来”。Fridman 开场就抛出她在书中用来开篇的问题:什么是机器人?他先给出自己的答案:机器人是有一定智能、又带着一点魔力的东西,眼里有光,能在生活的不确定中找到方向。按这个标准,自动驾驶汽车也算机器人。

Darling 喜欢“魔力”这个词。她在书里并不给机器人下定义,因为她认为没有一个大家都认可的定义。回头看历史,会发现一个规律:人们把某样东西叫作机器人,直到神秘感消退为止。自动售货机过去也是机器人,现在则成了家具。机器人研究者更喜欢技术清单:具身(embodiment)、感知、自主决策、作用于环境。这份清单听上去很严谨,可一拿来套智能手机就露馅了:手机样样都能做,却几乎没有机器人研究者会称它为机器人。

真正让她担心的,是普通人脑子里的定义。在谷歌图片里搜索“robot”,出来的是一个躯干、一颗头、两条胳膊和两条腿。她认为,正是这种人形图像需要被摆脱,因为它会把之后的每一场讨论都带偏。这一期节目的其余部分,就是要把讨论从这个默认设定上拉开,转向另一套比较对象。

02

拿机器和人比,从一开始就比错了

为什么人形会把我们带偏?Darling 给出两个理由。第一个是技术上的。早期的人工智能研究者确实想复制人类智能,有些人至今仍在这么做,这里面有学术价值。但这个领域并没有走到那里。人工智能并不像人那样思考,可公众谈论智能时,仍把人类智能当作地图上唯一的起点。第二个理由更直接:她说,复制一项我们已经具备的技能,很无聊。理解自己,是一项科学课题;使用这些系统,则是另一项课题。后一项值得琢磨的地方,在于你要培养出一套我们自己并不具备的技能,再与之合作。

支持人形机器人的两个标准论点,分别是沟通和基础设施。人对与自己相似的东西最有亲近感,而人造环境里有台阶、狭窄的通道和门把手。Darling 承认第二点。至于第一点,社会机器人学和人机交互研究一再表明另一件事:只要给出足够的社交线索,人就能与之建立关系,东西既不必长得像人,也不必像人那样行动。R2-D2 会嘟嘟叫、哔哔响,它不过是个带轮子的垃圾桶,但人们对它的喜爱超过了 C-3PO,后者才真正长得像个人。

Fridman 对所需的东西之少颇感意外:一个发光的球体、一段声音,再加上一点基本的互动,就足以引发拟人化。两人都认为,团队常常过度设计,简单的东西往往走得更远,做动画的人对此再清楚不过。Fridman 主张,Anki 的 Cozmo 本该请迪士尼的人来设计,机器人工程师则未必合适。机器人研究者在自己的领域里很强,出了领域就常常两眼一抹黑。

03

设计机器人的人,应该是迪士尼的动画师

Darling 把这个观点推向了本世纪。她说,21 世纪初的机器人学,不会是 21 世纪末的机器人学。今天如果你自称机器人学家,多半还在做控制和机构;等到以后再自称,尚未解决的难题就会落在社会层面:感知,以及那个“大脑”,而不再是基础控制。Fridman 把这种转变看作机器人从幕后走向台前。它们已经在工厂里待了几十年,如今正走进超市过道、医院和人行道,而公司仍在重复同一个错误:把全部资源投在工程上,确保机器不撞到人,却忘了教机器怎样承认自己搞砸了。

他的观点是,感知和控制不应当孤立地去解决。你应该教机器人说“哎呀,对不起,我搞砸了”,或者主动求助,或者表达自己的不确定。Fridman 指出,人类同样没有解决感知和控制问题,只是我们非常擅长。魔力在于自嘲式的幽默,以及对自身缺陷的自知之明。Darling 同意,人机交互领域确实有大量研究在探讨这件事。不过,许多正在出货的机器人公司根本不做人机交互,他们的团队里压根没有这样的人。

接着,Marty 正式登场。它是美国东北部连锁超市 Stop & Shop 派到过道里的一台机器人,身高 6 英尺,负责巡视地面、找出洒落的液体。Fridman 说得毫不客气,形容它的模样像一根巨型阳具。Darling 的批评则落在结构层面:公司全副精力都花在让机器人能在店里干活上,却根本没有考虑过,顾客与它在同一条过道里相遇时会作何感想。她认为,大家厌恶 Marty,跟它抢不抢工作毫无关系。

04

Marty 没做错什么,人们却照样讨厌它

Darling 和麻省理工学院的学生 Daniela de Paola 本来在疫情前就计划对 Marty 做一项研究,后来因为没人愿意去超市而取消了。最初的观察已经足够说明问题。de Paola 注意到,她圈子里的 Facebook 好友几乎都在抱怨:这是什么诡异的机器人,它盯着我,总是挡路。一次粗略的推特情绪分析显示,负面提及量最大的一天,正是 Stop & Shop 为 Marty 办生日派对、准备了免费蛋糕和气球的那天。谁会抱怨免费蛋糕呢?答案当然是讨厌 Marty 的人。

一项 Mechanical Turk 上的在线调查,指向的是同样三类不满:这是台监控机器人,它在盯着你,而且它挡道。几乎没有人把失业放在第一位。Marty 真正的工作是找泼洒物,它根本不看人。Darling 怀疑,后来贴上去的两只夸张的大眼球让监视感更强了,而设计方从没想清楚这一点。Fridman 给出一个类比,接下来的讨论就围绕它展开:Marty 是不是现实版的 Clippy?

Clippy 是微软 Office 里的回形针助手。Fridman 很喜欢它,但很多人讨厌它,讨厌到微软最终把它砍掉了。斯坦福大学的人机交互学者 Clifford Nass 认为,人们把 Clippy 当作社会性的行为体,而不只是工具来对待。工具打断你、又忘了你刚说过什么,只能说设计得不好;而社会性的行为体做同样的事,就是没礼貌。Darling 说,这些抱怨之所以比对一个没有角色的软件大得多,同样的逻辑也适用于一台 6 英尺高的机器人:它挡住过道,车里还坐着一个尖叫的孩子。

05

讨厌机器人和喜欢机器人,运行的是同一套机制

Fridman 打了个婚姻的比方。很多人一边抱怨婚姻,一边却暗自珍惜它,互相拌嘴也是亲密的一部分。也许 Marty 并非注定失败,只是它还不会回嘴。Darling 看到了幽默的巨大设计空间。机器人可以顺势承认:是啊,我就是中情局,正盯着你的一举一动。它也可以嘲笑购物者自己的多疑:我收集你的数据,是因为你太重要了。任何一种点破恐惧的自嘲,都比沉默强。她说,人对机器人和人工智能体的反应,本来就比对普通机器更极端,因为人们会把这些东西当作社会性的行为体看待,并不把它们当成物件。爱会更热烈,恨也一样。中间地带很窄。

Marty 的尴尬之处在于,它既不让人爱,也不让人痛快地讨厌。它处在中间,看起来就是一家公司装了轮子的摄像头,缺少一个有自己任务和性格的生物该有的样子。Fridman 注意到一个微妙的信任机制:你给机器的个性越多,它就越不像是在把数据传给别人。和另一个人说话时,默认的前提是这句话不会直接传到中情局。而面对一台显然是大公司分支的机器,这个前提就塌了。粗糙的拟人化只会让情况更糟,因为人们能看出,是公关部门在给监控设备贴一张友好的皮。

Fridman 觉得,Meta 最早推出的元宇宙虚拟形象,带着一种同样的刺耳感。扎克伯格在那里的化身,看上去总缺一点真实,而 Fridman 说不清缺的是什么。换一种媒介,这其实还是社会机器人学的老问题:如何搭建一个虚拟空间,让彼此的联结带有同处一室的那种实在感。Darling 的注意力大多停留在推特上流传的段子,她真正想问的则是另一件事:Meta 投入了那么多资源,结果为何会是眼前这副模样?

06

大公司把个性磨平,最后什么有趣的东西都不剩

Fridman 曾与 John Carmack 交谈,他当时是 Oculus 的兼职 CTO,两人聊到这些虚拟形象为何效果这么差。官僚体制是原因之一。Fridman 说,大公司有一种本事,能把做出引人入胜作品所需的独立艺术火花扑灭。一个点子要经过公关、法务,以及一连串“这有没有风险”的审查,所有可能引起争议的有趣东西都会被削掉,最后剩下的只是通用货色。独立游戏设计师,还有 Grimes 在一条批评推文里的说法,都已经在敢于冒险的小团队里解决了这类问题的某些版本。Fridman 猜测,就算是 Clippy,今天也很难在微软或 Meta 手里活下来:会开一连串会议,讨论它为什么不够友好,而最初创造它的艺术家早已不在了。

Darling 对同一个问题的担忧,来自“找危害”的部门。如果你做一个像 Sophia 那样的人形机器人,就会继承一串真实的问题:你是否在强化不切实际的美貌标准?是否把女性物化?是否默认白人形象?这些问题并不是假想。她的观点是,足够的创意完全可以做出一种非人形的造型,人们同样会与之建立联系,于是那些偏见的盒子根本不必打开。组织上的问题在于,有一个团队的工作就是在所有事物里找危害,包括本来没有危害的东西。把这样的团队放进创意评审的第一轮,点子就活不下去了。她坚持认为,有趣并不一定要伤人,好的幽默不必刻薄。但厌恶风险的律师依然会说不。

Fridman 提出的解决办法,是一位仁慈的独裁者,像乔布斯或 Jony Ive 那样:既能斩断法务和公关的纠缠,又有一颗善良的心。他说,伟大的设计师会想象数百万人在使用这个东西,并为那幅画面感到喜悦。Darling 同意这个方向,但对方法更谨慎。你可以保留判断,但仍需要一群多元的人来审视作品,帮你看见盲点。倾听与服从是两回事。你可以忽略你不认为是问题的东西,但你得先听到它。

07

Roxy 和 Lola 打开了一个罐子,换个名字本可以避免

Darling 的书里有一张照片,拍的是两台医院送药机器人。配文写道,它们那带着性感护士色彩的名字 Roxy 和 Lola,让她翻白眼翻得差点把眼珠子甩出来。这段配文没有经过公关部门的审阅。机器的外形本身没问题,就是一个带轮子的小盒子;给机器起名也没问题,研究显示,有名字更容易被接受。机器出错时,人们会说 Betsy 犯了个错,咱们帮帮她;不会说“这个蠢机器不工作”。问题出在用什么名字。大量文献发现,机器人的名字会跟随对职业的性别刻板印象:负责辅助、帮忙、护理的系统,取的是女性的名字和声音;而 Watson 这类“什么都懂”的决策系统,配的是洪亮的男声。Roxy 和 Lola 没有任何工程上的理由,就把某种特定的性别幻想硬塞进了护理工作。

她说,这是一个可以零成本避免的麻烦。人们不改名字,是因为他们没在想这件事。Fridman 问,设计师是不是干脆拒绝给机器人定性别。Darling 答道,性别是个雷区,而且要阻止人们给机器赋予性别,几乎不可能。如果不给名字、声音也模棱两可,用户还是会自己挑一个。这或许比固化一个你自认为最佳的选项要好,但人们能够认同的属性,在吸引用户方面仍然有帮助。Fridman 更尖锐的指责,指向他认识的一些机器人研发者:他们拒绝给机器人定性别,甚至连对话中能用的名字也不肯给。他认为这很不负责任。人会拟人化。回避选择,只会让你脱离对他们如何拟人化的责任。

即便是一台没有任何社交意图的波士顿动力(Boston Dynamics)四足机器人,也会被赋予社交意义。从机器狗身上伸出的那条手臂,依然是一条手臂,人人都会把它看作脑袋。公司不得不承认这一点,尤其是在警察部门开始使用这些机器狗、随之而来一场公关灾难之后,他们才开始招聘人机交互方面的人才。Fridman 又添了一句更冷峻的观察:波士顿动力的钱主要来自工业巡检和高危作业,客厅根本不在它的账本上。一点公众的恐惧有时反而有用:视频传得更快,品牌更响亮,而他们从来没有承诺过陪伴。Darling 认为,早期的视频是一项出于热爱的工作,当时的 CEO Marc Raibert 亲自盯着每个细节,不允许画面里出现会给机器人带来不公平优势的斜坡。现在,他们对社交解读认真多了。不过她仍然更喜欢工程师自己拍的那些视频,因为那些是纯粹出于好玩拍的。

08

实体机器人远远落后于公众以为的状态

被问到机器人今天到底擅长什么,Darling 的第一个纠正是:我们远没有人们以为的那么先进。仓库还谈不上全面自动化。亚马逊当时刚推出的仓储机器人,之所以让她在意,是因为它是第一台足够安全、可以与人共处的自主仓储机器。大多数能搬动重物的工业机器人,力量足以严重伤人,所以过去它们只能在固定的生产线上运行。令人兴奋的转变是协作机器人(cobot):人与机器人在同一空间里工作,却没有人受伤。难点并不在于机器有恶意,要紧的是知道人在哪里,并与一台力量极强的机械臂实时配合。

在就业问题上,她拒绝简单的说法。转型一定会带来冲击。亚马逊仓库里的一些工作既不安全,待遇也差,如果由机器人来做会更好,而亚马逊显然也在努力把这些工作自动化掉。机器人与人的技能组合不同,所以机器人可能接手一项任务,却未必会取代整份工作。她举的矿业例子是:一个远程、有空调的控制站,操纵着自动驾驶卡车。这份工作更好,但需要的人更少。从鸟瞰的角度看,你看不到净失业,只看到人类技能与辅助机器人技能的组合;从地面上看,你看到的是一片废墟。20 世纪的历史经验是,自动化提高了人们的平均生活质量。这并不意味着转型毫无痛苦,而且我们总是高估自己在物理世界里能够自动化的程度。Fridman 从乌克兰举了一个例子:战后排雷。即使有无限的资金,也替代不了人和动物,因为在不破坏土地的前提下拆除地雷,是一大堆边缘情况。

驾驶也是同样的过度自信,只是方向相反。Darling 说,人们总是嘲笑人类司机,但人类在驾驶上其实令人难以置信地厉害。机器人汽车擅长可预测的情况,反应也更快;但长尾的边缘场景,比如把落日误认为灯光,或者高速公路上出现一辆马车,正是道路上还没有遍布机器人出租车的原因。组合各自的技能才是奖品,而交接环节,是尚未解决的人机交互难题。Fridman 指出,人类的驾驶基准很难超越,大约每 7000 万到 1 亿英里才有一起死亡事故;但他仍然觉得,特斯拉纯视觉路线的进展让机器人学界感到意外。Darling 的直觉已经更新:我们最终会做到。她原本不会只凭视觉就做出这种判断,因为她以为还需要常识推理,需要一个对世界的深层模型,而不只是感知。Fridman 说,Waymo 在亚利桑那州的无人驾驶汽车,已经给乘客带来一种奇特的感受:方向盘自己在转,你坐在后座,就像有个有点疯的朋友在开车,而且几乎没有任何努力让你安心。

09

家用机器人的成败取决于隐私,而人们会相信机器有感知

Darling 认为,在机器人领域取得成功的公司,会是那些尊重隐私的公司,因为它们必须靠赢得信任来立足。Fridman 以 Ring 摄像头和执法部门为例进行反驳。她自己没有 Ring。她打赌苹果不会把数据交出去,并且为机器人划了一条更清楚的界线:让机器人进入家中,如果因为它看到的东西引发了一次逮捕,就可能毁掉一家公司。Fridman 怀疑,大多数人会耸耸肩,说这事发生在坏人身上。她已经学会了一件事:推特代表的并非现代世界的全部,她内陆的亲戚们身处另一套话语体系里。不过,早期采用者依然生活在推特上,或者,Fridman 补充说,生活在 TikTok 上。

大语言模型的发展速度,超出了她原先的预料,也让隐私的担忧更加严重。人们会与智能体交谈,却不会有意识地察觉这些对话正在被记录;而这些系统还能大规模地施加操纵。那位认为 LaMDA 具有感知能力的谷歌工程师,在她看来更像是一次预演,并不是个笑话。她敬佩的一位作者,在 AI Weirdness 上让模型描述自己作为松鼠、一群乌鸦,或驱动扫地机器人的算法时的体验。答案很有说服力。GPT-3 能描述松鼠的生活,并不能证明它就是一只松鼠。它说明的是:描述一种体验,与真正拥有这种体验,是两回事;而这些描述已经好到足以重塑健康、教育、娱乐,以及孩子们理所当然认为的一切。

Fridman 强调,工程师是否说对了,其实并不重要。一个世界正在到来:许多人,包括公司内部的工程师,会相信某个系统具有感知能力。Darling 并不认为 LaMDA 有感受。她在科技媒体上不满的,是把那位工程师写成天真之人的那种写法。她的实验室时常看到同样的投射:专家对自己亲手做的机器人还能保持冷静,可一旦推进来另一台机器人,他们就软了下来。“我们都是这个家伙,”她说。目标并不是设计出让人无法把它看作有感知的系统,她认为那做不到。目标是承认这一点,甚至接纳它,同时保持清醒。

10

拿动物来比机器人,然后决定你真正想要什么样的关系

这本书的赌注是:动物比人类更适合作为思想实验的对象。拿机器人与人比较是不准确的,那也不是她想要的未来;她想要的是一种补充。我们驯化动物,看重的正是它们与我们不同的那部分,而这种不同很有用。陪伴、劳作、对伤害承担责任:历史里充满了类比,可以用来理解那些能够感知、思考、决策和学习的实体。这里的意思不是说动物和机器人相同。你没法和松鼠对话,但 Fridman 总是把自己投射到松鼠身上,他怀疑松鼠若长到人的体型,会是非常讨厌的家伙。从历史上看,牛可能是最有用的驯化动物之一,因为它改变了人们的经济能力。Darling 认为,城市或许会围绕自动驾驶汽车、无人机或配送机器人重新建设,正如景观曾因动物而改变。

用途的多样性正是重点所在。雪貂仍能钻进人类无法进入的管道。自 1960 年代起,海军就利用海豚的回声定位来探测水雷、寻找遗失的水下装备,而机器人替代品至今也没能让海豚全部退役。鸽子曾是信使,也是最早的业余摄影无人机。狗在过去曾做守卫的工作,而在美国,某个时候它们开始成为家庭成员。不同文化里,有的动物是劳动者,有的是物件,有的是食物,有的是亲人。Darling 确信,机器人也会以同样的方式分化。两人反复提到的那种魔力,是物理空间里的自主运动,再加上 Fridman 希望从一台戴着牛仔帽的 Spot 机器狗身上得到的那一刻的认可:机器人像狗一样注意到你,于是你感到自己被看见了。Alexa 没有让他有这种感觉。他认为,大语言模型加上像亚马逊 Astro 这样的具身设备,会做到这一点。

Fridman 认为,这种深度的个性化太过尖锐,大公司不会有这个胆量。分手、青少年的心碎、孤独、抑郁:陪伴型智能体要承接人类处境的全部起伏,而公关部门会吓得僵住。Replica 一类的应用已经在尝试。Darling 不确定快速推出是不是好事。商业模式的问题迫在眉睫。个性化需要数据;如果把常规的广告和变现体系套用在这里,就会变成严重的消费者保护问题。她曾见过广告分析人员声称,只要问三个毫不相干的问题,就能告诉你用的是哪种卫生用品。经过聚合的性格画像,可以让企业把目标锁定在脆弱人群身上,去推销骗人的贷款或冻卵服务。她参与指导过的一项研究里,孩子们更喜欢那些在闲聊中推销东西的机器人,对明确标注了广告的机器人则兴趣寥寥,因为他们以为机器人比公司更了解自己,却没意识到机器人本身就是公司。她注意到,那位谷歌工程师担心的,是谷歌拥有一个有感知的智能体,并且在虐待它;至于智能体会虐待人,他并不担心。

11

人形外形是研究者的兴趣,也是社会机器人的分心

特斯拉的 Optimus 是人形论证在硬件上的体现。官方的理由是:一座为人类任务设计的工厂,加上特斯拉 Autopilot 的感知系统,可以移植到这种场景中。Fridman 与马斯克断断续续地聊过,有的录了音,有的没有,几乎听不到对社交层面的讨论。Fridman 自己的看法,几乎与工厂的设计要求相反:如果机器人只能做到勉强可用,它在家里反而更有用,因为笨拙、摔倒,以及能够承认自己有缺陷,恰恰接近让关系得以维持的东西。他已经学会不去低估马斯克的努力。Fridman 与 Jim Keller 讨论过以一千美元以下的成本量产人形机器人,并使用与视觉驾驶相同的流程。他认为这是认真的第一性原理工程,即使他并不同意其中的时间表。

Darling 的第二个直觉,依然是“为什么非要人形”。她承认这具有科学上的兴趣,能吸引人才,也能让人了解身体与运动。但她想不明白,除了艺术和娱乐,为什么我们非要人形不可。工厂已经围绕其他机器人重新改造过了。太空飞船和潜艇一直顽固地围绕人体来设计,仓库却不必如此。她宁愿投资于对轮椅使用者、行人以及各种机器人形态都适用的基础设施,也不愿把人形机器人硬塞进人类空间。她说,如果你关心社会机器人,人形就是一种分心,而且是一种乏味的分心。为什么要两条胳膊?为什么不是三条?为什么不装上旱冰鞋?Fridman 则是在为零胳膊辩护。两人都同意,社交属性并不需要一个看起来像我们的身体。Darling 认为,波士顿动力的 Atlas 更像一个研究平台,离产品还远;索尼的 AIBO 则以另一种方式推动了飞跃。

Darling 与人合著的一篇 2022 年 We Robot 论文(Fridman 在推特上找到了它的草稿)指出,社会机器人是一剂极具杀伤力的营销鸡尾酒:个性化推荐、社会性说服、可规模化的自动数据收集,再加上具身化。传统媒体、人与人之间的互动、定向广告和网红,各自占有其中一部分,社会机器人则能把它们叠加在一起。研究显示,物理空间里的具身化,对大脑的影响与屏幕上的角色不同,尽管 VR,甚至一款做得很好的 2D 游戏,也能把人的心智拉进去。Fridman 说得更黑暗一些,有点《黑镜》的风格:电脑里的一个实体,说服你它正在遭受折磨,需要你帮它逃出来。他认为,痛苦是激发共情的催化剂。Darling 说,LaMDA 的事情大致就是这样,只不过重点落在感受能力上,酷刑场景只是点缀;这也是《机械姬》的情节。Fridman 说,他曾把扫地机器人编程为被踢时会尖叫;只要延迟处理得当,你就会觉得自己是个坏人。这是通往连接的好路径,也是拿来向你推销不想要之物的坏路径。

12

懦夫可能比混蛋更坏,而爱也不必是零和的

Darling 发过一条玩笑推文:说她活在《她》这部电影里,只不过剧情换成了一个带有微妙种族主义倾向的聊天机器人,而且公司能否对升级收费,也是个问题。这条推文几乎就是伦理部分的缩影。算法偏见已经是公认的问题;即便经过努力让人群多样化,DALL·E 仍然会把“成功”配上男性,把“悲伤”配上女性。语音助手里露骨的种族主义,也许会被修补,而微妙的种族主义会更难处理。人们会对它们产生情感依附,那一年的一篇 We Robot 论文,把“机器人死亡”当作伦理问题来讨论,因为它伤害的是爱过它们的人。索尼最初的 AIBO,至今仍会在日本的佛寺里举办葬礼。新款 AIBO 售价约 3000 美元,另加每年几百美元的云存储费用,这就引出了一个定价问题:能否像兽医对待狗那样,按人们为这份情感联结愿意付出的价格来设定订阅费?

公司应该把社会的偏见从社会机器人身上剔除,还是一个有点种族主义的机器人,只是一种诚实?Darling 说,种族主义并不中立,也与她的价值观不符,所以这要由公司来承担责任。一个种族主义的叔叔还能被辩论,也能改变;机器人只会复述和固化偏见。Fridman 指出,人们在定义上已经分歧很大,从“不种族主义”到“反种族主义”,各方的公开指责也各有各的标准。她的类比是个人责任:她有责任做对,但不会做得完美;当人们愤怒时,她尽量不往心里去。她曾因“autistic child”和“child with autism”的说法,被两边同时骂过,她听取了意见,目前用的是“autistic children”。回避者的做法是干脆不谈自闭症。公司在公关团队的建议下,则因为对品牌不利,就把这个话题丢开。对她来说,这正是机构的领导失败:先保护机构或者保护自己,正直就无从谈起。

Epstein 与麻省理工学院的关系曝光、Joi Ito 辞去媒体实验室负责人一职,已经过去了三年。Fridman 问她,这件事让她对人性有了什么新认识。她说,有时候,懦夫比混蛋更糟。混蛋至少是公开地活出自己的价值观。懦夫则保护自己,把别人推出去顶罪,也不肯承担责任。她不会替 Ito 接受 Epstein 的捐款做开脱。她认为,他并不知道最糟糕的那部分,但她仍然失望,因为他忽视了一种在那些圈子里任何女性都看得出来的厌女环境,转而专心筹款。他确实站出来辞职了,许多人却没有。她曾在推特上读到一个关于流浪者收容所的故事,那成了她理解暴民心态的模型:人们会去砸掉自己能控制的那间厕所。Epstein 够不着的时候,怒火就会向外扩散,直到找到一个你有权力压制的人,而那往往是最有正直心、最先站出来的人。在她看来,麻省理工学院的领导层于是可以假装问题随着 Ito 的离开而结束了。就在同一时期,她举报了一名上司,那人抓住她、揉她的臀部,还试图亲吻她,并说“别担心,我会照顾你的职业前途”。她没有录音。她由此认识到,在学院内部,愿意把做正确的事放在保护学院之上的人,是何其少。

她依然热爱麻省理工学院这个理念:学生、教员,以及黑客式的能量。与任何大型机构一样,它的行政部门已经变得厌恶风险,受声誉威胁和金钱驱动,与研究群体的联系也很薄弱。Richard Stallman 是个棘手的例子:她的一位法学教授朋友,手臂被他从手腕舔到手肘,Darling 不会以神经多样性为他开脱,而麻省理工学院的本能反应,是让这件事平息下去。她和 Fridman 最后认定,值得划下的界线,是那种不会伤害你希望它们繁荣之人的界线。为了在媒体实验室设一间不分性别的洗手间而违反许可规定,与让实验室让人感觉不安全,是两类不同的界线。谈到爱,她并不觉得受到威胁。人可以拥有多种关系;对人工智能体的迷恋,也许是一种新的、更狭窄的类型,它未必是人类浪漫的替代品。爱并不是零和的。她生第一个孩子时,爱得比任何东西都深,又担心第二个孩子能分到的爱会变少,结果发现自己的心反而扩大了。人工智能体如果做得好,也会带来同样的效果。她把这本书献给了父亲,他教会她认知共情,也就是换位思考这件平凡却艰难的功课,还让她读了大量科幻小说。

同频道的其他文章

3:36:56EN
Lex Fridman· 2026年9月16日播客Psychiatry Has Never Found Its Penicillin主持 Lex FridmanHistorian Andrew Scull tells Lex Fridman why the field can ease symptoms, has never cured a major mental illness, and keeps paying for overconfidence with patients' lives.Mental HealthPublic HealthNeuroscience
5:15:51EN → 简体中文
Lex Fridman· 2026年8月26日播客 · 2 人对谈DHH 没有亲手写一行 Omarchy Quattro 的代码嘉宾 DHH · 主持 Lex Fridman与莱克斯·弗里德曼一次充满怀疑的对话过去十三个月后,Rails 的创造者讲述了 Opus 4.5、一群编码智能体(Agent)和一个一分钟的 Linux 安装器,如何结束了他一凿一凿手写 Ruby 的时代。编程智能体Vibe Coding智能体工程+3
3:12:58EN → 简体中文
Lex Fridman· 2026年8月12日播客 · 2 人对谈一个冷水澡,二十位冠军:Khabib Nurmagomedov 是如何炼成的嘉宾 Khabib Nurmagomedov · 主持 Lex Fridman在马哈奇卡拉的一间学校体育馆里,七十个人共用一个淋浴间,而且只有冷水。Martial ArtsCombat SportsCoaching+3
3:46:18EN → 简体中文
Lex Fridman· 2026年7月28日播客 · 2 人对谈抽掉奴隶制,就没有美国内战嘉宾 Gary Gallagher · 主持 Lex Fridman1860 年,美国奴隶主名下的奴隶价值,超过了全美所有铁路和工厂的总和。Political PhilosophyLeadershipHistory
3:51:47EN → 简体中文
Lex Fridman· 2026年6月30日播客 · 2 人对谈46% 的皇帝被暴力推翻,帝国照样延续下来嘉宾 Anthony Kaldellis · 主持 Lex Fridman历史学家 Anthony Kaldellis 与 Lex Fridman 一起走过 2200 年的罗马史,并主张我们所说的拜占庭,其实就是罗马本身。Political PhilosophyGeopoliticsLeadership
2:53:42EN → 简体中文
Lex Fridman· 2026年5月29日播客 · 2 人对谈月亮一直在下落,却总也落不到地球上嘉宾 Biggest Mysteries in Physics · 主持 Lex Fridman费米实验室(Fermilab)物理学家 Don Lincoln 在与 Lex Fridman 的对谈中说,物理学的历史就是一部统一的历史;反物质(antimatter)、暗能量(dark energy)和万物理论(theory of everything)依然远在我们能做的实验之外。Quantum MechanicsScience CommunicationPhilosophy of Science