Judea Pearl 谈人类水平 AI 与自由意志测试

原标题Judea Pearl on Human-Level AI and a Test of Free Will

一场关于因果推理、交流和自我模型的 2019 年思想实验。

JPJudea Pearl嘉宾 · UCLA
频道
Lex Fridman
发布
2019年12月13日
视频
5:14
阅读
2 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Judea Pearl 与 Lex Fridman 讨论人类水平 AI,提出足球思想实验,并分享对因果推理、伦理与自我模型的观点。哲学解释按 Pearl 的观点呈现。

  1. 1反事实问题Pearl 将反事实推理视为目标的一部分。
  2. 2拟议测试他设想机器人在比赛中讨论责任。
  3. 3伦理与他人模型他把因果推理与对他人的建模联系起来。
  4. 4自我模型他的解释将自我建模与自由意志和意识联系起来。

要点建议

  1. Pearl 将反事实推理视为研究目标。
  2. 足球场景只是拟议测试,并非公认测量。
  3. 他将伦理推理与对他人的建模联系起来。
  4. 他对自由意志和意识的解释是一种哲学立场。
全文

按章节阅读整理后的全文

只看原始文稿
01

人类水平智能

Lex Fridman 问 Judea Pearl 对人类水平机器智能的长期目标有何看法。Pearl 说这一想法一直激励他的工作,但研究采取渐进方式。

Lex Fridman 问 Judea Pearl 对人类水平机器智能的长期目标有何看法。Pearl 说这一想法一直激励他的工作,但研究采取渐进方式。

Pearl 设想机器能够回答复杂的反事实问题,并讨论责任、同情和自由意志等概念。这些是他提出的研究目标。

02

足球思想实验

被问到如何测试自由意志时,他提出一个思想实验:机器人踢足球时相互交流奖励、惩罚和责任。

被问到如何测试自由意志时,他提出一个思想实验:机器人踢足球时相互交流奖励、惩罚和责任。

问题是:交流错过传球及其后果,能否让球队比没有这类推理的系统表现更好。这只是拟议测试,并非公认的自由意志测量。

Pearl 认为教练的简短指令可以传递有用知识,而不必直接修改另一个智能体的软件;接收者需要理解并运用反馈。

03

伦理与自我模型

Fridman 问如何让机器决策符合人的价值观。Pearl 认为因果推理和对他人的模型可能是伦理系统的重要组成部分。

Fridman 问如何让机器决策符合人的价值观。Pearl 认为因果推理和对他人的模型可能是伦理系统的重要组成部分。

他把同情描述为利用自我模型想象他人的体验。这是他对可能机制的解释,并非机器具有共情体验的证明。

Pearl 随后讨论系统对自身能力和行为变化的建模,并把自我模型与他对自由意志和意识的解释联系起来;这些概念仍存在争议。

同频道的其他文章

3 张幻灯片3:34:27EN → 简体中文
Lex Fridman· 2026年10月26日播客 · 4 人对谈AI、数学与证明的意义嘉宾 Steven Brunton, Ankur Moitra, Alex Kontorovich · 主持 Lex FridmanLex Fridman 与三位数学家讨论近期 AI 生成的研究、悬而未决的难题,以及人类理解的价值。MathematicsAI for scienceAI research+2
3:36:56EN → 简体中文
Lex Fridman· 2026年9月16日播客精神病学至今没有属于自己的青霉素主持 Lex Fridman历史学家 Andrew Scull 与 Lex Fridman 谈到,这门学科对症状有所缓解,但没有哪一种重大精神疾病真正被根治;过度自信的时候,代价要由病人来扛。Mental HealthPublic HealthNeuroscience
5:15:51EN → 简体中文
Lex Fridman· 2026年8月26日播客 · 2 人对谈DHH 没有亲手写一行 Omarchy Quattro 的代码嘉宾 DHH · 主持 Lex Fridman与 Lex Fridman 一次充满怀疑的对话过去十三个月后,Rails 的创造者讲述了 Opus 4.5、一群编码智能体(Agent)和一个一分钟的 Linux 安装器,如何结束了他一凿一凿手写 Ruby 的时代。编程智能体Vibe Coding智能体工程+3
3:12:58EN → 简体中文
Lex Fridman· 2026年8月12日播客 · 2 人对谈一个冷水澡,二十位冠军:Khabib Nurmagomedov 是如何炼成的嘉宾 Khabib Nurmagomedov · 主持 Lex Fridman在马哈奇卡拉的一间学校体育馆里,七十个人共用一个淋浴间,而且只有冷水。Martial ArtsCombat SportsCoaching+3
3:46:18EN → 简体中文
Lex Fridman· 2026年7月28日播客 · 2 人对谈抽掉奴隶制,就没有美国内战嘉宾 Gary Gallagher · 主持 Lex Fridman1860 年,美国奴隶主名下的奴隶价值,超过了全美所有铁路和工厂的总和。Political PhilosophyLeadershipHistory
3:51:47EN → 简体中文
Lex Fridman· 2026年6月30日播客 · 2 人对谈46% 的皇帝被暴力推翻,帝国照样延续下来嘉宾 Anthony Kaldellis · 主持 Lex Fridman历史学家 Anthony Kaldellis 与 Lex Fridman 一起走过 2200 年的罗马史,并主张我们所说的拜占庭,其实就是罗马本身。Political PhilosophyGeopoliticsLeadership