30 秒看懂
Judea Pearl 与 Lex Fridman 讨论人类水平 AI,提出足球思想实验,并分享对因果推理、伦理与自我模型的观点。哲学解释按 Pearl 的观点呈现。
- 1反事实问题Pearl 将反事实推理视为目标的一部分。
- 2拟议测试他设想机器人在比赛中讨论责任。
- 3伦理与他人模型他把因果推理与对他人的建模联系起来。
- 4自我模型他的解释将自我建模与自由意志和意识联系起来。
要点建议
- Pearl 将反事实推理视为研究目标。
- 足球场景只是拟议测试,并非公认测量。
- 他将伦理推理与对他人的建模联系起来。
- 他对自由意志和意识的解释是一种哲学立场。
按章节阅读整理后的全文
人类水平智能
Lex Fridman 问 Judea Pearl 对人类水平机器智能的长期目标有何看法。Pearl 说这一想法一直激励他的工作,但研究采取渐进方式。
Lex Fridman 问 Judea Pearl 对人类水平机器智能的长期目标有何看法。Pearl 说这一想法一直激励他的工作,但研究采取渐进方式。
Pearl 设想机器能够回答复杂的反事实问题,并讨论责任、同情和自由意志等概念。这些是他提出的研究目标。
足球思想实验
被问到如何测试自由意志时,他提出一个思想实验:机器人踢足球时相互交流奖励、惩罚和责任。
被问到如何测试自由意志时,他提出一个思想实验:机器人踢足球时相互交流奖励、惩罚和责任。
问题是:交流错过传球及其后果,能否让球队比没有这类推理的系统表现更好。这只是拟议测试,并非公认的自由意志测量。
Pearl 认为教练的简短指令可以传递有用知识,而不必直接修改另一个智能体的软件;接收者需要理解并运用反馈。
伦理与自我模型
Fridman 问如何让机器决策符合人的价值观。Pearl 认为因果推理和对他人的模型可能是伦理系统的重要组成部分。
Fridman 问如何让机器决策符合人的价值观。Pearl 认为因果推理和对他人的模型可能是伦理系统的重要组成部分。
他把同情描述为利用自我模型想象他人的体验。这是他对可能机制的解释,并非机器具有共情体验的证明。
Pearl 随后讨论系统对自身能力和行为变化的建模,并把自我模型与他对自由意志和意识的解释联系起来;这些概念仍存在争议。
同频道的其他文章
3:34:27EN → 简体中文
3:36:56EN → 简体中文
5:15:51EN → 简体中文
3:12:58EN → 简体中文
3:46:18EN → 简体中文
3:51:47EN → 简体中文