30 秒看懂
发展心理学家 Michael Tomasello 认为,人类语言建立在追求共同目标和理解他人视角的能力之上。他描述的一项实验中,听不到彼此声音的孩子创造了共同手势;语言模型则从人类已经创造的语言开始。他不排除通往强大 AI 的其他路径,但建议研究智能体在形成约定之前如何协调行动。他还区分了基本的目标导向控制、规划、自我监控和共同行动。
- 1不可预测的情况需要灵活决策Tomasello 将呼吸等内置程序与面对不可预测的猎物、捕食者及其他行动者时的决策作比较。
- 2规划需要监控行动的层次他提出,执行过程能够预见错误并表征尚不存在的情况;大型类人猿还具有进一步的反思层次。
- 3松鼠可以在起跳前放弃一跃Tomasello 将松鼠的灵活行为解释为借助想象结果进行规划,并认为这是超越基本控制的一步。
- 4共同行动意味着共同目标和角色他认为,人类伙伴可以监督彼此的贡献,并共同注意面临的障碍。
- 5不能说话时,孩子会创造手势在一项视频通话研究中,孩子发明手势并将其调整为共同约定;模型则在他人已经创造的语言上训练。
- 6连贯话语可能为模型提供可利用的信息Tomasello 说,语言模型处理视角转换的能力比他预期的强,并想知道如果随机打乱句子顺序,模型会表现如何。
- 7图灵测试不足以证明能动性他仍不确定生物基础是否必要,但认为机器需要具备远超模仿对话的能力。
要点建议
- Tomasello 认为,共同目标、共同注意和互补角色使合作不只是智能体之间的相互反应。
- 无法说话时,孩子可以创造共同手势,说明约定如何帮助人们协调行动。
- 语言模型或许能够从连贯的人类话语中学习,而不必先发展出创造这些话语的社会能力。
- 要区分基本控制回路、规划、为计划寻求信息,以及为共同目标展开合作。
- Tomasello 认为,仅凭图灵测试不能证明机器具有能动性。
按章节阅读整理后的全文
为何不确定环境需要行动者
Tomasello 将灵活决策与不确定性联系起来,并比较主动追求目标与固定的刺激反应。
环境不可预测时,生物需要一种评估情况并选择行动的方式。发展心理学家 Michael Tomasello 借此研究能动性如何演化,以及人类如何学会相互协调。
Tomasello 说,他的兴趣始于在 Emory 观察黑猩猩,发现它们与两岁儿童既相似又不同。在 Max Planck 研究所,他的团队将儿童与大型类人猿置于可比较的实验情境中,寻找社会和认知能力的细微差别。
呼吸等可预测且必不可少的活动可以内置于生物体。Tomasello 说,在不可预测的情况下,演化更倾向于产生一种能够评估环境、灵活决策的机制。捕食者、猎物、竞争者及潜在合作者等其他行动者尤其难以预测。
Tim 问,能动性是否既包括因某种理由行动,也包括实现预期结果的能力。具有目标的控制回路是这一想法的最简形式;更复杂的行动者似乎还有额外的控制层次。
Tomasello 用恒温器作具体类比,但认为活的行动者不只是刺激反应机器。生物会追求目标,并在策略失败时尝试其他办法。有些动物还能抑制行动、寻找信息或重新考虑计划。
这种控制不要求摆脱生物学约束。追逐猎物的动物在其生物适应范围内仍有选择空间;控制系统说明了感知、目标和行动如何组织起来,而不必假设大脑里还有另一个决策小人。
交通灯说明了什么是控制
智能交通灯需要感知、目标和选择行动的方式。恒温器展示了这种组织的一部分,却不是完整的行动者。
Tomasello 会问学生如何让定时交通灯变聪明:它需要感知车辆、设定交通流目标,并根据观察到的状况与目标之间的差距决定如何改变灯号。
蜘蛛网或蚁群的复杂性本身不能证明存在灵活控制。Tomasello 说,生物可以凭专门的适应方式在演化中取得成功;对他的能动性解释而言,关键是根据眼前情况调整行动。
Tim 想知道恒温器或扫地机器人是否应算作行动者。Tomasello 同意自己也不会这样称呼它们:它们只展示了他想解释的基本组织形式。这个类比的价值是让控制机制变得具体,而不用诉诸神秘的内在决策者。
机器能获得更强的能动性吗?
Tomasello 讨论了规划和自我监控的层次。他对当前 AI 系统仍不确定,并建议以动物为模型。
Tim 提到优化的局限,问机器最终能否比人类更有能动性。Tomasello 不确定:早期 AI 设想的是与感知、目标和行动分离的计算大脑,而无人机和自动驾驶汽车如今已在某些方面类似行动者的组织形式。
一个可能缺少的要素是执行层:观察正在进行的注意和行动、预见错误并制定计划。Tomasello 将其称为不同的组织层次,而非一项孤立技能。规划与假设检验需要表征尚不存在的情境。
他认为大型类人猿还具备另一层能力:反思计划,判断是否需要更多信息,并评估资源用得是否合理。具有感知、目标和执行监控能力的机器,或许更有理由被认为具有能动性。
人类的基本目标也受到生物学塑造,因此在他看来,设计者提供目标并不会自动取消机器的资格。他希望机器遇到陌生情境时能形成新目标;研究自然行动者或许能帮助探索这一方向。
Tim 问,没有专门为某种能力设计的组件能否涌现出出人意料的 AI 能力。Tomasello 说自己缺乏判断具体 AI 系统的技术知识。在演化中,对生拇指这样的特征可能先服务于一种功能,后来又在新情境中得到创造性应用。
学习和先天影响只是更大系统的一部分
在 Tomasello 看来,学习服务于适应性决策。生物和文化影响选择,却不能解决目标之间的每一次冲突。
他认为 AI 研究可能过于强调学习本身。在他的解释中,学习服务于行动者的适应性决策。语言模型从语言这一复杂的人类成就出发,他不确定支撑语言的能力是否都能被跳过。
他把这个问题比作过去关于生命是否需要特殊物质的争论。他说,生物和非生物由相同的基本元素构成,只是组织方式不同。同样,能动性的重要问题在于各部分如何组织。
Tim 问,如果基因或社会力量塑造我们,目标又从何而来?Tomasello 将生物和文化视为强大的影响因素,而非对个人选择的完整解释。它们可能朝不同方向拉扯,最终仍需要行动者在其中作决定。
他说,喜欢甜食并不会迫使正在节食的人吃冰淇淋。同样,遵守承诺可能与帮助受伤的孩子发生冲突。他用这些例子说明,各种影响会给决策增加权重,却不会预先解决每一场冲突。
专门动机如何与一般决策过程相遇
Tomasello 接受人有专门的倾向,但不认为所有思维都由独立模块构成。情绪会影响选择,却不总是决定选择。
话题转向演化心理学家提出的观点:心智拥有专门模块,例如选择伴侣和寻找食物的不同机制。Tomasello 接受专门倾向的存在,却不认同一切都是模块化的更强主张。
他认为,感知、注意、记忆和学习能够跨领域发挥作用;当专门动机发生冲突时,决策者必须作出取舍。在通往人类的谱系中,他认为哺乳动物会在这些动机的影响下灵活决策。
他把情绪形容为演化在天平上施加影响:对蛇的恐惧可能打断其他目标,但另一种紧迫威胁也可能改变反应。Tim 将此与 Mark Solms 关于感受帮助应对不确定性的观点联系起来。
他为何避免用单一标准衡量智能
他认为,以学校表现为中心的定义可能忽视动物的专门能力。他更愿意说清正在讨论哪种认知能力。
Tomasello 不愿把一般智能视为一个显而易见的单一能力。他认为这一概念的历史与学校中的语言和抽象能力测试有关,并举出松鼠记忆食物藏处、鸟类辨别声音和黑猩猩使用工具等专门能力。
Tim 问,能动性是否也可能是同样过度简化的标签。Tomasello 回答,控制系统为他提供了具体的物理组织模型,而他更难为一般智能指出类似机制。他更愿意使用规划、学习和认知等具体术语。
从基本控制到反思计划
Tomasello 提出通往人类的演化路径上有不同的能动性层次,并以爬行动物、哺乳动物和大型类人猿为比较例子。
Tomasello 概述通往人类的演化路径上的能动性层次,而非给所有动物作完整分类。由于无法直接研究已灭绝的祖先,研究者使用现存的模式物种,同时承认它们与祖先并不完全相同。
他将爬行动物作为相对基本的目标导向控制的模型。他认为哺乳动物多了一个能表征可能结果并进行规划的执行层。松鼠看似决定不做一次危险跳跃,转而选择另一条路,便是他想解释的行为类型。
规划可以让一种可能的策略先在想象中失败,而不是在行动中失败。Tomasello 举出松鼠想办法突破喂鸟器障碍的例子,说明灵活行为;他也将其内部组织方式表述为自己的解释。
更高一层是元认知或理性能动性,Tomasello 说这种能力在大型类人猿身上可以看到。它们能够在行动前寻找更多信息,或放弃困难问题,转而选择成功概率更高的方案。
他将这些变化与不同的不确定性来源联系起来:独居爬行动物会遇到难以预测的猎物;群居哺乳动物争夺资源;大型类人猿还可能需要智胜彼此。这是他对观察到的差异提出的演化解释。
共同目标带来不同形式的能动性
人类合作者能够协调角色、共同注意并考虑不同视角。文化约定既约束成员,也赋予他们能力。
他认为,人类增加了一种独特的共同行动能力。伙伴能够接受共同目标,理解各自角色,并在角色没有履行好时纠正彼此。这不同于仅仅对另一个行动者作出反应。
合作还需要共同注意:双方都注意到障碍或机会,并知道彼此正在一起关注它。Tomasello 将此与视角转换联系起来,即理解同一对象可以被看作一只狗、一个动物或一只宠物。
他认为,将他人观点与自己的观点对照,有助于形成视角的概念。在一个思想实验中,完全独自长大的孩子虽然会接触世界,却缺少另一个人同时提供的不同解释。
文化通过语言、约定、规范和制度扩展共同行动。这些东西会约束成员,也给他们提供无需自己发明的资源。例如,一个人学会语言后,可以用它创作诗歌。
Tomasello 引用比较儿童与黑猩猩协作任务的实验。他说,儿童可能继续帮助对方,直到双方都得到奖励,也可能纠正伙伴的角色;而他所举例子中的黑猩猩得到自己的奖励后便停止。
模型使用语言之前,孩子会创造约定
一项研究中,孩子在通话失去声音后发展出共同手势。Tomasello 建议研究协调如何成为人工智能体的基础。
他每天使用语言模型,但区分使用现有语言与创造语言约定。在一项研究中,研究者让视频通话中的孩子无法听到声音,孩子便发明手势并相互调整,直到形成共同约定。
Tomasello 认为,共同注意和共同承诺可能是语言约定得以产生的基础。他不排除通过其他路径获得实用语言能力,但建议在研究成熟语言模型的同时,也从简单协调出发研究语言。
Tim 问,AI 智能体是否最终能通过社会互动创造约定。Tomasello 提到对共同承诺的建模研究,并认为早期协调挑战可能要求每个参与者考虑对方的预期。
在猎鹿的例子中,每个人可以独自追求较小的收益,也可以在另一人加入时共同争取更大的收益。每个人都必须判断对方是否参与。约定可以提供共同预期,从而解决这类协调问题。
视角如何影响词语、语法和指向
讲者讨论他人的视角如何改变一个人说的话。Tomasello 也思考连贯话语在语言模型训练中的作用。
Tim 问及从多个视角获得知识。Tomasello 引用哲学家 Donald Davidson:另一个人的观点可以让我们发现自己错了,这与自己发现错误有所不同。他认为社会互动对这种能力的发展很重要。
同一只动物可能被称作狗、宠物,或者简单地称作“她”,取决于听者和双方的共同背景。这不只是给对象分类,还是让描述适应当前情境中重要的事情。
Tomasello 认为,语法也承载视角。“打破窗户的是 Fred”可以纠正认为肇事者是 Mary 的人;主动句和被动句则可以从狗或猫的角度呈现同一事件。
语言模型处理某些视角转换的能力似乎比他预期的强。他想知道,如果把训练句子随机打乱,让句子之间的逻辑与因果联系消失,会发生什么。他说,一次 AI 研讨会上大家预期结果会差很多,但承认没人知道答案。
Tim 认为人类叙事会围绕行动者的目标与障碍展开。Tomasello 回到儿童说话之前发展的能力:只有说话者与听者共享足够背景、能够推断意图时,指向手势才能传达具体意思。
一个指向可能表示“你姐姐在那里”,也可能表示“图书馆开门了”,取决于双方知道什么。Tomasello 提醒,说语言模型无法理解指向可能并不公平,但他建议研究共同背景和简单协调,作为构建更具能动性机器的一条路径。
制度与欺骗都依赖共同预期
货币和公职依赖人类的共同认可,而合作也可能遭到欺骗利用。群体忠诚同样可能带来分裂。
Tim 问,人类创造越来越抽象的共同制度时会有哪些风险。Tomasello 说,货币、总统等职位以及公司都依赖共同认可。社会共识改变时,一张纸币即使还在,也可能不再具有货币功能。
这些制度虽然依赖人类创造的类别,却能产生真实影响。Tomasello 随后认为,政客可以利用人们关注他人想法的倾向,通过重复和声称观点得到广泛认同来影响公众;他以 Donald Trump 为例。
在他的解释中,谎言之所以有效,是因为人们通常预期没有明显动机欺骗自己的人会合作。他将这种预期与自己对黑猩猩的描述作比较,并说合作倾向可能被利用。
群体内部的合作可以与群体之间的冲突并存。Tomasello 认为,人类演化出了对熟悉的“我们”的强烈归属感,如今面临的挑战是在多个群体相互依存的世界中扩展共同行动能力。
市场是行动者吗?机器又需要具备什么?
Tomasello 认为市场结果由个人决策交互产生,对把资本称为行动者持谨慎态度。他说图灵测试不足以证明机器具有能动性。
Tim 问资本或市场本身是否应被理解为行动者。Tomasello 更愿意把人看作决策者,他们的相互作用产生涌现结果。每个人都想尽快回家可能造成堵车,即使没有人打算制造堵车。
他还以通货膨胀和市场崩盘为例,说明集体结果如何由个人选择产生。他认为,政策制定者在设计减少不利结果的规则时,需要理解个人选择与整体模式之间的联系。
Tim 觉得从行动者的层次分析市场很有用。Tomasello 接受这是一种说法,但对于资本是否真的拥有目标、并在未达到目标时调整行为,他仍持保留态度。
被问到一个系统能否表现得像有能动性却实际上没有时,Tomasello 提到 Daniel Dennett 的意向立场,并说自己不确定。单凭图灵测试远远不够,但一台展现全部相关能力的机器或许可以算作行动者。
生物材料、激素和神经元是否必要,对他而言仍是未决问题。他回忆哲学家 Ned Block 提出的问题引发的一场讨论:在机器是否必须由“肉”构成这个问题上,现场没有达成共识。
同频道的其他文章
1:37:08EN → 简体中文
1:33:33EN → 简体中文
47:55EN → 简体中文
1:10:10EN → 简体中文
1:14:20EN → 简体中文
43:43EN → 简体中文