De Kai 谈“养育” AI 与算法背后的选择

原标题De Kai on “Raising” AI and the Choices Behind Algorithms

这位研究者借用养育比喻,讨论训练、线上筛选、心理健康保护措施以及 AI 的未来。

DKDe Kai嘉宾
频道
Shira Lazar
发布
2025年8月29日
视频
29:47
阅读
4 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Shira Lazar 与 AI 研究者、作家 De Kai 讨论他将 AI 系统比作“人工孩子”的观点。他谈到从人类示例中学习、推荐算法的影响、心理健康应用的风险,以及对更高效 AI 的预测;这一比喻与预测属于他的个人理解。

  1. 1人工孩子De Kai 提出一个强调模仿和人类责任的比喻。
  2. 2模式与推理他描述自己的研究经历,并比较模式识别与审慎推理。
  3. 3心理健康保护措施他提醒不可靠输出在敏感咨询中可能造成危险,并讨论监督和警告。
  4. 4算法没有展示什么他关注信息流、推荐和搜索背后的筛选决定。
  5. 5AI 项目与整合他认为组织应从实际问题和部署影响出发,而不是仅仅奉命使用 AI。
  6. 6理解我们自己他认为研究 AI 有助于深入思考人类认知和教育。

要点建议

  1. De Kai 使用养育比喻,强调人类行为和训练示例对 AI 发展的重要性。
  2. 他提醒人们关注推荐系统展示什么,也要关注它没有展示什么。
  3. 他认为当前 AI 心理健康工具在敏感咨询中还不够可靠,并呼吁设置保护措施。
  4. 他预测 AI 架构会更加高效,但变化的时间和形式仍不确定。
  5. 两位发言者都强调思考人类价值与负责任的选择。
全文

按章节阅读整理后的全文

只看原始文稿
01

养育比喻

De Kai 解释为什么将 AI 系统比作孩子,并强调人类示例。Lazar 探索这一比喻对用户和社会提出的要求。

Shira Lazar 邀请 AI 研究者、《Raising AI》作者 De Kai 讨论技术、文化和责任。她介绍他在机器翻译方面的工作,以及他对以正念方式看待 AI 的兴趣。

被问及为何将 AI 系统称为“人工孩子”时,De Kai 说系统从人类示例中学习模式,也可能以某些方式寻求认可,因此他认为养育比喻有用。他说当前系统在某些方面能力突出,在另一些方面则不成熟。这是类比,并非软件真的就是孩子。

他认为人们不应只依赖监管者或公司的保护措施。在他的框架中,人类行为和训练系统所用的材料会影响系统再现什么。Lazar 回应说,这一比喻促使人们思考自己在社区中的行为。

02

AI 研究历史与预测

他回顾自己在语言和关联模型方面的工作,预测更高效的系统,并讨论下一代面临的不确定性。

De Kai 回忆自己在 1980 年代开始于伯克利进行 AI 研究。他说,早期工作质疑手写逻辑规则能否处理语言的复杂性,并主张使用学习模式的关联模型。

他比较快速、直觉式的模式识别和较慢的有意识推理,以语言处理和学习国际象棋为例。他认为现代神经网络尤其擅长前者,同时提醒流畅的模式补全可能产生夸张或错误的回答。

他将新出现的推理系统描述为早期且仍不够高效。展望未来,他预测会出现更小、更高效的 AI 架构,并认为当前基于 Transformer 的系统并非唯一可能。这些是他的预测,而非确定的时间表。

Lazar 询问在快速变化的 AI 时代成长会是什么样子。De Kai 说变化速度让人难以指导孩子未来工作,并预测技术和设计职业会发生重大变化。这些就业预测作为他的观点呈现。

他强调 AI 是一个研究领域,而不是某种特定模型,并将其众多方法与物理学中的不同理论作比较。他预计架构会随时间改变,也质疑当下基础设施需求将永远固定不变的假设。

03

心理健康与算法筛选

两人讨论敏感咨询、保护措施和推荐系统对人们所见内容的影响。De Kai 描述他理解的风险。

对话转向一则据报道与 AI 治疗工具互动后发生的死亡事件。De Kai 预测 AI 最终可能在治疗中有用,但认为当前系统在敏感咨询中还不够可靠。他讨论人工监督、保守部署和醒目警告等可能的保护措施。

被问到对 AI 的恐惧时,他区分了关于强大机器的虚构叙事与他在当前系统中看到的风险。他认为推荐算法通过信息流、搜索结果和其他选择每天影响人们。

De Kai 提醒人们关注选择的另一面:算法没有展示的内容。他将其称为“算法审查”,用来描述筛选,同时承认人们需要帮助处理海量信息。他希望社会讨论应以什么标准指导这些选择。

他担心筛选可能让人们更难互相理解。同时,他以机器翻译为例说明技术可以帮助跨语言沟通,效果取决于如何部署。

04

能源、商业采用与人类学习

两人讨论环境透明度以及部分企业 AI 项目为何遇到困难。De Kai 比较了使用 AI 的命令与以问题为中心的整合。

Lazar 提到 Google 当时近期公布的一项平均 Gemini 查询能耗与用水估计。De Kai 支持资源使用透明化,并重申自己认为当前模型与人类学习相比效率不高。采访中的数值比较是两人在 2025 年的说法,不能确定 AI 使用的普遍足迹。

话题转向一项据报道显示企业 AI 项目回报不佳的研究。De Kai 认为,单纯要求“使用 AI”可能导致团队在没有明确高成本问题或考虑组织影响时采用工具。他说人们的预期既可能过于乐观,也可能低估可行性。

05

作为人意味着什么

De Kai 讨论认知科学、创造力和教育。Lazar 以关于留出思考空间的个人感受结束。

谈到自己的书时,De Kai 说 AI 研究也会引出关于人类认知的问题:模型在做什么、缺少什么,以及这些与人类思维有何差异。他质疑流畅的输出是否必然包含真正的新见解。

他主张融合科学、工程、艺术与哲学的广泛教育,认为在 AI 时代理解自己很重要。他再次回到养育比喻:了解系统也可以帮助人们了解自己。

Lazar 最后分享个人感受:她从 AI 日记转回纸笔,给自己留出安静思考的空间。她感谢 De Kai 带来一场促使听众思考自身选择的对话。

同频道的其他文章