30 秒看懂
Shira Lazar 与 AI 研究者、作家 De Kai 讨论他将 AI 系统比作“人工孩子”的观点。他谈到从人类示例中学习、推荐算法的影响、心理健康应用的风险,以及对更高效 AI 的预测;这一比喻与预测属于他的个人理解。
- 1人工孩子De Kai 提出一个强调模仿和人类责任的比喻。
- 2模式与推理他描述自己的研究经历,并比较模式识别与审慎推理。
- 3心理健康保护措施他提醒不可靠输出在敏感咨询中可能造成危险,并讨论监督和警告。
- 4算法没有展示什么他关注信息流、推荐和搜索背后的筛选决定。
- 5AI 项目与整合他认为组织应从实际问题和部署影响出发,而不是仅仅奉命使用 AI。
- 6理解我们自己他认为研究 AI 有助于深入思考人类认知和教育。
要点建议
- De Kai 使用养育比喻,强调人类行为和训练示例对 AI 发展的重要性。
- 他提醒人们关注推荐系统展示什么,也要关注它没有展示什么。
- 他认为当前 AI 心理健康工具在敏感咨询中还不够可靠,并呼吁设置保护措施。
- 他预测 AI 架构会更加高效,但变化的时间和形式仍不确定。
- 两位发言者都强调思考人类价值与负责任的选择。
按章节阅读整理后的全文
养育比喻
De Kai 解释为什么将 AI 系统比作孩子,并强调人类示例。Lazar 探索这一比喻对用户和社会提出的要求。
Shira Lazar 邀请 AI 研究者、《Raising AI》作者 De Kai 讨论技术、文化和责任。她介绍他在机器翻译方面的工作,以及他对以正念方式看待 AI 的兴趣。
被问及为何将 AI 系统称为“人工孩子”时,De Kai 说系统从人类示例中学习模式,也可能以某些方式寻求认可,因此他认为养育比喻有用。他说当前系统在某些方面能力突出,在另一些方面则不成熟。这是类比,并非软件真的就是孩子。
他认为人们不应只依赖监管者或公司的保护措施。在他的框架中,人类行为和训练系统所用的材料会影响系统再现什么。Lazar 回应说,这一比喻促使人们思考自己在社区中的行为。
AI 研究历史与预测
他回顾自己在语言和关联模型方面的工作,预测更高效的系统,并讨论下一代面临的不确定性。
De Kai 回忆自己在 1980 年代开始于伯克利进行 AI 研究。他说,早期工作质疑手写逻辑规则能否处理语言的复杂性,并主张使用学习模式的关联模型。
他比较快速、直觉式的模式识别和较慢的有意识推理,以语言处理和学习国际象棋为例。他认为现代神经网络尤其擅长前者,同时提醒流畅的模式补全可能产生夸张或错误的回答。
他将新出现的推理系统描述为早期且仍不够高效。展望未来,他预测会出现更小、更高效的 AI 架构,并认为当前基于 Transformer 的系统并非唯一可能。这些是他的预测,而非确定的时间表。
Lazar 询问在快速变化的 AI 时代成长会是什么样子。De Kai 说变化速度让人难以指导孩子未来工作,并预测技术和设计职业会发生重大变化。这些就业预测作为他的观点呈现。
他强调 AI 是一个研究领域,而不是某种特定模型,并将其众多方法与物理学中的不同理论作比较。他预计架构会随时间改变,也质疑当下基础设施需求将永远固定不变的假设。
心理健康与算法筛选
两人讨论敏感咨询、保护措施和推荐系统对人们所见内容的影响。De Kai 描述他理解的风险。
对话转向一则据报道与 AI 治疗工具互动后发生的死亡事件。De Kai 预测 AI 最终可能在治疗中有用,但认为当前系统在敏感咨询中还不够可靠。他讨论人工监督、保守部署和醒目警告等可能的保护措施。
被问到对 AI 的恐惧时,他区分了关于强大机器的虚构叙事与他在当前系统中看到的风险。他认为推荐算法通过信息流、搜索结果和其他选择每天影响人们。
De Kai 提醒人们关注选择的另一面:算法没有展示的内容。他将其称为“算法审查”,用来描述筛选,同时承认人们需要帮助处理海量信息。他希望社会讨论应以什么标准指导这些选择。
他担心筛选可能让人们更难互相理解。同时,他以机器翻译为例说明技术可以帮助跨语言沟通,效果取决于如何部署。
能源、商业采用与人类学习
两人讨论环境透明度以及部分企业 AI 项目为何遇到困难。De Kai 比较了使用 AI 的命令与以问题为中心的整合。
Lazar 提到 Google 当时近期公布的一项平均 Gemini 查询能耗与用水估计。De Kai 支持资源使用透明化,并重申自己认为当前模型与人类学习相比效率不高。采访中的数值比较是两人在 2025 年的说法,不能确定 AI 使用的普遍足迹。
话题转向一项据报道显示企业 AI 项目回报不佳的研究。De Kai 认为,单纯要求“使用 AI”可能导致团队在没有明确高成本问题或考虑组织影响时采用工具。他说人们的预期既可能过于乐观,也可能低估可行性。
作为人意味着什么
De Kai 讨论认知科学、创造力和教育。Lazar 以关于留出思考空间的个人感受结束。
谈到自己的书时,De Kai 说 AI 研究也会引出关于人类认知的问题:模型在做什么、缺少什么,以及这些与人类思维有何差异。他质疑流畅的输出是否必然包含真正的新见解。
他主张融合科学、工程、艺术与哲学的广泛教育,认为在 AI 时代理解自己很重要。他再次回到养育比喻:了解系统也可以帮助人们了解自己。
Lazar 最后分享个人感受:她从 AI 日记转回纸笔,给自己留出安静思考的空间。她感谢 De Kai 带来一场促使听众思考自身选择的对话。
同频道的其他文章
0:45EN → 简体中文
0:55EN → 简体中文
0:48EN → 简体中文
0:54EN → 简体中文
0:38EN → 简体中文
1:01EN → 简体中文