Jeremy Howard 谈实用的深度学习研究

原标题Jeremy Howard on Practical Deep-Learning Research

fast.ai 联合创始人讨论激励、迁移学习和主动学习。

JHJeremy Howard嘉宾 · fast.ai
频道
Lex Fridman
发布
2019年9月10日
视频
4:39
阅读
1 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Howard 主张研究应满足实际需求,并回顾一个迁移学习项目。

  1. 1激励Howard 批评发表激励。
  2. 2迁移他重视减少数据需求。
  3. 3主动学习他描述选择需要标注的例子。
  4. 4职业压力他承认初级研究人员的限制。

要点建议

  1. 他质疑发表激励。
  2. 迁移与主动学习可以减少资源需求。
  3. 职业压力影响研究选择。
全文

按章节阅读整理后的全文

只看原始文稿
01

研究激励

Lex Fridman 询问 fast.ai 联合创始人 Jeremy Howard 关于深度学习理论与实践之间的差距。

Lex Fridman 询问 fast.ai 联合创始人 Jeremy Howard 关于深度学习理论与实践之间的差距。

Howard 批评他认为偏向熟悉话题的渐进研究而非实际影响的研究激励。这是他对领域的评价。

02

迁移与主动学习

他认为迁移学习可以让人用更少资源和数据开展有用工作,并说自己认为相关研究不足。

他认为迁移学习可以让人用更少资源和数据开展有用工作,并说自己认为相关研究不足。

Howard 还强调主动学习,即系统帮助选择哪些例子应由人标注。

他描述优先处理困难例子的实际原因:标注所有数据可能既缓慢又昂贵。

03

一个实践项目

Howard 回顾与 Sebastian Ruder 关于自然语言处理迁移学习的工作,并说项目始于实际教学需求。

Howard 回顾与 Sebastian Ruder 关于自然语言处理迁移学习的工作,并说项目始于实际教学需求。

他说他们的原型在一个基准上表现出色,后来被整理成论文发表。

Howard 承认初级研究人员可能面临不同激励和压力,需要选择更稳妥、熟悉的话题。

同频道的其他文章

3 张幻灯片3:34:27EN → 简体中文
Lex Fridman· 2026年10月26日播客 · 4 人对谈AI、数学与证明的意义嘉宾 Steven Brunton, Ankur Moitra, Alex Kontorovich · 主持 Lex FridmanLex Fridman 与三位数学家讨论近期 AI 生成的研究、悬而未决的难题,以及人类理解的价值。MathematicsAI for scienceAI research+2
3:36:56EN → 简体中文
Lex Fridman· 2026年9月16日播客精神病学至今没有属于自己的青霉素主持 Lex Fridman历史学家 Andrew Scull 与 Lex Fridman 谈到,这门学科对症状有所缓解,但没有哪一种重大精神疾病真正被根治;过度自信的时候,代价要由病人来扛。Mental HealthPublic HealthNeuroscience
5:15:51EN → 简体中文
Lex Fridman· 2026年8月26日播客 · 2 人对谈DHH 没有亲手写一行 Omarchy Quattro 的代码嘉宾 DHH · 主持 Lex Fridman与 Lex Fridman 一次充满怀疑的对话过去十三个月后,Rails 的创造者讲述了 Opus 4.5、一群编码智能体(Agent)和一个一分钟的 Linux 安装器,如何结束了他一凿一凿手写 Ruby 的时代。编程智能体Vibe Coding智能体工程+3
3:12:58EN → 简体中文
Lex Fridman· 2026年8月12日播客 · 2 人对谈一个冷水澡,二十位冠军:Khabib Nurmagomedov 是如何炼成的嘉宾 Khabib Nurmagomedov · 主持 Lex Fridman在马哈奇卡拉的一间学校体育馆里,七十个人共用一个淋浴间,而且只有冷水。Martial ArtsCombat SportsCoaching+3
3:46:18EN → 简体中文
Lex Fridman· 2026年7月28日播客 · 2 人对谈抽掉奴隶制,就没有美国内战嘉宾 Gary Gallagher · 主持 Lex Fridman1860 年,美国奴隶主名下的奴隶价值,超过了全美所有铁路和工厂的总和。Political PhilosophyLeadershipHistory
3:51:47EN → 简体中文
Lex Fridman· 2026年6月30日播客 · 2 人对谈46% 的皇帝被暴力推翻,帝国照样延续下来嘉宾 Anthony Kaldellis · 主持 Lex Fridman历史学家 Anthony Kaldellis 与 Lex Fridman 一起走过 2200 年的罗马史,并主张我们所说的拜占庭,其实就是罗马本身。Political PhilosophyGeopoliticsLeadership