摘要
30 秒看懂
Howard 主张研究应满足实际需求,并回顾一个迁移学习项目。
- 1激励Howard 批评发表激励。
- 2迁移他重视减少数据需求。
- 3主动学习他描述选择需要标注的例子。
- 4职业压力他承认初级研究人员的限制。
要点建议
- 他质疑发表激励。
- 迁移与主动学习可以减少资源需求。
- 职业压力影响研究选择。
全文
按章节阅读整理后的全文
01
研究激励
Lex Fridman 询问 fast.ai 联合创始人 Jeremy Howard 关于深度学习理论与实践之间的差距。
Lex Fridman 询问 fast.ai 联合创始人 Jeremy Howard 关于深度学习理论与实践之间的差距。
Howard 批评他认为偏向熟悉话题的渐进研究而非实际影响的研究激励。这是他对领域的评价。
02
迁移与主动学习
他认为迁移学习可以让人用更少资源和数据开展有用工作,并说自己认为相关研究不足。
他认为迁移学习可以让人用更少资源和数据开展有用工作,并说自己认为相关研究不足。
Howard 还强调主动学习,即系统帮助选择哪些例子应由人标注。
他描述优先处理困难例子的实际原因:标注所有数据可能既缓慢又昂贵。
03
一个实践项目
Howard 回顾与 Sebastian Ruder 关于自然语言处理迁移学习的工作,并说项目始于实际教学需求。
Howard 回顾与 Sebastian Ruder 关于自然语言处理迁移学习的工作,并说项目始于实际教学需求。
他说他们的原型在一个基准上表现出色,后来被整理成论文发表。
Howard 承认初级研究人员可能面临不同激励和压力,需要选择更稳妥、熟悉的话题。
同频道的其他文章
3:34:27EN → 简体中文AI、数学与证明的意义嘉宾 Steven Brunton, Ankur Moitra, Alex Kontorovich · 主持 Lex FridmanLex Fridman 与三位数学家讨论近期 AI 生成的研究、悬而未决的难题,以及人类理解的价值。
3:36:56EN → 简体中文精神病学至今没有属于自己的青霉素主持 Lex Fridman历史学家 Andrew Scull 与 Lex Fridman 谈到,这门学科对症状有所缓解,但没有哪一种重大精神疾病真正被根治;过度自信的时候,代价要由病人来扛。
5:15:51EN → 简体中文DHH 没有亲手写一行 Omarchy Quattro 的代码嘉宾 DHH · 主持 Lex Fridman与 Lex Fridman 一次充满怀疑的对话过去十三个月后,Rails 的创造者讲述了 Opus 4.5、一群编码智能体(Agent)和一个一分钟的 Linux 安装器,如何结束了他一凿一凿手写 Ruby 的时代。
3:12:58EN → 简体中文一个冷水澡,二十位冠军:Khabib Nurmagomedov 是如何炼成的嘉宾 Khabib Nurmagomedov · 主持 Lex Fridman在马哈奇卡拉的一间学校体育馆里,七十个人共用一个淋浴间,而且只有冷水。
3:46:18EN → 简体中文抽掉奴隶制,就没有美国内战嘉宾 Gary Gallagher · 主持 Lex Fridman1860 年,美国奴隶主名下的奴隶价值,超过了全美所有铁路和工厂的总和。
3:51:47EN → 简体中文46% 的皇帝被暴力推翻,帝国照样延续下来嘉宾 Anthony Kaldellis · 主持 Lex Fridman历史学家 Anthony Kaldellis 与 Lex Fridman 一起走过 2200 年的罗马史,并主张我们所说的拜占庭,其实就是罗马本身。