Jensen Huang 与 Joel Hellermark:AI、计算与领导力

原标题Jensen Huang and Joel Hellermark on AI, Computing and Leadership

Nvidia 创始人讨论深度学习、多模态模型、芯片设计、AI 安全以及团队管理。

JHJensen Huang嘉宾 · Nvidia
频道
Sana
发布
2023年6月29日
视频
47:29
阅读
7 分钟
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

在这场 2023 年的完整对谈中,Jensen Huang 和 Joel Hellermark 回顾深度学习的发展,探讨 AI 在计算、产品和工作中的作用。Huang 还解释自己的组织实践,以及对领导力、透明和持续规划的看法。

  1. 1深度学习改变软件Huang 将 Nvidia 的信念追溯到早期神经网络成果及其扩展潜力。
  2. 2以物理反馈建立基础他介绍模拟作为让机器人根据物理约束训练的一种可能方式。
  3. 3AI 辅助芯片设计工程师设定权衡目标,AI 探索不同方案。
  4. 4客户背景仍然重要Huang 认为通用模型能力不能取代对客户具体问题的理解。
  5. 5能力与安全并重他主张使用防护措施、对齐和支持信息,同时承认风险。
  6. 6员工的观察他的“最重要的五件事”邮件帮助他抽样了解公司各处的情况。

要点建议

  1. Huang 将深度学习视为构建软件的新方式。
  2. 他预计多模态和具有物理基础的系统将扩展 AI 能力。
  3. AI 辅助设计仍依赖人对权衡目标的选择。
  4. 能力发展应伴随安全投入。
  5. 他重视信息快速流动、持续规划和有意义的问题。
全文

按章节阅读整理后的全文

只看原始文稿
01

发现深度学习

Huang 回忆 ImageNet 以及构建软件的新方式。

Joel Hellermark 问 Jensen Huang 何时开始相信深度学习。Huang 回忆,准备参加 2012 年 ImageNet 竞赛的研究者寻找 Nvidia GPU 及神经网络编程支持;他们工作的效果促使他思考能扩大到什么程度。

Huang 将深度学习既视为解决难以明确规定问题的算法,也视为不同的软件开发方式。他说,这一认识促使 Nvidia 重新思考计算,类似的想法后来被称为“软件 2.0”。

02

多模态与物理基础

两位嘉宾讨论 Transformer、传感器和模拟机器人反馈。

讨论 Transformer 时,Huang 说研究者已将这种架构用于文本、视觉和音频。他认为结合不同模态可以改善感知:描述条纹的文字可能帮助模型将斑马与马联系起来。

他提到摄像头、雷达和激光雷达的传感器融合,以及言语与手势相互澄清含义的方式。他预计多模态模型将更强大、更稳健,但这些是预测而非保证。

Huang 认为模型可以从语言中学习对物理现象的描述,而直接的感官基础能增加细节。对于机器人,他提出用模拟物理反馈将学习到的行为与物理约束联系起来。

他将 Nvidia Omniverse 描述为机器人数字孪生的模拟环境,并将模拟物理反馈与用于对齐的人类反馈作比较。这种比较描述的是一种训练思路,并不证明模拟能够完美再现现实。

03

人与更强大的 AI

Huang 思考规则、人类专业知识和计算的可及性。

被问到现有架构能否持续扩大时,Huang 说自己不了解足够多的科学细节,无法预测极限。他推测显式规则和符号推理可以补充从数据和经验中学习。

Hellermark 问,在能力强得多的 AI 身边,人还能扮演什么角色。Huang 说,他已经与在特定技能上远超自己的人共事,并希望更广泛获取智能能放大人的专业知识与热情。

Huang 认为自然语言界面可能让不懂编程语言的人更容易使用计算机。他希望这能缩小数字鸿沟,并举出孩子用提示词创建程序和图像的例子。

04

Nvidia 内部的 AI

他介绍芯片设计、产品功能和公司运营。

Huang 说,Nvidia 使用 AI 探索芯片设计方案。工程师选择权衡目标,例如关键路径速度或重复组件的能效,系统再按这些目标搜索大量可能设计。

被问到 AI 应用如何建立护城河时,Huang 强调深入理解客户领域和处境。通用能力强的模型仍可能需要了解行业背景、具体问题以及相关人员。

Huang 指出 Nvidia 使用 AI 的三个方向:改进产品设计方式、改变产品功能,以及增强公司内部工作。他以 AI 辅助芯片设计和软件开发作为第一类例子。

在产品方面,他介绍使用学习得到的图像重建来推断图形中的缺失像素。他将效率提升归因于硬件与大型计算系统训练的模型相结合;具体比例反映的是他在 2023 年的描述。

在内部运营方面,Huang 设想助手连接员工、市场需求与供应链之间的信息。他将其作为增强工作、发现人们可能漏掉的信号的长期愿景。

05

机会与安全

Huang 讨论受影响的工作、新角色和安全投入。

谈及风险与机会时,Huang 说变革性技术既会造成冲击,也会创造新行业。他认为转岗培训对受影响的劳动者很重要,并预测会出现提示工程等新角色;这是 2023 年的预测。

他呼吁在提升能力的同时投资 AI 安全,并以自动驾驶作类比。他列出防护措施、人类反馈对齐和检索支持信息作为语言模型可能使用的组成部分;这些都不能保证输出正确。

06

学习与组织

他解释技术好奇心、扁平结构和获取专业知识。

Joel Hellermark 问 Jensen Huang,管理 Nvidia 的同时如何跟上技术发展。Huang 归功于愿意教他的优秀同事,并说自己有意识地努力当一个好学生。

Huang 说,Nvidia 的工作涉及自动驾驶、气候和数字生物学等领域。科技企业的领导者需要充分理解技术基础,才能区分根本性转变与旁支发展。

他以生成对抗模型、变分自编码器和扩散模型之间的联系为例,说明一个领域的洞见如何启发另一个领域。当解决方案需要多年才能建成,而技术基础又快速变化时,技术直觉尤为重要。

谈到管理方式时,Huang 说自己从第一性原理出发:组织的目标、输入与输出,以及所处行业的条件。他说 Nvidia 的使命是解决常规方法几乎无法处理的计算问题。

Huang 希望公司足够大以做好工作,同时尽可能精简,吸引愿意解决难题的人。为了赋权员工并加快信息流动,他偏好扁平结构,而不是自上而下的命令控制。

他说自己有很多资深直接下属,不与他们定期进行一对一职业辅导。他的理由是这些领导者熟悉自己的领域;他会向团队同时传达战略方向,并根据反馈完善。

Huang 认为,共享信息和扁平结构使公司更敏捷。他说 Nvidia 以整体协作而非独立事业部的方式组织,结构围绕加速计算形成。

Hellermark 问 Huang 的领导方式如何演变。Huang 说,遇到不同意见时他可能很直接,也会花时间解释决策背后的推理,让同事了解他如何权衡不同方案。

Huang 说,会议并不限于特定职级:刚毕业的员工和不同团队的专家都可以参加。两位嘉宾都重视让最接近问题或最有专业知识的人参与。

07

行动中的战略

对话涵盖员工邮件、持续规划和改变想法。

Huang 不依赖传统状态报告,而是邀请员工通过“最重要的五件事”邮件分享观察、工作或所学。他说通常每天早晨会读约一百封;内容不必全部是正式工作汇报。

他说信息从员工流向领导层,而非由中心发布清单影响大家汇报什么。抽样阅读这些邮件帮助他判断员工实际在做的事,是否与公司所说的战略一致。

Huang 说,Nvidia 持续规划,而不是依靠定期的一年或五年计划。按照他的说法,目的在于随着环境变化作出调整,同时让组织对正在做的事情保持一致。

Hellermark 问如何相信与常规相悖的直觉。Huang 说,要从明确的假设出发推理。他以未来数据中心像工厂一样处理数据、生产智能的愿景为例,说明如何从技术前提出发推演。

Huang 说,坚定信念必须伴随改变想法的意愿。他描述了公开承认错误、反复调整计划的做法,而不是为错误的长期承诺辩护。

08

让有意义的工作成为可能

Huang 介绍如何选择问题和分享信息。

Hellermark 问领导者如何让员工完成毕生事业。Huang 说,领导者的使命是为他人创造条件,首先要选择有意义的问题,而不是安排同质化工作。

Huang 说,公司不会把市场份额作为讨论中心;在他的理解中,围绕可互换产品竞争意味着优秀人才在重复已有工作。这是他所表达的管理理念,并不意味着 Nvidia 没有市场竞争。

他说,退出同质化业务可以强化这一信息:员工应该解决新问题。在他看来,选择正确的工作和离开不合适的工作,都是创造良好环境的一部分。

最后,Huang 强调信息获取和减少等级壁垒。他认为,团队之间保持透明,让刚毕业的员工也能在会议上贡献意见,有助于让赋权真正落地。

同频道的其他文章