NVIDIA 与 Microsoft 的 2024 年 RTX AI 公告

摘要

30 秒看懂

在这段 2024 年 5 月的短视频中，Matthew Berman 讨论 Microsoft Build 和 NVIDIA 的 RTX AI 公告，包括本地模型推理、开发工具，以及面向游戏和创作者的应用。NVIDIA 是视频中披露的合作伙伴。该公司宣称的最高三倍性能提升适用于特定工作负载和软件，并非所有模型或电脑。

1Windows AI 开发Berman 介绍 Microsoft 的 AI 助手愿景及 NVIDIA 在 Windows 上的合作。节目呈现的是 2024 年的展望，并不能证明同一个模型在操作系统每一层都运行。
2有条件的推理加速NVIDIA 宣布的最高三倍提升针对使用 ONNX Runtime、DirectML 和 R555 驱动的部分大语言模型推理，并非普遍改善。
3开发者、游戏和创作者Berman 介绍本地模型开发工具、游戏性能与 AI 角色，以及加速的创意工作流。NVIDIA 是他披露的合作伙伴。

要点建议

Microsoft 在 Build 2024 上讨论 Windows Copilot Runtime 及与 NVIDIA 在本地 AI 开发上的合作。
NVIDIA 报告称，在特定条件下，使用 R555 驱动、ONNX Runtime 和 DirectML 的大语言模型推理速度最高提升至三倍。
AI Workbench、cuDNN 和 CUDA 支持模型开发与定制；性能取决于硬件和配置。
视频重点介绍 AI 驱动的游戏角色和 RTX 加速的创意工具等潜在应用。

主题Local inference AI platform engineering Generative media Developer productivity

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

Microsoft Build 与 Windows AI

Berman 介绍 Microsoft 的 AI 助手计划和 NVIDIA 的 Windows 合作。本视频与 NVIDIA 合作制作。

Microsoft 在 2024 年 Build 大会上的公告展现了 AI 助手与 Windows 更紧密集成的方向。Microsoft 介绍了 Windows Copilot Runtime 和开发者能力，包括与 NVIDIA 在 RTX 系统上的合作。我所描述的 GPT-4 贯穿操作系统每一层是一个宽泛愿景，并不能证明同一个模型在所有地方运行。本视频由我与 NVIDIA 合作制作。

本地模型与开发工具

他讨论宣布的推理加速及本地模型开发工具。速度主张适用于特定工作负载。

幻灯片 1 / 1部分 RTX 语言模型推理结果NVIDIA 的图表比较了 GeForce RTX 4090 上特定模型的配置与驱动版本；它不能证明普遍的加速效果。

对于本地语言模型，NVIDIA 宣布其 R555 驱动在特定配置下配合 ONNX Runtime 和 DirectML，可将推理速度最高提升至三倍。这是公司在特定模型、硬件和软件条件下的性能主张，并不意味着每个模型都会加快三倍。NVIDIA 还介绍了在 Windows Subsystem for Linux 上使用 AI Workbench、cuDNN 和 CUDA 进行开发与微调。