RTX 5090 本地 AI 简测

原标题A Quick RTX 5090 Local AI Test

Matthew Berman 在本地运行一个 8B DeepSeek R1 蒸馏模型,并报告一次生成的速度。

MBMatthew Berman讲者 · Forward Future
频道
Matthew Berman
发布
2025年1月23日
视频
0:55
阅读
2 分钟
幻灯片
1
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

在这支 2025 年与 NVIDIA 合作制作的短视频中,Matthew Berman 介绍了用 RTX 5090 玩游戏的体验,并在 LM Studio 中测试一个 80 亿参数的 DeepSeek R1 蒸馏模型。他报告这次运行达到了每秒 78 个 token;这支短视频不能证明不同模型或工作负载下的性能。Berman 还披露自己在 LM Studio 有一笔小额投资。

  1. 1合作提供的硬件Berman 说 NVIDIA 提供了 RTX 5090,邀请他参加 CES,并与他合作制作这支视频。
  2. 2先玩游戏他说自己以最高画质设置试玩了 Cyberpunk,觉得 Path of Exile 2 的画面也很漂亮。
  3. 3本地 AI 生成一个 8B DeepSeek R1 蒸馏模型在 LM Studio 中生成 Python 贪吃蛇代码,他报告这次运行达到每秒 78 个 token。

要点建议

  1. NVIDIA 提供了 RTX 5090,并与 Berman 合作制作这支视频。
  2. Berman 在 LM Studio 中本地运行一个 8B DeepSeek R1 蒸馏模型。
  3. 他要求模型用 Python 编写贪吃蛇游戏,并报告此次运行达到每秒 78 个 token。
  4. 短视频没有提供跨硬件、模型或配置的受控基准测试。
全文

按章节阅读整理后的全文

只看原始文稿
01

游戏体验与本地模型测试

Berman 介绍 RTX 5090 和他与 NVIDIA 的合作,并分享游戏体验以及一次本地 AI 生成的速度。

NVIDIA 给我寄来了一块 RTX 5090,这是一款高端新一代 GPU;它还邀请我参加 CES,Jensen Huang 在那里介绍了这款产品。NVIDIA 也与我合作制作了这支视频。我首先测试了游戏:我说 Cyberpunk 以最高设置运行时没有问题,Path of Exile 2 的画面也很漂亮。

在 AI 测试中,我在 LM Studio 中本地加载了 80 亿参数的 DeepSeek R1 蒸馏模型,并要求它用 Python 编写贪吃蛇游戏。模型展示了推理过程并生成代码;我报告这次运行的速度为每秒 78 个 token。这一个例子不能建立通用的硬件排名,也没有展示游戏是否经过测试。我在视频简介中披露了自己在 LM Studio 的一笔小额投资。

生成的贪吃蛇代码
幻灯片 1 / 1生成的贪吃蛇代码本地模型在推理文本之后输出了 Python 实现。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1