Matthew Berman 的 GB300 家用 AI 工作站计划

原标题Matthew Berman’s Plans for a GB300 AI Workstation at Home

NVIDIA 带着一台 Dell Pro Max GB300 系统来访后,Berman 介绍了他对本地模型、微调和未来 AI 智能体的计划。

MBMatthew Berman嘉宾 · Forward Future
频道
Matthew Berman
发布
2026年3月16日
视频
1:02
阅读
2 分钟
幻灯片
1
原文
英语
在 YouTube 打开
往下滚动阅读时,视频会缩到右下角继续播放。字幕跟随阅读语言。
阅读语言共 2 种语言可读
由 AI 从英语原文翻译。打开“对照原文”可以逐段核对。
摘要

30 秒看懂

Matthew Berman 对办公室里一台大型 GB300 工作站作出反应,并告诉采访者他希望如何使用它。他计划尝试自己能在本地运行的最大模型,然后微调较小模型,并设想未来的智能体协助编程和研究。视频感谢了 NVIDIA,但没有说明财务条款或设备所有权安排。

  1. 1一台大型工作站Berman 称这台机器是一头令人印象深刻的猛兽,并提到它的体积和通风量。
  2. 2本地模型与微调他计划测试大型本地编程模型,然后微调较小的模型。
  3. 3一致性内存采访者提到超过 700 GB 的一致性内存;视频没有展示特定模型或性能结果。
  4. 4展望未来的 AI 智能体Berman 预计本地 AI 会不断进步,并对智能体编程和协助研究的可能性感到兴奋。

要点建议

  1. Berman 想在本地运行尽可能大的模型,最好是前沿水平的编程模型。
  2. 他还计划在工作站上微调较小的模型。
  3. 采访者称该系统具有超过 700 GB 的一致性内存。
  4. Berman 关于自主研究和自我改进的讨论是对未来的期待,而非已经展示的成果。
全文

按章节阅读整理后的全文

只看原始文稿
01

AI 工作站到来

Berman 对 GB300 系统的体积作出反应。他告诉采访者自己希望运行什么,并讨论本地 AI 的未来。

我感觉办公室里现在有了一头怪兽:这台机器体积巨大,通风量也很大,我迫不及待想用它了。视频展示了 NVIDIA 的来访并感谢该公司;视频没有说明设备是购买、借用,还是在付费合作安排下提供的。

Berman 办公室里的 GB300 工作站
幻灯片 1 / 1Berman 办公室里的 GB300 工作站采访者讨论一致性内存时,画面展示了这台大型工作站。

被问及对 Dell Pro Max with GB300 的初步计划时,我说我想在本地运行自己能运行的最大模型。要是能运行前沿水平的编程模型,那就太令人兴奋了。之后,我想微调一些较小的模型。采访者指出系统有超过 700 GB 的一致性内存;这是对容量的描述,并非特定模型性能的演示。

我想展示的是未来即将到来的东西。随着时间推移,技术变得更便宜、更快、更高效。如今在家运行模型已经成为可能,我预计这种体验还会不断改善。能够编程、研究如何微调以及改进自身的智能体让我感到兴奋;这些是未来的可能性,而非视频中已经展示的能力。

这台机器是一头猛兽,我很期待开始使用。我向采访者表示感谢;他在结尾介绍了这台工作站,并询问观众的看法。

同频道的其他文章

12 张幻灯片34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。AnthropicAI Safety企业 AI+2
0:26EN → 简体中文
Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。Human-AI CollaborationFuture of WorkAI Strategy
2 张幻灯片0:36EN → 简体中文
Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。评估编程智能体Open-weight models
2 张幻灯片0:21EN → 简体中文
Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。Benchmarks评估Generative media
6 张幻灯片25:50EN → 简体中文
Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。Open-weight modelsBenchmarksAI cost & performance+1
2 张幻灯片32:20EN → 简体中文
Matthew Berman· 2026年10月23日本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。Local inferenceOpen-weight modelsAI cost & performance+1