摘要
30 秒看懂
Matthew Berman 对办公室里一台大型 GB300 工作站作出反应,并告诉采访者他希望如何使用它。他计划尝试自己能在本地运行的最大模型,然后微调较小模型,并设想未来的智能体协助编程和研究。视频感谢了 NVIDIA,但没有说明财务条款或设备所有权安排。
- 1一台大型工作站Berman 称这台机器是一头令人印象深刻的猛兽,并提到它的体积和通风量。
- 2本地模型与微调他计划测试大型本地编程模型,然后微调较小的模型。
- 3一致性内存采访者提到超过 700 GB 的一致性内存;视频没有展示特定模型或性能结果。
- 4展望未来的 AI 智能体Berman 预计本地 AI 会不断进步,并对智能体编程和协助研究的可能性感到兴奋。
要点建议
- Berman 想在本地运行尽可能大的模型,最好是前沿水平的编程模型。
- 他还计划在工作站上微调较小的模型。
- 采访者称该系统具有超过 700 GB 的一致性内存。
- Berman 关于自主研究和自我改进的讨论是对未来的期待,而非已经展示的成果。
全文
按章节阅读整理后的全文
01
AI 工作站到来
Berman 对 GB300 系统的体积作出反应。他告诉采访者自己希望运行什么,并讨论本地 AI 的未来。
我感觉办公室里现在有了一头怪兽:这台机器体积巨大,通风量也很大,我迫不及待想用它了。视频展示了 NVIDIA 的来访并感谢该公司;视频没有说明设备是购买、借用,还是在付费合作安排下提供的。

被问及对 Dell Pro Max with GB300 的初步计划时,我说我想在本地运行自己能运行的最大模型。要是能运行前沿水平的编程模型,那就太令人兴奋了。之后,我想微调一些较小的模型。采访者指出系统有超过 700 GB 的一致性内存;这是对容量的描述,并非特定模型性能的演示。
我想展示的是未来即将到来的东西。随着时间推移,技术变得更便宜、更快、更高效。如今在家运行模型已经成为可能,我预计这种体验还会不断改善。能够编程、研究如何微调以及改进自身的智能体让我感到兴奋;这些是未来的可能性,而非视频中已经展示的能力。
这台机器是一头猛兽,我很期待开始使用。我向采访者表示感谢;他在结尾介绍了这台工作站,并询问观众的看法。
同频道的其他文章
34:21EN → 简体中文Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构,并质疑 AI 快速发展与安全之间的张力。
0:26EN → 简体中文Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中,Altman 思考解决难题的乐趣,以及人在解读结果时的作用。
0:36EN → 简体中文Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原,并对 Kimi K3.1 的测试给予积极评价。
0:21EN → 简体中文AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表,随后发现图中的数字只是示意性占位值。
25:50EN → 简体中文Kimi K3.1 Pro 实测:3D 演示出色,表现不一,价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力,并比较基准成绩与价格。
32:20EN → 简体中文本地 AI 究竟适合谁?成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权,与硬件成本、设置复杂度及推理速度之间的关系。