摘要
30 秒看懂
Matthew Berman 讨论 xAI 于 2024 年 3 月发布的 Grok-1 权重和架构。他将此事与 Elon Musk 和 OpenAI 的争议联系起来，认为发布时间体现了竞争压力。xAI 将发布的检查点描述为一个拥有 3140 亿参数的基础模型，而非针对聊天微调的系统；发布内容也不包含全部训练数据。
- 1开放发布Berman 说 Musk 宣布计划后，xAI 发布了 Grok。
- 2竞争角度的解读他将此次发布与 Musk 和 OpenAI 的争议联系起来，但动机是他自己的解读。
- 3模型架构与许可证xAI 将该基础模型描述为拥有 3140 亿参数的混合专家模型，每个 token 激活 25% 的权重，并以 Apache 2.0 许可证发布权重和架构。
要点建议
- xAI 于 2024 年 3 月以 Apache 2.0 许可证发布 Grok-1 的基础权重和架构。
- 这个拥有 3140 亿参数的混合专家模型在处理每个 token 时只激活部分权重。
- 发布的基础检查点没有针对对话进行微调，也不包含完整训练数据集。
- Berman 对 Musk 动机的解释属于个人判断，并非经过证实的事实。
全文
按章节阅读整理后的全文
01
Grok-1 的开放权重
Berman 讨论此次发布、许可证和模型架构。基础检查点与训练数据的公开范围并不相同。
Elon Musk 此前说 xAI 将发布 Grok，现在公司发布了 Grok-1。我把此事与 Musk 起诉 OpenAI 联系起来，认为这个时间点是在向竞争对手施压。这是我对动机的个人看法。
xAI 将 Grok-1 描述为拥有 3140 亿参数的混合专家模型，每个 token 会激活其中 25% 的权重。发布的权重和架构采用 Apache 2.0 许可证。这是原始预训练基础检查点，并未针对聊天微调；公开权重和代码也不意味着完整训练数据已经公开。
同频道的其他文章
34:21EN → 简体中文
Matthew Berman· 2026年10月27日Matthew Berman 解读 Anthropic 的上市文件、AI 增长与治理Matthew Berman, Sam Altman · Forward Future主持人审视 S-1 中的财务指标、算力战略和投票结构，并质疑 AI 快速发展与安全之间的张力。
0:26EN → 简体中文Matthew Berman· 2026年10月25日Sam Altman 谈 AI 世界中的人类价值与问题解决Sam Altman · OpenAI在一段简短的访谈摘录中，Altman 思考解决难题的乐趣，以及人在解读结果时的作用。
0:36EN → 简体中文Matthew Berman· 2026年10月25日Kimi K3.1 与魔方求解演示Matthew Berman · Forward FutureMatthew Berman 展示一个被打乱的虚拟魔方如何复原，并对 Kimi K3.1 的测试给予积极评价。
0:21EN → 简体中文Matthew Berman· 2026年10月24日AI 生成的 Kimi 基准图表使用了虚构分数Matthew Berman · Forward FutureMatthew Berman 要求生成一张 Kimi K3.1 Pro 基准图表，随后发现图中的数字只是示意性占位值。
25:50EN → 简体中文Matthew Berman· 2026年10月24日Kimi K3.1 Pro 实测：3D 演示出色，表现不一，价格有竞争力Matthew Berman · Forward FutureMatthew Berman 测试这款开放权重模型的编程、3D 渲染和视觉讲解能力，并比较基准成绩与价格。
32:20EN → 简体中文Matthew Berman· 2026年10月23日本地 AI 究竟适合谁？成本、取舍与混合模式的未来Matthew Berman · Forward FutureMatthew Berman 权衡数据控制和自主权，与硬件成本、设置复杂度及推理速度之间的关系。