Gemma 4：面向本地 AI 的小型开放权重模型

Google 发布了新的开放权重模型系列 Gemma 4。我欢迎它继续投资人们可以在本地运行和适配的模型。Google 称这个系列为推理和智能体工作流而设计，我很期待尝试。

我认为更小、更快的模型可以补充托管的前沿系统：困难任务使用能力最强的远程模型，许多其他任务则使用本地算力。硬件需求取决于模型、精度、上下文和设备；单凭参数量不能保证某个配置能流畅运行模型。

展示的图表将模型总规模与 Arena Elo 进行比较。Gemma 4 31B 和 26B-A4B 在这一特定偏好指标上看起来接近更大的模型。26B 是有 40 亿活跃参数的混合专家模型；图上的得分相近，并不意味着这些模型在所有任务中都等同。

我把 31B 模型与大得多的 Qwen、GLM 和 Kimi 模型进行比较，其中一些需要大量内存。我预计较小模型更容易在本地使用，不过具体硬件和量化方式决定了它能否装入内存以及运行速度。

这个系列有四种规模：有效 2B、有效 4B、26B 混合专家模型和 31B 稠密模型。我查了“有效”的含义：较小模型使用逐层嵌入，其表格用于查找，因此活跃推理占用与存储的总参数量分开描述。

Google 表示，其 31B 模型当时在 Arena AI 文本排行榜的开放模型中排名第三，26B 模型排名第六。我觉得规模与得分的关系令人印象深刻。这是特定排行榜某一时点的快照，并非跨所有任务的通用排名。

Google 将多步骤推理、函数调用、结构化 JSON 和系统指令列为智能体工作流的功能。我想用 OpenClaw 测试 Gemma。Google 还将它作为离线编程助手介绍，但对于要求较高的编程工作，我个人更喜欢托管的前沿模型。

根据 Google 的介绍，所有模型都能处理图像和视频，而 E2B 和 E4B 还支持音频输入，用于语音识别和理解。边缘模型的上下文窗口为 128K，较大模型最高为 256K。我对边缘模型的限制感到满意，但原本希望较大版本能提供更多上下文。

Google 将 E2B 和 E4B 定位为移动和边缘硬件上的离线模型，并提到与 Pixel、Qualcomm 和 MediaTek 的合作。它提及手机、Raspberry Pi 和 NVIDIA Jetson Orin Nano 等设备。我推测此类模型最终可能出现在 Apple 设备上；这是我的预测，并非已经宣布的部署。

我列举了 Hugging Face、llama.cpp、MLX、Ollama 和 LM Studio 等下载与运行选项，并鼓励大家试验和微调。我还称这次发布允许商业使用，并提到 Apache 2.0；这是我在视频中的说法，用户应根据自己的用途核查实际模型条款。

我读出 31B 模型的几项报告指标，包括 Arena 文本得分 1452、MMLU 85.2、AIME 2026 为 89%、LiveCodeBench 为 80%、τ2-bench 为 86%、GPQA Diamond 为 84.3%。这些是报告中的基准结果，比较时需要考虑测试设置和范围。

我还展示了 Steve Vibe 发布的 ToolCall-15 测试。展示的结果为：31B 得 30/30，26B 得 27/30，E4B 得 22/30，E2B 得 20/30。31B 在这项特定测试中获得满分，并不能证明它在所有真实工作流中都能无误地使用工具。