Qwen3-Coder：开放权重的编程模型及其命令行智能体

摘要

30 秒看懂

Matthew Berman 评测 Qwen3-Coder-480B-A35B-Instruct 和 Qwen Code，介绍模型架构、长上下文、训练过程及所公布的智能体编程基准成绩。他展示了几个编程演示，又制作了一款贪吃蛇游戏；游戏可以运行，但有些卡顿。

1特定设置下的基准比较Qwen 的图表显示，在 OpenHands、500 轮交互的设置下，Qwen3-Coder 的 SWE-bench Verified 得分为 69.6%，Claude Sonnet 4 为 70.4%。这一结果仅适用于所述评测设置。
2混合专家架构与长上下文这个 480B 模型激活 35B 参数，原生支持 256K token；据介绍，使用 YaRN 可扩展至 100 万 token。
3以代码为主的训练Qwen 称预训练使用了 7.5 万亿 token，其中代码占 70%，并使用 Qwen2.5-Coder 清洗有噪声的数据。
4长周期强化学习Qwen 称其基础设施能够并行运行 2 万个独立环境，用于训练和评估使用工具的智能体。
5贪吃蛇游戏快速测试Berman 称游戏生成耗时约一分钟，代码共 792 行。游戏可以运行，但他发现有些卡顿。

要点建议

Qwen3-Coder 发布的模型共有 4800 亿参数，其中激活 350 亿参数，原生上下文窗口为 256K。
Qwen 报告称，在使用 OpenHands、允许 500 轮交互的设置下，Qwen3-Coder 的 SWE-bench Verified 得分为 69.6%，接近同一设置下 Claude Sonnet 4 的 70.4%。
Qwen 介绍了以代码为重点的预训练，以及最多支持 2 万个并行环境的强化学习。
Qwen Code 是从 Gemini CLI 改造而来的命令行编程智能体。
Berman 的单次贪吃蛇游戏演示可以运行，但略有卡顿；这只是一个实例，并非全面评测。

主题编程智能体 Open-weight models 模型与训练 Benchmarks Reinforcement Learning

全文

按章节阅读整理后的全文

对照原始文稿

只看原始文稿

基准测试与模型架构

Berman 比较 Qwen 公布的 SWE-bench 结果与 Claude Sonnet 4 的成绩，并介绍混合专家架构、长上下文和 Qwen Code。

Qwen 发布了开放权重的编程模型 Qwen3-Coder。我认为，它可以与 Anthropic 的 Claude 系列放在一起讨论。Qwen 团队的 SWE-bench Verified 图表显示，在使用 OpenHands、允许 500 轮交互时，Qwen3-Coder 得分为 69.6%，Claude Sonnet 4 为 70.4%。两者在这项测试和设置下成绩接近，但这并不能证明它们在所有编程任务中都可以互换。

幻灯片 1 / 4Qwen 的 SWE-bench Verified 比较图表展示 Qwen 公布的模型成绩，包括使用 OpenHands、500 轮交互的比较。

Qwen 还发布了命令行编程工具 Qwen Code。它从 Gemini CLI 改造而来，加入了定制提示词和函数调用支持。2025 年 7 月发布的首个、也是最大的模型是 Qwen3-Coder-480B-A35B-Instruct：这是一个混合专家模型，共有 4800 亿参数，其中激活 350 亿参数。其模型卡列出的是 Apache 2.0 许可证。

该模型原生支持 25.6 万 token 的上下文窗口，Qwen 称使用 YaRN 可以将其扩展至 100 万 token。长上下文对编程有用，因为智能体可能需要同时处理整个代码仓库、工具输出和不断变化的信息。Qwen 将这个模型定位于编程、工具调用及其他智能体任务。

预训练与智能体强化学习

Qwen 团队介绍了以代码为主的预训练、数据清洗及执行驱动的强化学习。其长周期训练基础设施支持并行环境。

幻灯片 2 / 4预训练和代码强化学习Qwen 列出了训练 token 构成、上下文扩展方法和合成数据清洗方式。

团队的出发点是预训练仍有扩展空间。Qwen 称训练使用了 7.5 万亿 token，其中代码占 70%；它还表示，模型保留了通用能力和数学能力。团队也利用上一代 Qwen2.5-Coder 清洗和改写有噪声的数据，让前一代模型帮助准备下一代模型的训练材料。

在后训练阶段，Qwen 将代码强化学习扩展到更广泛的真实任务，而不只关注竞赛编程。团队生成多样化的测试用例来构建训练样本，并报告代码执行和其他任务上的提升。这种方法的吸引力在于：一道编程题可能很难解决，但通过运行代码验证候选方案相对容易。

长周期智能体强化学习加入了多轮交互：规划、使用工具、接收反馈并决定下一步行动。Qwen 称，它基于 Alibaba Cloud 建立的基础设施能够并行运行 2 万个独立环境，用于训练和评估。公司称其 SWE-bench 成绩没有使用测试时扩展；这一表述本身并不能证明模型不会推理，我对未来改进的设想也仍然只是猜测。