阿里发布 Qwen3.8-Flash：训练成本约为 Qwen3.7-Plus 的 1/9，并提前开源 Qwen4 架构雏形

开源模型推理优化训练引擎长上下文开源工具部署开源项目本地化运行模型架构优化MoE架构GitHub开源

2026-08-27 10:42

57 浏览

0 点赞

AI 速览

阿里通义千问发布多模态 MoE 模型 Qwen3.8-Flash 及其开源版 Flash-Next，主打低成本高效率，适合关注大模型架构演进与开源验证的开发者。核心事实 - 模型主体：Qwen3.8-Flash 为 125B 参数主模型 + 51B N-gram Embedding，每 token 激活 6B - 架构创新：采用 Gated DeltaNet 与 Qwen Sparse Attention 混合注意力、Gated Residual、可卸载词表、Muon Optimizer - 成本宣称：训练开销约为 Qwen3.7-Plus 的 1/9，API 定价输入 1 元/百万 token、输出 3 元/百万 token - 开源同步：Qwen3.8-Flash-Next 作为 Qwen4 架构雏形，已开源至 Hugging Face 与 ModelScope - 上下文能力：原生支持 262K token，生产版默认 1M token 上下文，最大思维链 262K 避坑提示 - 性能与成本数据均来自官方口径，尚未有独立评测验证 - 架构选择反映通义千问自身路径，不代表行业共识价值点开发者可通过开源版提前验证 Qwen4 架构方向，企业用户可评估其在办公与编码场景的性价比潜力。

8月27日消息，阿里通义千问发布新款多模态 MoE 模型 Qwen3.8-Flash。通义千问称，其训练开销约为上一代 Qwen3.7-Plus 的 1/9，并在编码与办公任务上表现更强；同步开源的 Qwen3.8-Flash-Next，则是下一代 Qwen4 的架构雏形。

这次发布分两层。面向 API 服务的生产版 Qwen3.8-Flash 已在千问AI平台上线，默认提供 1M token 上下文并内置官方工具，官方公布的 API 价格为每百万 Token 输入 1 元、输出 3 元；面向社区的开源版 Qwen3.8-Flash-Next 承载同一套新架构，权重发布于 Hugging Face 与 ModelScope。

阿里发布 Qwen3.8-Flash：训练成本约为 Qwen3.7-Plus 的 1/9，并提前开源 Qwen4 架构雏形

架构改动：稀疏注意力、门控残差与查表词表

Qwen3.8-Flash 的主模型为 125B 参数，额外加入 51B 的 N-gram Embedding，每 token 激活 6B 参数。模型原生支持 262,144 token 上下文，可通过 YaRN 扩展至 1M token；生产版默认上下文 1M，最大思维链 262K。

架构改动沿注意力、残差、词表与优化器四个方向展开。注意力上，Qwen3.8-Flash 采用 Gated DeltaNet（GDN）与 Qwen Sparse Attention（QSA）的混合结构。每四层网络中，三层用 GDN 压缩历史信息，保留一层全局注意力做精确检索。QSA 则把序列聚合成 micro-block，在 block 粒度估计上下文重要性，再选取相关区域做注意力计算，以降低长序列的注意力与索引开销。残差方面，引入 Gated Residual，把残差流扩展为 4 条并行分支，用逐元素动态门控控制读写，残差状态可用 FP8 存储。

词表方面，除按单 token 查表外，Qwen3.8-Flash 额外以当前 token 与前面几个 token 组成的局部上下文查表，即 N-gram Embedding，表可卸载到 Host Memory，通过异步 Prefetch 与模型计算重叠。训练优化使用 Muon Optimizer，并围绕正交化精度、Muon 与 AdamW 的参数分工、融合参数拆分做调整。官方称，针对新架构重新拟合 Scaling Law，可直接从目标 Batch Size 开始训练，不再需要 Batch Size Warmup。

成本与能力：官方称训练开销约为 1/9

通义千问称，相比 Qwen3.7-Plus，Qwen3.8-Flash 降低训练与推理成本，训练开销仅约为前者的 1/9，但在编码和办公任务上能力更强。在 Base 模型对比中，通义千问称 Qwen3.8-Flash-Next-Base 在 6B 激活参数下，于 14 个 benchmark 中的 8 个取得最优结果，包括 MMLU-Pro、SuperGPQA、BBH、SWEBench-Pretrain、MGSM 与 MMMLU，在 MMLU、MMLU-Redux、GPQA、MATH 与 MultiPL-E 上与 Qwen3.7-Plus-Base 接近。

上述成本、能力与 benchmark 结论均由通义千问自行给出，有待独立评测验证。生产版已上线千问AI平台，内置代码解释器等工具，兼容 OpenAI 与 Anthropic 协议。官方在发布中称，Qwen3.8-Flash 将首发上线「千问办公」，即通义千问的一站式 AI 生产力平台。

Flash-Next：把 Qwen4 架构提前交给社区

Qwen3.8-Flash-Next 的定位，是 Qwen4 架构的提前预览。通义千问在官方博客中表示，这与 Qwen3-Next 之于 Qwen3.5 的角色一致：Qwen3-Next 引入的 Gated DeltaNet 与 Gated Attention 混合设计，后来贯穿 Qwen3.5、Qwen3.6、Qwen3.7 与 Qwen3.8 系列。这次通义千问同样提前拿出结构改动，让社区在构建完整 Qwen4 家族之前先检验；技术报告与博客同步公开。

这次发布的两层，指向的是同一个方向：用更低的激活与访存成本，换更大的容量与更长的上下文。125B 主模型加 51B 查表记忆，每 token 只激活 6B，配合稀疏注意力与可卸载到 Host Memory 的词表，都落在这一目标上。通义千问把「成本」作为这一代的主打卖点，同时把架构路线提前开放，延续的是 Qwen3-Next 到 Qwen3.5 那一次「先放架构、再收反馈」的路径。

它是不是真省钱、真更强，目前还是通义千问自己的口径，最终要看独立实测。开源版则让开发者能在正式部署前自己验证这套架构。这套架构目前也只能说明通义千问自己的选择，不足以判断整个行业是否转向稀疏注意力或某一类优化器。

Qwen3.8-Flash-Next 开源仓库：https://github.com/QwenLM/Qwen3.8-Flash-Next

技术博客：https://qwen.ai/blog?id=qwen3.8-flash-next

Hugging Face 模型页：https://huggingface.co/Qwen/Qwen3.8-Flash-Next

好文章，需要你的鼓励

# 报错信息分析与调试指南 ## 任务说明请分析用户提供的报错信息，推测可能的错误原因，并提供系统性的调试步骤。 ## 分析要求 1. **错误类型识别** - 确定是语法错误、运行时错误、逻辑错误还是环境配置错误 - 识别具体的错误类别（如空指针、数组越界、类型不匹配等） 2. **原因推测** - 基于错误信息中的关键线索进行合理推断 - 考虑常见的导致此类错误的编程场景 - 分析可能的代码问题或环境问题 3. **调试步骤** - 提供从简单到复杂的逐步调试方法 - 包括代码检查、日志添加、环境验证等具体操作 - 给出预防类似错误的最佳实践建议 ## 输出格式 - **错误类型**：[具体的错误分类] - **可能原因**： 1. [原因1] 2. [原因2] 3. [原因3] - **调试步骤**： 1. [步骤1] 2. [步骤2] 3. [步骤3] 4. [步骤4] - **解决方案**：[具体的修复建议] ## 示例 **输入**：【报错信息】 ``` TypeError: Cannot read property 'length' of undefined at processData (app.js:25:18) at main (app.js:10:5) ``` **输出**： - **错误类型**：运行时错误 - TypeError - **可能原因**： 1. 变量未正确初始化就被访问其 length 属性 2. 函数参数传递了 undefined 值 3. 异步操作中数据还未加载完成就尝试访问 - **调试步骤**： 1. 检查 app.js 第25行附近的变量声明和赋值 2. 在访问 length 属性前添加类型检查：`if (variable && variable.length)` 3. 使用 console.log() 输出相关变量的值确认其状态 4. 检查函数调用时传入的参数是否正确 - **解决方案**：在访问对象属性前先验证对象是否存在，或确保变量在使用前已被正确初始化。