6月4日消息，Google DeepMind发布Gemma 4 12B，这是Gemma 4系列的最新成员，也是首个支持原生音频输入的中等尺寸Gemma模型。采用Apache 2.0开源协议发布，模型可在16GB显存或统一内存的消费级笔记本上本地运行。
Gemma 4系列于2026年4月2日首发，此前已有E2B、E4B、26B MoE和31B Dense四个版本。12B版本填补了E4B（边缘设备优化）和26B MoE之间的空白，在保持较小内存占用的同时接近26B模型的推理性能。
架构：无编码器的统一多模态
Gemma 4 12B最核心的技术特点是去掉了传统多模态模型中的独立视觉和音频编码器。图像和音频输入直接进入LLM的decoder backbone，与文本token使用相同的处理通道。架构与Gemma 4 31B Dense完全一致，只是参数规模缩小。
这种encoder-free设计的实际意义是：减少了内存占用和推理延迟，同时降低了开发者的集成复杂度。传统方案需要分别调优视觉编码器和语言模型的交互，encoder-free架构把这个问题消除了。
模型支持文本、图像、音频和视频四种输入模态，输出为文本。上下文窗口支持最高256K token，多语言覆盖超过140种语言。同时配备Multi-Token Prediction（MTP）drafter，用于降低推理延迟。
性能：接近26B但体积减半
Google表示Gemma 4 12B在标准基准上的表现接近26B MoE模型，但总内存占用不到后者的一半。从此前Gemma 4系列的公开评测数据来看，31B Dense版本在AIME 2026数学竞赛中达到89.2%、LiveCodeBench编程测试80%、GPQA研究生级推理84.3%，在开源模型中属于第一梯队。12B版本的具体基准数据Google尚未完整公布，但定位为"接近26B"意味着降幅在合理范围内。
在Google自己的AI Edge Eloquent语音听写应用中，从此前模型切换到Gemma 4 12B后，整体质量提升超过60%，指令遵循和范围控制均有改善。这个数据虽然来自Google内部产品，但至少说明12B模型在实际Agent任务中表现稳定。
Gemma 4系列发布以来累计下载量已超过1.5亿次，Hugging Face上有超过7万个社区变体。12B版本发布后，r/LocalLLaMA社区迅速开始讨论量化构建、Ollama支持和与Qwen系列的对比。
竞品对比：12B级别的三方格局
12B参数级别的竞争目前集中在三个模型家族。
Qwen 3.5-9B（阿里）在此前的对比中凭借更少的参数在多数指标上击败了Gemma 3 12B，推理速度更快、显存占用更低。但Gemma 4相比Gemma 3是跨代升级——AIME数学从20.8%跳到89.2%、BigBench Extra Hard从19%到74%——差距不再成立，需要重新对比。
Llama 4 Scout（Meta）走MoE路线，109B总参数但每token只激活17B，杀手锏是1000万token的超长上下文窗口。但在推理基准上一般落后于Qwen和Gemma同级别模型。
Gemma 4 12B的独特优势是多模态。Qwen 3.5-9B和Llama 4 Scout在12B级别都没有原生音频输入支持，Gemma 4 12B是这个尺寸上唯一同时处理文本、图像、音频和视频的模型。对于需要在端侧部署多模态Agent的场景，这是关键差异。
此外，Apache 2.0协议在开源许可中最为宽松——没有月活用户限制、没有可接受使用条款、不需要归因声明。相比Llama 4在超过7亿月活时触发的额外授权要求，Gemma 4对商业部署更友好。
局限与注意事项
12B参数在"能跑"和"跑得好"之间存在gap。16GB显存可以加载模型，但实际推理中如果同时处理长上下文、多模态输入和Agent工具调用，性能衰减幅度还有待社区验证。
Gemma 4 31B Dense版本在实际软件工程任务（SWE-bench 52.0%）上表现明显弱于竞品编程任务的成绩，说明竞赛基准和实际开发场景之间存在差距。12B版本在这类任务上的表现预计会进一步打折。
另外，Gemma 4系列此前公布的基准主要针对31B和26B MoE版本，12B的详细benchmark表格Google尚未完整发布。"接近26B"是一个模糊表述，具体在哪些维度接近、哪些维度有明显下降，需要等第三方独立测试。
Google同期还发布了Gemma Skills开源仓库（github.com/google-gemma/gemma-skills），提供预构建的Agent能力模板。配合AI Edge Gallery的macOS扩展和AI Edge Eloquent听写应用，Google正在围绕Gemma 4构建一个完整的本地AI生态。这个生态的成熟度将决定12B模型的实际落地效果。
AI 速览
