谷歌最近发布并开源了Gemma 4 12B版多模态模型，目标就是让普通消费级设备也能在本地跑AI。谷歌测试下来，这块模型可以在16GB内存或显存的笔记本和台式机上直接运行，全靠12B的小参数规模，但智能水平却跟Gemma 26B版模型有得一拼。



模型优势包括：
全新统一架构：不需要多模态编码器，直接支持文本、图片、视频和音频输入。
高级推理能力：基准性能接近Gemma 26B版的混合专家架构模型，能在本地做多步骤推理。
内存门槛低：只要16GB内存或显存就能本地跑，当然内存越大性能越香。
开源发布：采用Apache 2.0许可证开源，谷歌和社区都提供了完善的开发者生态支持。
预测选型器：Gemma 4 12B版配了好几种Token预测选型器，能有效降低延迟。

更多模型介绍：
Gemma 4 12B在标准基准测试里的智能水平，接近谷歌之前开源的26B MoE混合架构模型，但12B版的内存要求低得多，直接能在16GB内存或显存的消费级笔记本和台式机上跑，让用户可以在本地体验超强的多模态和智能体交互。

这块模型还有个突出优势是简化了图片、视频、音频输入的处理方式。传统多模态模型通常依赖独立的编码器来转换图像和音频，再把转换后的表示传给语言模型，但分离式编码器会拖慢延迟、吃掉内存。所以谷歌用了无编码器架构来训练Gemma 4 12B，让模型可以直接整合音频和视觉输入。

视觉方面：用轻量级的嵌入模块替换了Gemma 4的视觉编码器，这个模块只有一次矩阵乘法、位置嵌入和归一化操作，让模型主干网络可以直接接管视觉处理。
音频方面：谷歌直接把音频编码器整个拿掉，把原始音频信号投射到跟文本标记同一个维度空间里。

体验和下载模型：
目前Gemma 4 12B版已经在多个平台上架，感兴趣的开发者可以在Ollama等地方直接体验，也可以去HuggingFace或Kaggle下载模型权重文件。开发者还能用Unsloth做高效微调，定制自己需要的版本。