小米MiMo-V2.5系列模型已于2026年4月28日以MIT协议全量开源，包含1.02万亿参数的MiMo-V2.5-Pro与310B参数的MiMo-V2.5，均支持100万Token上下文。本文提供从硬件准备、权重下载到SGLang/vLLM部署的完整本地部署教程，实测参考显存需求24GB起步。
MiMo-V2.5是什么
MiMo-V2.5是小米AI团队推出的原生全模态大模型系列，定位"越级全模态Agent，百万上下文"。2026年4月23日开启公测，4月28日正式开源，采用MIT协议，支持商用推理部署、继续训练与微调，无需向小米申请额外授权。
该系列包含两款核心模型：
- MiMo-V2.5-Pro：旗舰级Agent模型，总参数1.02万亿、活跃参数420亿的混合专家（MoE）架构，专攻复杂Agent与Coding任务，在GDPVal-AA（Elo 1581分）、ClawEval（63.8分）、τ³-Bench（72.9分）等评测中位列开源模型前列，Token效率较同类模型提升约42%。
- MiMo-V2.5：310B参数的全模态基础模型，支持文本、图像、视频、音频统一输入，推理速度更快，适合时延敏感任务。
两款模型均支持100万Token上下文窗口，可一次性处理数百页文档或数小时视频内容。模型权重（含Base版本）已全量开放，可从小米的HuggingFace（XiaomiMiMo）与GitCode（gitcode.com/XiaomiMiMo）官方仓库获取。
MiMo-V2.5本地部署的硬件要求
MiMo-V2.5系列参数规模较大，本地部署前务必先确认硬件条件。不同部署方案对硬件的要求差异明显：
| | | | |
|---|
MiMo-V2.5-Pro FP4量化版（DFlash加速） | NVIDIA GPU，显存24GB以上（多卡更佳） | | | |
MiMo-V2.5-Base（SGLang/vLLM + FP8量化） | 多卡NVIDIA GPU（如4×A100/H100或8×4090级） | | | |
| | | | |
操作系统推荐Linux（Ubuntu 20.04及以上），Python 3.10以上，CUDA 12.0以上版本。需要说明的是，310B/1T级别的模型在BF16全精度下需要数百GB显存，个人单卡设备务必选择FP4/FP8量化版本或轻量方案。
MiMo-V2.5本地部署步骤详解
第一步：准备运行环境
以Ubuntu 22.04 + NVIDIA GPU为例，先完成基础环境安装：
- 安装NVIDIA驱动与CUDA 12.0+，执行
nvidia-smi确认GPU可用。
- 创建Python虚拟环境并激活：
python3 -m venv mimo-env && source mimo-env/bin/activate。
- 安装PyTorch：
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121。
- 安装推理框架：
pip install sglang[all] 或 pip install vllm。
第二步：下载模型权重
从官方仓库克隆代码与下载权重，国内用户推荐GitCode源（无需代理，速度快）：
- 克隆仓库：
git clone https://gitcode.com/XiaomiMiMo/MiMo-V2.5-Base（或对应的Pro/DFlash仓库）。
- 安装依赖：
pip install -r requirements.txt。
- 若使用HuggingFace源，可执行
git lfs install && git lfs clone https://huggingface.co/XiaomiMiMo/MiMo-V2.5-Base；网络受限时可配置HF镜像（如hf-mirror.com）。
第三步：使用SGLang部署（推荐）
SGLang是官方推荐的推理框架，部署命令如下：
启动成功后，服务默认监听9001端口，可通过OpenAI兼容接口调用。参数说明：--context-length可先设为262144（256K）验证流程，硬件充裕时再逐步提升；--quantization fp8用于降低显存占用。
第四步：使用vLLM部署
MiMo-V2.5开源当天即完成vLLM适配，vLLM部署命令为：
vLLM同样提供OpenAI兼容的/v1/chat/completions接口，便于对接现有应用。
第五步：使用DFlash推测解码加速（可选）
若部署MiMo-V2.5-Pro-FP4-DFlash版本，可利用块级扩散推测解码（DFlash）技术加速推理——草稿模型一次性预测整个Token块（默认8个Token），由主干模型批量验证，推理速度可提升数倍。部署时在SGLang启动参数中加入--speculative-algorithm DFLASH即可启用。
MiMo-V2.5部署常见问题与避坑指南
- 显存不足（OOM）：优先改用FP4/FP8量化版本，或调低
--context-length、减小批处理大小；切勿以BF16全精度加载完整模型。
- 网络下载慢：国内用户优先使用GitCode仓库；HuggingFace下载可配置镜像源，但部分仓库镜像同步不完整，建议以官方仓库为准。
- CUDA版本不匹配：安装依赖前先确认
nvidia-smi与nvcc --version的CUDA版本一致性，PyTorch与推理框架需匹配对应CUDA版本。
- trust-remote-code缺失报错：MiMo系列含自定义模型组件，启动时必须加
--trust-remote-code参数，否则会报加载失败。
- 多卡部署未生效：多卡环境需按推理框架要求配置并行策略（如tensor-parallel-size），否则默认单卡加载会失败。
部署完成后如何调用MiMo-V2.5
SGLang与vLLM启动后均提供OpenAI兼容API，可直接用curl测试：
也可在Cursor、VS Code插件、OpenClaw等支持自定义模型的客户端中，将Base URL指向http://localhost:9001/v1，模型名填部署时设置的--served-model-name，即可将本地部署的MiMo-V2.5接入日常工具链。不想本地部署的用户，可使用小米官方API平台（api.xiaomimimo.com，OpenAI兼容协议）快速体验。
本地部署注意事项
- 版权合规：MiMo-V2.5采用MIT协议，可自由商用、修改与分发，但需保留原始版权声明，遵守开源协议条款。
- 硬件投入评估：Pro版完整部署需多卡服务器，建议先用量化版或云端GPU（如AutoDL等平台按时租用）验证效果，再决定硬件投入。
- 长上下文显存开销：100万Token上下文会带来巨大的KV缓存占用，实际部署中建议按任务需求设置合理的context-length，避免无谓的显存消耗。
- 版本一致性：推理框架版本需与模型适配，部署前查阅官方README确认vLLM/SGLang的最低版本要求。
- 数据安全：本地部署的模型推理数据不出本机，适合处理敏感数据；若需分布式推理，注意数据传输链路加密。
以上内容基于小米官方公开信息及社区实测整理，模型版本、权重仓库与框架适配情况可能随版本迭代而更新，具体请以小米MiMo官方仓库（HuggingFace: XiaomiMiMo / GitCode: XiaomiMiMo）最新说明为准。部署操作请在专业人员指导下进行。
AI 速览
