近日 DeepSeek 发布由梁文锋署名的 DSpark 推测解码技术论文，凭借算法创新与系统工程的深度协同，实现单用户推理速度提升 85%、高并发场景有效吞吐翻 4 倍的性能突破。 该方案并非单点技术创新，而是将并行生成、串行修正、硬件感知调度、在线自适应校准融为一体，形成端到端的推理加速闭环，配套的 DeepSpec 训练库也已同步开源，成为大模型推理优化领域的新行业标杆。
一、推理加速底层逻辑：从批处理到推测解码的演进
理解 DSpark 先要厘清大模型推理的核心瓶颈。GPU 运行大模型时，性能限制往往不在浮点算力，而在显存带宽 —— 模型权重从显存搬运到计算单元的过程，占据了大部分时间。
因此批处理成为基础优化思路：一次权重搬运同时处理多个 token，最大化带宽利用率。
推测解码正是基于这一特性诞生的优化方案：打破自回归生成的串行限制，先用草稿模型 “猜出” 后续多个候选 token，再交由目标大模型批量验证。
只要猜测准确率足够高，就能用一次批量验证替代多步逐字生成，大幅提升整体速度。但传统方案始终存在取舍：独立小模型草稿器准确率不足；Eagle、MTP 等复用目标模型的方案仍需串行生成候选，速度有上限；纯并行的 DFlash 速度快，但越靠后的候选 token 准确率越低，存在明显的后缀衰减问题。如何同时兼顾生成速度与猜测准确率，是行业长期待解的痛点。
二、核心算法创新：并行 + 串行融合 破解速度与精度矛盾
DSpark 的核心突破，是将并行架构与串行修正深度结合，取两者之长补彼此之短，跳出了非此即彼的传统思路。其生成过程分为两步：
第一步采用 DFlash 并行骨干网络，一次前向传播就生成所有候选位置的基础概率分布，保障了整体生成速度；
第二步加入轻量级马尔可夫顺序头，从前往后逐个位置注入前缀依赖，修正概率分布，解决纯并行方案的后缀衰减问题。最关键的是，串行修正模块的计算成本极低。
马尔可夫头仅参考前一个 token 的结果调整当前位置概率，通过低秩分解控制计算量，即使词表规模达十几万，开销也几乎可以忽略。
实测数据显示，草稿长度从 4 扩展到 16，每轮额外延迟仅增加 0.2%-1.3%，但平均接受长度比 Eagle3 提升 26%-31%，两层结构的效果甚至超过五层纯并行方案，用极低成本换来了准确率的大幅提升。
三、工程化闭环：硬件感知调度 + 在线校准 实现自适应运行
DSpark 真正的竞争力，在于完整的工程化落地体系，而非单一算法创新，这也是其能实现端到端性能跃升的核心原因。
一方面是置信度驱动的可变长度调度。
系统为每个候选位置打分预估存活概率，同时预先测算 GPU 在不同批次下的硬件吞吐曲线，根据任务类型与实时负载动态匹配最优草稿长度：代码生成等语法规则强的任务，可预测性高就加长草稿；开放式闲聊不确定性高就缩短长度；GPU 空闲时充分利用算力多猜，高并发时精简候选避免浪费。整套调度全程在 GPU 内部完成，无需 CPU 介入，执行效率极高。
另一方面是在线置信度校准机制。
针对神经网络天生过度自信的问题，系统采用顺序温度缩放做后处理，将预期校准误差从 3%-8% 降至约 1%。且校准过程随运行动态调整，针对不同任务类型自动适配阈值，代码场景自动放宽标准，聊天场景自动收紧阈值，系统越跑越精准。
四、开源生态与行业价值：全栈方案落地 推动推理降本增效
性能层面，DSpark 所有加速效果均在 DeepSeek 已有的 MTP-1 优化基线上叠加实现，技术含金量十足。落地层面，DeepSeek 同步开源 DeepSpec 全栈训练库，包含 Eagle3、DFlash、DSpark 三种草稿模型的完整训练代码，兼容通义千问、Gemma 等主流模型，开发者可直接复用为自有模型定制加速方案。该技术更深远的意义在于，印证了大模型性能竞争已从单点算法创新，转向算法、系统、硬件的全链路协同优化。 DSpark 涉及的多数基础概念早有提出，但 DeepSeek 将其整合成可落地的完整系统，实现了端到端的显著收益。随着这类成熟方案的开源普及，全行业大模型的推理成本将进一步下降，大模型规模化落地的门槛也将持续降低。
AI 速览
