DeepSeek发布DSpark推理加速框架，显著提升大模型生成速度与效率

当业界普遍聚焦于模型智能水平的发布比拼时，DeepSeek持续关注更具实际价值的推理提升挑战：如何显著提升大语言模型的推理速度。

2026年6月28日，加速DeepSeek在开源平台正式发布其全新推理加速框架DSpark，框架并同步公开相关论文。显著型生该框架旨在突破高并发场景下大语言模型推理效率的大模度效关键瓶颈。

本研究由DeepSeek与北京大学联合完成，成速DeepSeek创始人梁文锋参与其中并列名作者。发布项目开源了DSpark的推理提升全部模型权重，并配套发布面向推测解码的加速算法训练代码库DeepSpec。

论文首先指出当前大语言模型的框架核心制约因素：其自回归生成机制要求每生成一个新词元，都必须基于全部已生成词元执行一次完整前向计算。显著型生随着输出长度增加，大模度效延迟呈非线性上升，成速导致GPU资源利用率偏低，发布用户响应时间延长。这一问题在实时对话助手、多轮智能体协作等对延迟高度敏感的服务场景中尤为突出。

目前主流优化路径主要有两类：一类依托自回归结构的草稿模型，另一类采用并行架构的草稿模型。二者虽各有尝试，但在生成质量与系统效率之间难以兼顾，且普遍缺乏对运行负载动态变化的适应能力。

针对上述局限，DeepSeek提出DSpark推测解码框架，采用半自回归生成架构——既保留并行主干带来的高吞吐特性，又引入轻量级串行模块，逐词元注入前缀依赖信息。该模块提供两种实现方式：一种是仅依赖前一词元的马尔可夫头，另一种是通过循环状态持续累积完整前缀信息的RNN头。

实验验证显示，在同等模型深度条件下，仅两层Transformer结构的DSpark，在全部测试任务中均超越五层结构的DFlash模型所达到的接受长度。

目前，DSpark已集成至DeepSeek-V4在线服务系统，并基于真实用户请求流量完成性能实测。结果表明，在保持相同吞吐量的前提下，相较现有生产环境基线系统MTP-1，用户端文本生成速度提升幅度达60%至85%。

此外，DSpark已在多个第三方模型上完成适配验证。以Qwen3系列模型为例，在4亿参数、8亿参数与14亿参数三种规格下，相比自回归草稿方案，单轮平均可接受词元长度分别提升30.9%、26.7%与30%；相比并行草稿方案，则分别提升16.3%、18.4%与18.3%。

(责任编辑：综合)