DeepSeek又变强了：发布DSpark框架 推理速度提升超60%
DeepSeek与北京大学联合发布DSpark框架，针对推测解码方向提出半自回归生成与置信度调度验证两项机制。在保持生成文本无损前提下，单用户推理速度较主流方案提升60%至85%，已部署于DeepSeek-V4系列线上服务，并开源模型检查点与训练框架DeepSpec。
6月27日，DeepSeek团队联合北京大学发布了一篇名为《DSpark》的研究论文。这项研究聚焦于推测解码（speculative decoding）方向，目标很明确——加速大模型推理。从实测数据来看，效果相当突出：在保持生成文本分布完全无损（Lossless）的前提下，单用户生成速度较现有主流方案最高提升85%。
目前，这个框架已经被部署在DeepSeek-V4-Flash和DeepSeek-V4-Pro的真实线上流量中，直接服务于大语言模型（LLM）的推理加速。另外值得注意的是，DeepSeek的创始人梁文锋也出现在了论文作者名单里。
大模型推理的“速度焦虑”
想要理解DSpark的价值，得先明白大模型推理为什么慢。主流语言模型生成文本时，采用的基本是autoregressive（自回归）方式——每生成一个新token，都需要一次完整的前向传播。推理延迟会随着输出长度线性增长。这也是为什么大模型回复总让人感觉“卡顿”或“慢半拍”。
在实时对话、多轮智能体工作流这类高交互场景下，生成速度直接影响用户体验，同样也决定着GPU利用率。那有没有办法破局？当然有，推测解码（Speculative Decoding）就是一条不错的路径。
大致的思路是：用一个轻量级的草稿模型快速生成若干候选token，然后再由大模型做批量验证。但现有方案各有各的短板。自回归草稿模型是逐token串行生成，质量虽然高，但生成延迟同样随候选长度线性增长；而并行草稿模型虽然能一次产出全部候选，但因为token之间缺少依赖关系，后续候选很容易被大量拒绝，白白浪费计算资源。
DSpark的两把“手术刀”
针对这两个核心瓶颈，DSpark提出了两项互补机制。
第一个是“半自回归生成”架构（Semi-Autoregressive Generation）。
具体来说，DSpark在并行生成主干的基础上，引入了一个轻量级的顺序模块，用来逐token注入前缀依赖信息。可以这么理解：前面用并行方式快速铺开候选，后面再用一个很轻的顺序模块检查相邻token之间的衔接关系。
这个模块提供了两种实现方式——一种是仅依赖前一个token的马尔可夫头，另一种是通过循环状态累积完整前缀信息的RNN头。实验结果表明，只需要两层Transformer深度的DSpark，就能在所有测试领域上超过五层DFlash的接受长度。
第二个是置信度调度验证机制。传统方案的做法是对整段候选无差别校验，结果在高负载时大量算力都被浪费在了那些极有可能被拒绝的尾部token上。
而置信度调度验证机制则可以根据不同请求的成功概率与系统负载，自适应地调整验证长度，从而减少无效计算开销。在离线测试中，这个方法显著提升了可接受生成长度；而在DeepSeek-V4线上系统中，相比基线模型，推理速度提升了约60%–85%，并且有效降低了高并发下的吞吐损耗。
具体到实现，DSpark会在每个候选位置输出一个置信度分数，用来预测该token的存活概率。一个硬件感知的前缀调度器会根据实时引擎吞吐量，为每个请求动态决定最优验证长度，优先把算力分配给预期回报最高的token。
另外，这篇论文还同时开源了模型检查点与训练框架DeepSpec，以便推动社区进一步研究。DeepSpec是一个面向speculative decoding训练的代码库，里面包含了Eagle3、DFlash和DSpark的实现。
正软商城本月促销专区，汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动，提供限时折扣、特价授权和优惠购买信息，活动库存及价格以页面实时展示为准。
正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。
正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。
正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。
正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。
正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。
正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法，同时介绍常用PDF软件和工具的使用技巧。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
