DeepSeek与北京大学联合发布了一款大模型推理加速框架DSpark，该框架已成功应用于系列生产系统。在保证总吞吐不变的前提下，DeepSeek-V4-Flash模型的单用户生成速度提升了60%至85%，DeepSeek-V4-Pro模型的速度提升幅度则为57%到78%。DSpark采用半自回归架构与置信度调度验证机制，既能确保草稿生成的速度，又能兼顾文本的连贯性，还可依据系统负载动态调整验证长度。
DeepSeek与北京大学联合发布了一款大模型推理加速框架DSpark，该框架已成功应用于系列生产系统。在保证总吞吐不变的前提下，DeepSeek-V4-Flash模型的单用户生成速度提升了60%至85%，DeepSeek-V4-Pro模型的速度提升幅度则为57%到78%。DSpark采用半自回归架构与置信度调度验证机制，既能确保草稿生成的速度，又能兼顾文本的连贯性，还可依据系统负载动态调整验证长度。