产品
DeepSpark
DeepSeek 研发的推测解码系统，可一次性猜测后续多个 token 并并行验算，以提升大模型生成吞吐。
时间轴 (近 90 天)
10月25日
DeepInfer 整合了 DeepSpark 投机解码与一致性调度验证、SWA 有界重放、异步零开销调度以及结构化输出等机制。
待验证50%
DeepSeek 研发的推测解码系统，可一次性猜测后续多个 token 并并行验算，以提升大模型生成吞吐。
DeepInfer 整合了 DeepSpark 投机解码与一致性调度验证、SWA 有界重放、异步零开销调度以及结构化输出等机制。