模型
QwenDLM-4B
由Qwen3-4B转换而来的扩散语言模型,用于测试扩散LLM加速技术
时间轴 (近 90 天)
10月17日
据作者在Reddit帖子中报告,ORL将QwenDLM-4B每次前向的token数提升最多6.2倍,端到端吞吐提升约6.9倍,HumanEval pass@1从82.9%升到89.6%。
待验证50%
10月17日
在单张H100、相近实测准确率下,QwenDLM-4B + ORL达到1,298 tokens/s,DFlash为746 tokens/s,EAGLE3为405 tokens/s(端到端系统比较:ORL走dlmrt,投机解码走vLLM)。
待验证50%