待验证50% 置信基准精确时间
在Llama-3.1-8B-Instruct搭配Medusa头、Meta的MTP模型以及Qwen3-4B-Inst-2507-MTP构建的五组草拟-目标配对中,AMTP相比标准解码最高加速4.1倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/21
首次发现
有效期至:2026/11/4
来源
涉及实体
相关事实
待验证混元3配备约38亿参数的MTP模块,用于推理加速68% 相似待验证通过 MTP(多令牌预测)技术,Qwen3.8-Flash-Next 和 GLM-5.3-Flash 的推理速度提升最高达 2 倍67% 相似待验证AdaptiveSpec支持DeepSeek-R1-Distill-Llama-8B、Llama-3.1-8B-Instruct和Qwen3-8B三个主流目标模型66% 相似待验证LMSYS博客提到的RadixArk/Qwen3.8-Flash-Next-NVFP4是一个SGLang checkpoint,使用训练后量化,只量化路由专家,用128篇截断到512 tokens的CNN/DailyMail文章做校准,在GB300和B300上验证,报告B200 TP4加MTP时batch size 1达到540 tok/s。66% 相似待验证新版本将D-Flash2、MTP与N-gram投机解码混合,三者组合产生了翻倍级别的解码加速效果66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1078993API
curl https://kongchang.com/api/v1/knowledge/claims/1078993MCP
get_claim(id=1078993)