模型Qwen3-4B-Inst-2507-MTP
Qwen3-4B-Inst-2507-MTP
阿里巴巴通义千问系列中支持多Token预测的40亿参数指令微调模型版本。
时间轴 (近 90 天)
10月21日
在Llama-3.1-8B-Instruct搭配Medusa头、Meta的MTP模型以及Qwen3-4B-Inst-2507-MTP构建的五组草拟-目标配对中，AMTP相比标准解码最高加速4.1倍。
待验证50%
阿里巴巴通义千问系列中支持多Token预测的40亿参数指令微调模型版本。
在Llama-3.1-8B-Instruct搭配Medusa头、Meta的MTP模型以及Qwen3-4B-Inst-2507-MTP构建的五组草拟-目标配对中，AMTP相比标准解码最高加速4.1倍。