待验证70% 置信事实精确时间

Qwen和Gemma等较小模型（270亿至300亿参数）使用MTP后速度提升可达2倍

1

来源数

70%

置信度

中期 (~90 天)

时效性

2026/5/29

首次发现

有效期至：2026/8/27

来源

DeepSeek V4 Flash MTP推测解码实测：本地推理提速20%指南

bilibili环球AI圈2026/5/29

涉及实体

Qwenmodel Gemmamodel MTPconcept

相关事实

待验证MTP-LX是目前Mac上运行Qwen3.6-27B的最优选择，速度是其他方案的近两倍74% 相似待验证Qwen 3.6 MTP实测可通过三行参数配置实现约20%的推理提速72% 相似已验证Qwen 3.6 是一个270亿参数的稠密模型71% 相似待验证MTP技术可以将推理速度提升约2倍71% 相似待验证Qwen3.6 MTP-GGUF版本在单GPU上将35B-A3B模型的推理速度推到220 token/s，比原版GGUF快超过1.4倍，且精度零损失71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1253

API

curl https://kongchang.com/api/v1/knowledge/claims/1253

MCP

get_claim(id=1253)