待验证50% 置信基准精确时间
在32K prompt输入下,Q2量化的读取速度可从572 token/s提升到1290 token/s,Q3可从383提升到1208 token/s
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/5
首次发现
有效期至:2027/1/3
来源
涉及实体
相关事实
待验证Strata速度表中128k上下文下Q2_0(2比特)为65.1 token/s,IQ2_XS为52,4k短上下文下IQ3_XXS为65.671% 相似待验证Qwen 3.8在M5 Max上基础速度为22 token/s,开启MTP后可提升到34甚至56 token/s71% 相似待验证在2944 token输入、1024 token输出条件下,普通模式达到每秒29.9 token,开启MTP2后提升到48.4 token/s67% 相似待验证Qwen2.5-Max-0902最大输出为13万Token,推理模式下上限可达26万Token67% 相似待验证在TP4张量并行配置下,QWEN 3.8峰值可达100–115 Token/秒65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/978786API
curl https://kongchang.com/api/v1/knowledge/claims/978786MCP
get_claim(id=978786)