待验证50% 置信基准精确时间
对比基线Q4_K_M GGUF版本在llama.cpp上同卡(RTX 3090)约42 tok/s,HyperQwen真实聊天快约三倍,引用场景快约六倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/16
首次发现
有效期至:2026/10/30
来源
涉及实体
相关事实
待验证复现者实测HyperQwen在RTX 3090上的真实聊天场景吞吐量约为118 tok/s(贪婪解码四个prompt平均118.1 tok/s,范围111-131;温度0.7采样下123.3 tok/s),远低于381 tok/s。74% 相似待验证约8亿参数的Qwen3.5生成速度最快,接近每秒15个令牌,第二名LFM2.5超过每秒10个令牌65% 相似待验证Qwen 27B的Q4_K_M/GGUF版本在同一台机器上解码速度约为10.7 tok/s,约为MLX版本的1/3.864% 相似待验证B站UP主使用llama.cpp通过4张RTX 3090加载了GLM 5.3 Flash的1-bit量化版本,生成速度达33.5 tok/s。63% 相似待验证在16并发会话运行Qwen3 27B(MXFP4)时,聚合prefill达6,300–6,800 tok/s,聚合decode峰值可达约900 tok/s63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1043375API
curl https://kongchang.com/api/v1/knowledge/claims/1043375MCP
get_claim(id=1043375)