待验证50% 置信基准精确时间
复现者实测HyperQwen在RTX 3090上的真实聊天场景吞吐量约为118 tok/s(贪婪解码四个prompt平均118.1 tok/s,范围111-131;温度0.7采样下123.3 tok/s),远低于381 tok/s。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/16
首次发现
有效期至:2026/10/30
来源
涉及实体
相关事实
待验证对比基线Q4_K_M GGUF版本在llama.cpp上同卡(RTX 3090)约42 tok/s,HyperQwen真实聊天快约三倍,引用场景快约六倍。74% 相似待验证在配备6核锐龙和64GB内存的RTX 5070上,Strata短对话约90 Token/秒,12.8万Token上下文约67 Token/秒,读取提示词约1300 Token/秒68% 相似待验证RTX 4090相比RTX 3060在推理场景下的实际吞吐量提升约3-4倍65% 相似待验证一张24GB显存的RTX 3090同时运行Whisper ASR、TTS语音模型和nomic-embed-text三个服务时,三个模型常驻占用17.8GB(72%),一周内峰值达到23.4GB,全程没有溢出到系统内存65% 相似已验证在RTX 5070(12GB显存)配置下,本地Qwen3 9B模型的输出速度达到约70-76 token/秒64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1043370API
curl https://kongchang.com/api/v1/knowledge/claims/1043370MCP
get_claim(id=1043370)