待验证50% 置信基准精确时间
根据用户反馈，使用 Quantprobe 的深度感知优化配方，相比默认设置生成速度可以几乎翻倍，在 GTX 1060 上从约 10 tokens/s 跃升至超过 22 tokens/s
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/8/5
首次发现
有效期至：2026/11/3
来源
相关事实
待验证Gemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个，纯CPU推理约5-15 tokens/秒，INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍69% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒67% 相似待验证在24GB显存的显卡上运行Qwen3.6 27B模型，未经优化可达每秒约40个Token的生成速度，优化后可达50-60 Token/s66% 相似待验证Anthros UD Q5 GGUF quantization achieves approximately 18 tokens per second generation speed on Mac64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/689096API
curl https://kongchang.com/api/v1/knowledge/claims/689096MCP
get_claim(id=689096)