待验证50% 置信基准精确时间
Gemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个，纯CPU推理约5-15 tokens/秒，INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/16
首次发现
有效期至：2026/10/14
来源
相关事实
待验证Qwen3-0.6B 经 INT4 量化后模型文件仅约 400MB，保留约 95% 基准能力，普通笔记本 CPU 即可实现每秒 10-30 token 生成速度78% 相似待验证在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒76% 相似待验证在RTX 5090上，Muse Glimmer生成速度从每秒75个Token提升到233个Token，提速约3.1倍75% 相似待验证Gemma 4 26B MOE版本在24GB显存GPU上实际推理速度达到每秒60个Token72% 相似待验证Collapse推理速度：CPU上单条10-token上下文约0.23毫秒，MPS在batch 1024下约230万token/秒，最近邻查询约0.48毫秒72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/530560API
curl https://kongchang.com/api/v1/knowledge/claims/530560MCP
get_claim(id=530560)