待验证50% 置信基准精确时间
Gemma E6B 小模型在该 mini 主机上实测速度超过 46 Token/秒
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/19
首次发现
有效期至:2026/12/18
来源
涉及实体
相关事实
待验证Gemma 4 26B MOE版本在24GB显存GPU上实际推理速度达到每秒60个Token74% 相似待验证Gemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个,纯CPU推理约5-15 tokens/秒,INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍69% 相似待验证在M4 Max上进行FP16精度测试,hy3d shape(small)任务运行时间20.9秒,峰值内存约5.6GB64% 相似待验证27B稠密模型在24GB M4 Pro Mac mini上使用4-bit量化可以运行,速度约为11 tok/s63% 相似待验证56k拨号调制解调器的理论峰值约为每秒7KB63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/933717API
curl https://kongchang.com/api/v1/knowledge/claims/933717MCP
get_claim(id=933717)