待验证50% 置信基准精确时间
Kev 4B 的 GGUF Q4_K_M 量化版在 M4 Pro / 24GB Mac 上跑出72/82,与云端版本得分一致,中位延迟0.173秒,比调用云端版(1.534秒)快约9倍且零成本
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/11
首次发现
有效期至:2027/1/9
来源
涉及实体
相关事实
待验证Qwen 27B的Q4_K_M/GGUF版本在同一台机器上解码速度约为10.7 tok/s,约为MLX版本的1/3.872% 相似待验证Jev报告的服务器时间约88毫秒一次分类,而MacBook M4 Pro的GPU本地运行GLiNER 2.5 small速度快约8倍72% 相似待验证Q4_K_M量化文件大小17.77GB,pp2048速度96.8 tok/s,tg128速度11.4 tok/s71% 相似待验证MiniCPM 2B的GGUF量化版本Q4_K_M模型体积仅1.56G,可在4G显存设备上流畅运行71% 相似待验证Flux GGUF Q4_K_S 量化模型体积为6.4GB,运行时约1127MB被卸载到CPU,每步耗时11-22秒70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/998810API
curl https://kongchang.com/api/v1/knowledge/claims/998810MCP
get_claim(id=998810)