待验证50% 置信基准精确时间
32 个请求共用同一段 4k token 系统提示词时,Superfluid 的前缀缓存命中率达到 97%,与 Ollama 持平,而 mlx_lm.server 为 0%。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至:2027/1/11
来源
涉及实体
相关事实
待验证用2840亿参数的DeepSeek V4 Flash实测,token生成从37提升到53 tokens/s(约1.5倍),Prompt Processing从483跃升到1485 tokens/s(约三倍)67% 相似待验证在80亿参数模型的文本生成测试中,M5 Ultra每秒188 tokens,M3 Ultra每秒129 tokens,仅为1.45倍64% 相似待验证在韩国NPU服务器(8张卡,共32颗芯片)上,VKORE使Gemma 4 26B模型的单用户响应从14.1 tokens/s提升到53.9 tokens/s,约3.8倍。64% 相似待验证开发者Primitive报告:关闭推测时为91.2 tokens/s,开启3个推测token后达到142.6 tokens/s,同一配置下约提速56%63% 相似待验证M3 Ultra运行四位DeepSeek R1时,1000 token上下文约每秒生成19个token占用392GB,16000 token时降到约每秒15个占用410GB62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1013613API
curl https://kongchang.com/api/v1/knowledge/claims/1013613MCP
get_claim(id=1013613)