待验证50% 置信基准精确时间
在韩国NPU服务器（8张卡，共32颗芯片）上，VKORE使Gemma 4 26B模型的单用户响应从14.1 tokens/s提升到53.9 tokens/s，约3.8倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/13
首次发现
有效期至：2026/10/27
来源
涉及实体
相关事实
待验证用2840亿参数的DeepSeek V4 Flash实测，token生成从37提升到53 tokens/s（约1.5倍），Prompt Processing从483跃升到1485 tokens/s（约三倍）73% 相似待验证运行Qwen3-Next-Flash（Autoround W4A16量化）时，预填充速度约1.3k tokens/s，生成速度达70 tokens/s（代码）/60 tokens/s（散文），支持128k+长上下文69% 相似待验证SGLang 使用官方 NVFP4 权重配合 D-Spark 投机解码在 Blackwell GPU 上跑出平均约 173 tokens/秒，短任务逼近 200，同时加载 262k 上下文窗口69% 相似待验证本地运行的开源LLM模型通常只有4K到32K tokens的上下文容量，受硬件内存限制68% 相似待验证开发者Primitive报告：关闭推测时为91.2 tokens/s，开启3个推测token后达到142.6 tokens/s，同一配置下约提速56%67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1013617API
curl https://kongchang.com/api/v1/knowledge/claims/1013617MCP
get_claim(id=1013617)