待验证50% 置信基准精确时间
在32K token上下文下，LoopVQ在SGLang实现中使解码延迟几乎减半。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/4
首次发现
有效期至：2027/2/2
来源
涉及实体
相关事实
待验证使用SGLang同时开启Prefix Cache和MTP后，token生成速度提升到约40-50 tokens/s65% 相似待验证一位开发者在M5 Pro/64GB上运行Qwen3 27B模型，同一会话中缓存命中时首Token仅6.1秒，缓存失效后重读约41000 tokens导致首Token延迟268秒，速度相差44倍。64% 相似待验证Prompt缓存（KV Cache）在相同系统提示多次使用时可复用缓存的KV矩阵，通常将延迟降低40-60%、成本降低50-90%63% 相似已验证Prompt Caching通过复用相同前缀的KV Cache跳过重复计算，降低延迟和Token费用63% 相似待验证在复杂的C语言指针操作任务中，DeepSeek-Coder-V2生成的代码执行速度比GPT-4o最多快18%，原因在于它避免了冗余的栈到堆拷贝62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1134274API
curl https://kongchang.com/api/v1/knowledge/claims/1134274MCP
get_claim(id=1134274)