待验证50% 置信基准精确时间
在1B级模型、16K到64K token prompt的玩具模拟中，PD拆分解耦将p99 inter-token延迟从5.0ms降至1.0ms，最坏卡顿从931ms降至1ms
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/19
首次发现
有效期至：2027/1/17
来源
涉及实体
相关事实
待验证在相同机器和模型下，低功耗模式与高功耗模式的解码速度差1.4到3.8倍；例如Ollama跑Qwen 3.5 35B，低功耗51.9 tokens/s，高功耗107.1 tokens/s67% 相似待验证在 100 万向量规模下，PRISM 在 2GB 的 c8g.medium 上做到 99% recall、15 毫秒中位延迟；HNSW 在 4GB 的 c8g.large 上是 392 毫秒，构建花了约 21.7 小时并出现内存抖动。67% 相似待验证llama.cpp通过纯CPU推理和4-bit GGUF量化格式，使7B参数模型在无GPU的普通服务器上达到每秒20-40 tokens的生成速度67% 相似待验证Q8主模型占用162GB导致drafter无法装入统一内存，DSpark加速失效，将三层MoE专家放回CPU后输出仅从22.87提升到23.49 token/秒（快2.7%），prefill从95.38降至76.6567% 相似待验证实验中 2.8KB 和 4.1KB 两个尺寸点共 8 次执行，空输出率均为 0%，平均输出 tokens 分别为 9,096 和 7,913，约定命中均为 4/4。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070127API
curl https://kongchang.com/api/v1/knowledge/claims/1070127MCP
get_claim(id=1070127)