待验证50% 置信基准精确时间
在16核环境下，Delta Tokenizer编码一个400万字符的请求比串行编码快8.2倍，比LoPT快1.6至2.1倍。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
Delta Tokenizer：会话增量与多核并行如何让长提示词分词提速40倍
rss2026/10/14
涉及实体
相关事实
待验证JetSpec++ 在 NVIDIA GB200 上针对单次请求可达最高 1,361 tokens/秒的生成速度。67% 相似待验证在6张RTX 5090上Colibri实测速度达9.0-9.2 token/s，在25GB开发机上从NVMe流式读取速度为0.05-0.1 token/s67% 相似已验证在RTX 5090上，Muse Glimmer生成速度从每秒75个Token提升到233个Token，提速约3.1倍67% 相似待验证在RTX 5090上，Muse Glimmer不使用推测解码时为75 tokens/秒，搭配推测解码模型后速度达233 tokens/秒67% 相似待验证在 Colab A100 实例上通过 Ollama 运行 gemma4:26b（GGUF Q4_K_M），生成速度达 179.42 tok/s，369 tokens 耗时 2.16 秒65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1038162API
curl https://kongchang.com/api/v1/knowledge/claims/1038162MCP
get_claim(id=1038162)