待验证50% 置信基准精确时间

TP LMHead原本的allgather+scatter两步操作被合并为单次all-to-all通信，在DeepSeek-V4-Pro B200解码测试中LMHead耗时从320μs降至169μs，TPOT从36.97ms改善到35.67ms

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/5

首次发现

有效期至：2026/12/4

来源

SGLang v0.5.18发布：710个PR带来哪些性能飞跃

涉及实体

SGLang v0.5.18product DeepSeek-V4-Promodel B200product

相关事实

待验证BM25 is a significant improvement over TF-IDF, introducing term frequency saturation and document length normalization64% 相似待验证LLaMA-2-7B使用FP16精度时每个token的KV Cache约占0.5MB63% 相似待验证MemStitch声称通过「零拷贝上下文桥接」技术为vLLM带来高达25倍的TTFT提速63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/860550

API

curl https://kongchang.com/api/v1/knowledge/claims/860550

MCP

get_claim(id=860550)