Unverified50% confidenceFactExact time
Hybrid HiSparse 与 vLLM 的前缀缓存、OffloadingConnector、P/D 分离导入以及 MTP 等现有功能保持兼容
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
9/15/2026
First Seen
Valid until: 12/14/2026
Sources
Related Entities
Related Claims
UnverifiedvLLM 社区推出 Hybrid HiSparse 方案，建立在稀疏 MLA 基础之上，使请求在 KV Cache 无法完全驻留于 HBM 后仍能持续解码而不被强制中断71% similarUnverifiedvllm-proto 很可能是为标准化 vLLM 内部/外部接口而抽离出的独立包，其核心内容可能是跨语言、跨进程的接口定义文件集合64% similarUnverified强化学习权重同步在vLLM v0.29.0中新增了sharded_rdt P2P后端，每个worker只拉取属于自己的TP/EP切片而非全量同步63% similarUnverifiedvLLM 具备批处理、连续批处理（continuous batching）与显存管理能力63% similarUnverifiedvLLM在前缀缓存与DFlash2同时开启时存在bug，会将最后一个缓存单元(约16 token的混合布局块)直接丢弃并重新计算63% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/921504API
curl https://kongchang.com/api/v1/knowledge/claims/921504MCP
get_claim(id=921504)