待验证50% 置信事实精确时间
Hybrid HiSparse 与 vLLM 的前缀缓存、OffloadingConnector、P/D 分离导入以及 MTP 等现有功能保持兼容
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/15
首次发现
有效期至：2026/12/14
来源
涉及实体
相关事实
待验证vLLM 社区推出 Hybrid HiSparse 方案，建立在稀疏 MLA 基础之上，使请求在 KV Cache 无法完全驻留于 HBM 后仍能持续解码而不被强制中断71% 相似待验证vllm-proto 很可能是为标准化 vLLM 内部/外部接口而抽离出的独立包，其核心内容可能是跨语言、跨进程的接口定义文件集合64% 相似待验证强化学习权重同步在vLLM v0.29.0中新增了sharded_rdt P2P后端，每个worker只拉取属于自己的TP/EP切片而非全量同步63% 相似待验证vLLM 具备批处理、连续批处理（continuous batching）与显存管理能力63% 相似待验证vLLM在前缀缓存与DFlash2同时开启时存在bug，会将最后一个缓存单元(约16 token的混合布局块)直接丢弃并重新计算63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/921504API
curl https://kongchang.com/api/v1/knowledge/claims/921504MCP
get_claim(id=921504)