待验证50% 置信事实精确时间
在 vLLM 中，NIXL 常被用于实现 Prefill/Decode 分离架构下的 KV cache 跨节点传输
1
来源数
50%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
待验证vLLM 使用 Prefix Caching（前缀缓存）技术来复用相同前缀请求的 KV Cache74% 相似待验证vLLM已内置对多种投机解码方法的支持68% 相似待验证分离式服务（disaggregated serving）将LLM推理的预填充（Prefill）阶段和解码（Decode）阶段拆分到不同硬件资源上独立执行66% 相似待验证vLLM 所使用的 proto 通常基于 Protocol Buffers（protobuf），常与 gRPC 框架配合使用66% 相似待验证vllm-proto 很可能是为标准化 vLLM 内部/外部接口而抽离出的独立包，其核心内容可能是跨语言、跨进程的接口定义文件集合65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/933350API
curl https://kongchang.com/api/v1/knowledge/claims/933350MCP
get_claim(id=933350)