待验证50% 置信事实精确时间
NVIDIA Dynamo 的核心能力包括 KV Cache 的跨节点调度与复用、请求的动态路由,以及与 Kubernetes 等编排系统的集成
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/22
首次发现
有效期至:2026/12/21
来源
涉及实体
相关事实
待验证NVIDIA Dynamo 是 NVIDIA 推出的分布式推理框架,专为大语言模型在多 GPU、多节点集群上的高效服务而设计75% 相似待验证NVIDIA Dynamo基于NATS和etcd实现分布式请求路由与服务发现,支持基于NIXL的高效GPU间数据传输,并与TensorRT-LLM和vLLM等推理后端兼容74% 相似待验证Dynamo提供分布式KV Cache管理、请求级别的动态路由、GPU资源的细粒度调度等能力72% 相似待验证Topograph 可结合 NVIDIA Dynamo,使推理请求被路由到与已缓存 KV 数据物理距离最近的 GPU 节点,减少缓存迁移带来的通信开销71% 相似待验证NVIDIA近期宣布为Vulkan提供端到端的描述符堆(Descriptor Heaps)支持,从API调用、驱动实现到硬件执行的整条链路都能原生处理描述符堆70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/941638API
curl https://kongchang.com/api/v1/knowledge/claims/941638MCP
get_claim(id=941638)