待验证50% 置信发布精确时间
NVIDIA近期为TensorRT引入了多设备推理支持（Multi-Device Inference Support）
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/10
首次发现
有效期至：2026/10/8
来源
TensorRT多设备推理：突破单GPU显存瓶颈的工程实践
rss2026/6/25
相关事实
待验证NVIDIA Model Optimizer支持FP8、INT8、INT4等多种量化精度76% 相似待验证NVIDIA推理软件栈从TensorRT到TensorRT-LLM再到Triton Inference Server，构建覆盖单算子优化、单机多卡部署到大规模分布式服务的完整体系75% 相似待验证NVIDIA近期推出了Fleet Intelligence，这是一套面向大规模GPU集群的实时可视化与优化解决方案74% 相似待验证NVIDIA Pascal架构（2016年）引入了线程级抢占（Thread-level Preemption）73% 相似待验证NVIDIA NIM内置了TensorRT-LLM等推理加速引擎73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/461208API
curl https://kongchang.com/api/v1/knowledge/claims/461208MCP
get_claim(id=461208)