待验证50% 置信事实精确时间
常见的推理引擎包括NVIDIA的TensorRT、微软的ONNX Runtime、Intel的OpenVINO
1
来源数
50%
置信度
长期有效
时效性
2026/8/18
首次发现
来源
相关事实
待验证ONNX Runtime是微软开源的高性能推理引擎，支持CPU、GPU、NPU等多种硬件后端，并内置图优化、算子融合等加速手段75% 相似待验证CPU、GPU、NPU的协同调度由英特尔的OpenVINO框架统一管理68% 相似待验证TensorFlow Lite、ONNX Runtime等推理框架可与底层驱动和硬件加速器（NPU/DSP）协同优化66% 相似待验证Ollama通过ollama pull命令即可下载并运行Llama、Mistral、Qwen等主流开源模型，其推理引擎会自动检测硬件并优先调用GPU加速66% 相似待验证NVIDIA推理软件栈从TensorRT到TensorRT-LLM再到Triton Inference Server，构建覆盖单算子优化、单机多卡部署到大规模分布式服务的完整体系65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/771241API
curl https://kongchang.com/api/v1/knowledge/claims/771241MCP
get_claim(id=771241)