待验证50% 置信基准精确时间
VKORE在同一NPU硬件上使单用户推理响应速度提升3.8倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/13
首次发现
有效期至：2026/10/27
来源
涉及实体
相关事实
待验证使用NVIDIA NIM、TensorRT-LLM等优化过的推理引擎能在相同硬件上获得数倍的性能提升69% 相似待验证NPU 在执行 INT8/INT4 量化模型推理时，每瓦性能可达 GPU 的 3-5 倍69% 相似待验证NPU在执行矩阵运算时能效比通用CPU高出数倍69% 相似待验证VIDRAFT推出的VKORE软件加速层在不改动芯片的前提下，既将NPU推理性能提升数倍，又让Transformer的LoRA训练在这类推理专用硬件上跑通，数值精度与标准PyTorch达到0.9999对齐。68% 相似待验证vLLM相比已有优化的FasterTransformer有3.5倍以上的吞吐提升67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1017228API
curl https://kongchang.com/api/v1/knowledge/claims/1017228MCP
get_claim(id=1017228)