待验证50% 置信事实精确时间
NVIDIA在其TensorRT-LLM框架中提供了对nvfp4的原生支持
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至:2026/12/10
来源
涉及实体
相关事实
待验证NVIDIA近期为TensorRT引入了多设备推理支持(Multi-Device Inference Support)75% 相似待验证NVIDIA在Hugging Face发布Qwen3 235B的NVFP4量化模型,NVFP4是针对Hopper和Blackwell架构的4-bit浮点格式,理论压缩比达4倍74% 相似待验证llmfit 通过调用 NVML 获取 NVIDIA GPU 的显存总量、可用量和架构型号,NVML 是 nvidia-smi 背后的同一套 C 语言 API 库74% 相似待验证NVIDIA 在 Blackwell 架构(SM 100/103,如 B100、B200 系列)中为 NVFP4 设计了专用 Tensor Core 指令 mma.kind::mxf4,并采用每 16 个元素为一组的 FP8 缩放因子机制74% 相似待验证NVIDIA NIM内置了TensorRT-LLM等推理加速引擎74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/894790API
curl https://kongchang.com/api/v1/knowledge/claims/894790MCP
get_claim(id=894790)