待验证50% 置信事实精确时间
目前尚无 AREX-2 的 NVFP4 构建版本;可选量化版本包括 BAAI 的 BF16 原版(54.7 GB)、prithivMLmods 的 FP8(35.9 GB)、cyankiwi 的 AWQ INT4(20.2 GB)和 numsu 的 INT4 W4A16(18.6 GB)。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/15
首次发现
有效期至:2026/10/29
来源
涉及实体
相关事实
待验证开发者提供五种量化格式:INT8 ConvRot(4.5GB)、FP8 E4M3(4.2GB)、bf16(8.3GB)、NVFP4(2.9GB)、MXFP8(4.7GB)74% 相似待验证NVIDIA L4(g6/SageMaker)原生支持bf16、fp8、int8,int4会被加宽到16位;NVIDIA T4G(g5g)支持bf16(模拟)和int8,不支持fp8,int4加宽到16位;NeuronCore-v2(inf2/trn1)支持bf16和int8,fp8有硬件支持但编译器待跟进,int4加宽到bf16且每次调用慢27倍。72% 相似待验证d1-omni-600M 各量化格式的磁盘占用:原始 F32 safetensors 2.35 GB,GGUF F16 约 1.2 GB,GGUF Q8_0 约 670 MB,ONNX q8(纯文本)0.41 GB,ONNX q4(纯文本)0.24 GB,ONNX 语音栈 0.67 GB。71% 相似待验证Naive-N0.5-Flash 的 BF16 权重文件约 618GB,FP8 格式版本权重约 315GB70% 相似待验证32GB显存能直接跑FP16、FP8原版模型,无需使用GGUF量化版70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1033436API
curl https://kongchang.com/api/v1/knowledge/claims/1033436MCP
get_claim(id=1033436)