待验证50% 置信事实精确时间
NVFP4 量化并非全模型 4-bit:视觉编码器、连接器、Mamba 卷积和 embedding 保持 BF16,MoE 路由器保持 FP32。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证Qwen3.8 27B 官方提供 BFloat16 全精度版和 FP8 版;Unsloth 放出了 NVFP4 量化的 4-bit 版本76% 相似待验证常见量化格式包括FP32、FP16/BF16、INT8、INT4乃至INT3/INT272% 相似待验证NVFP4版Qwen3-27B采用敏感度感知混合精度:前馈层以FP4(E2M1)带FP8块缩放运行,注意力投影、DeltaNet递归层、视觉编码器和多Token预测头保持FP8或BF1671% 相似待验证该方案的KV缓存统一采用BF16精度,模型权重部分采用MXFP4量化71% 相似待验证Qwen3.8-27B 模型提供 Safetensors、GGUF、NVFP4、NVFP4 的 GGUF 变体和 GPTQ-Int4 量化版本等多种格式70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1049448API
curl https://kongchang.com/api/v1/knowledge/claims/1049448MCP
get_claim(id=1049448)