Unverified60% confidenceEventTime unknown
Unsloth为Granite 4.1 3B模型发布了21种GGUF格式量化版本，文件大小从1.2GB到6.34GB不等，总计约51.3GB
2
Sources
60%
Confidence
Medium-term (~90 days)
Relevance
6/1/2026
First Seen
Valid until: 8/30/2026
Sources
Related Entities
Related Claims
UnverifiedGLM 5.2常规版本约400GB，全精度BF16版本高达1.5TB，量化剪枝后仍在约200GB74% similarUnverified从存储角度推算：27B参数×2字节（FP16）约54GB，INT8约27GB，INT4约13.5GB，2-bit约6.75GB，1.5-bit逼近5GB；4GB以内意味着平均比特宽度需低于1.5-bit73% similarUnverified开发者提供五种量化格式：INT8 ConvRot(4.5GB)、FP8 E4M3(4.2GB)、bf16(8.3GB)、NVFP4(2.9GB)、MXFP8(4.7GB)72% similarUnverified以 GGUF Q4 量化为基准，7B 模型约需 4-6GB 显存，13B 约需 8-10GB，70B 需 40GB 以上或多 GPU 并行72% similarUnverified在16GB内存硬件条件下只能容纳5GB以内的模型，因此该开发者使用了体积约4.8GB的Qwen 2.5 7B 4bit量化模型，配8K上下文窗口70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/33503API
curl https://kongchang.com/api/v1/knowledge/claims/33503MCP
get_claim(id=33503)