Unverified50% confidenceFactExact time
千问3.5-9B包含约90亿个可训练参数，经4-bit量化后模型文件大小可压缩至约5-6GB
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
本地部署免费AI智能体：千问3.5+Hormis打造全能助手
bilibili愈解忧6/22/2026
Related Claims
UnverifiedUnsloth 通过 4-bit/8-bit 量化感知训练与动态激活卸载技术，可将 7B 模型的微调显存需求压缩至约 4–6 GB80% similarUnverified一个70亿参数的语言模型其权重文件约占14GB存储空间，而训练语料往往达到数TB乃至数十TB79% similarUnverified一个原始需要80GB显存的700亿参数模型经4-bit量化（Q4_K_M档）后仅需约40GB内存，推理质量在多数基准测试中损失通常在3%-8%以内78% similarUnverified一个7B参数模型在FP16格式下仅模型权重就需要约14GB显存，训练总显存需求可能膨胀到50-80GB77% similarUnverified采用INT4量化可将700亿参数模型显存需求压缩至约40GB（2张A100），但会带来约3-5%的性能损耗76% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/40881API
curl https://kongchang.com/api/v1/knowledge/claims/40881MCP
get_claim(id=40881)