待验证50% 置信事实精确时间
千问3.5-9B包含约90亿个可训练参数，经4-bit量化后模型文件大小可压缩至约5-6GB
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/2
首次发现
有效期至：2026/9/30
来源
本地部署免费AI智能体：千问3.5+Hormis打造全能助手
bilibili愈解忧2026/6/22
相关事实
待验证Unsloth 通过 4-bit/8-bit 量化感知训练与动态激活卸载技术，可将 7B 模型的微调显存需求压缩至约 4–6 GB80% 相似待验证一个70亿参数的语言模型其权重文件约占14GB存储空间，而训练语料往往达到数TB乃至数十TB79% 相似待验证一个原始需要80GB显存的700亿参数模型经4-bit量化（Q4_K_M档）后仅需约40GB内存，推理质量在多数基准测试中损失通常在3%-8%以内78% 相似待验证一个7B参数模型在FP16格式下仅模型权重就需要约14GB显存，训练总显存需求可能膨胀到50-80GB77% 相似待验证采用INT4量化可将700亿参数模型显存需求压缩至约40GB（2张A100），但会带来约3-5%的性能损耗76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/40881API
curl https://kongchang.com/api/v1/knowledge/claims/40881MCP
get_claim(id=40881)