待验证50% 置信基准精确时间
与 TorchAO 的 4-bit AdamW 相比,ZIP-SR 与 ZE-EDEN 在每一个评测规模上都缩小了相对 32-bit AdamW 的平均验证损失差距,最大差距缩减幅度达到 70%。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至:2027/1/11
来源
涉及实体
相关事实
待验证一篇EMNLP研究发现4-bit模型在12.8万token时检索损失平均高达23%,70B LLaMA丢失三分之一分数而同规模QWEN几乎无损69% 相似待验证在图像、表格、文本共十一个数据集测试中,Phase-HDC相比标准float32 Adam存储量减少16-23倍,相比8-bit Adam减少4-6倍66% 相似待验证int8量化将参数从16位压缩至8位,理论上减少约50%显存占用;int4将显存占用降低至原始的25%左右64% 相似已验证4-bit量化在损失约1-3%准确率的前提下,将模型体积缩减至原来的1/863% 相似已验证INT8量化约损失0.5%精度、显存减半,INT4量化显存压缩至原来的1/4、精度损失约1-3%61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1013234API
curl https://kongchang.com/api/v1/knowledge/claims/1013234MCP
get_claim(id=1013234)