待验证50% 置信基准精确时间
MultiAlloc 将固定量化预算拆成‘逐层精度提升’和‘逐 token 保留’两部分,用轻量离线 profiling 替代均匀压缩,在等内存预算下于 Mistral、Llama、QwQ 上均优于单粒度基线。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证Dynamic量化通过敏感度分析为每一层甚至每个权重矩阵分配不同的比特预算,采用混合精度策略在总平均比特数不变的条件下降低整体量化误差68% 相似待验证QSA通过压缩式轻量级Index在micro-block粒度上重新选择重要上下文,降低长序列Attention计算开销66% 相似已验证现代量化方案如GPTQ、AWQ及GGUF格式的分组量化,通过逐层校准和异常值保护,可将模型体积缩减75%以上同时保留绝大部分推理能力66% 相似待验证常见做法是主要类别用边界框,遮挡频繁的细粒度类别用分割掩码,以平衡成本与精度65% 相似待验证相比全量微调,LoRA 所需的显存和时间成本可以压缩一到两个数量级64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1026261API
curl https://kongchang.com/api/v1/knowledge/claims/1026261MCP
get_claim(id=1026261)