概念Mixed-Precision Quantization
混合精度量化
在同一模型内为不同部分分配不同比特宽度的量化方法，关键挑战在于度量各部分重要性以分配比特预算。
时间轴 (近 90 天)
10月30日
dLLM-KVQ 利用 TRACE 生成的轨迹，根据输出层面和注意力层面的行为指标，选择每层中需要保持高精度的 K 缓存条目，而对 Value 缓存应用标准的低比特量化。
待验证50%
在同一模型内为不同部分分配不同比特宽度的量化方法，关键挑战在于度量各部分重要性以分配比特预算。
dLLM-KVQ 利用 TRACE 生成的轨迹，根据输出层面和注意力层面的行为指标，选择每层中需要保持高精度的 K 缓存条目，而对 Value 缓存应用标准的低比特量化。