[控场AI]
概念dLLM-KVQ

dLLM-KVQ

面向扩散语言模型的KV cache非对称量化方法,按层选择对注意力敏感的K缓存条目保留高精度,对V缓存应用标准低比特量化

来源文章