[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
dLLM-KVQ
dLLM-KVQ
面向扩散语言模型的KV cache非对称量化方法,按层选择对注意力敏感的K缓存条目保留高精度,对V缓存应用标准低比特量化
来源文章
扩散语言模型的KV Cache量化新方法:TRACE与dLLM-KVQ
10月30日