[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
MLA
Multi-head Latent Attention
通过将键值投影压缩到低维潜向量、推理时只缓存潜向量而非完整 K/V 来大幅压缩 KV cache 占用的注意力变体,由 DeepSeek 系列普及
来源文章
Transformers v5.20.0发布:八大新模型与导出量化支持
10月15日