待验证50% 置信解决方案精确时间

该模型从三个维度压缩缓存：64个查询头共享一个latent、编码器中相邻两个token压缩成一个条目、40层中只有4层保留缓存其余36层不存储

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

DeepSeek如何把AI推理账单砍到1/150：四步压缩KV缓存

涉及实体

DeepSeekcompany KV Cacheconcept

相关事实

待验证Base64 编码将每3字节二进制数据拆分为4组6位，输出长度约为原始数据的4/3倍72% 相似已验证量化KV缓存（如FP8或INT4存储KV向量）可将缓存大小压缩到原来的1/2甚至1/470% 相似待验证在DeepSeek-V4.1-Flash中，只有四个层负责写入压缩后的KV，模型其余部分共享这份缓存70% 相似待验证将子节点索引从 64 位指针压缩为 32 位偏移量既节省内存又能让同一 64 字节缓存行容纳更多索引信息69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/923871

API

curl https://kongchang.com/api/v1/knowledge/claims/923871

MCP

get_claim(id=923871)