待验证50% 置信事实精确时间
DeepEP提供四类Buffer：EP Buffer（专家并行Dispatch与Combine）、PP Buffer（流水线并行Send/Receive）、Ingram Buffer（Table写入与按层Fetch）、Bucket Buffer（分桶操作）
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证DeepSeek的前缀缓存实现基于MLA（Multi-head Latent Attention）架构，MLA通过低秩压缩将KV Cache的存储需求降低了数十倍57% 相似待验证分层存储卸载offloading实践在llama.cpp、DeepSpeed-Inference等工具中已有类似应用56% 相似已验证量化KV缓存（如FP8或INT4存储KV向量）可将缓存大小压缩到原来的1/2甚至1/456% 相似待验证在DeepSeek-V4.1-Flash中，只有四个层负责写入压缩后的KV，模型其余部分共享这份缓存55% 相似待验证采用HMB（Host Memory Buffer）方案借用主机内存作为映射表缓存，系统内存极低（如4GB及以下）时可能影响性能表现54% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/963581API
curl https://kongchang.com/api/v1/knowledge/claims/963581MCP
get_claim(id=963581)