待验证50% 置信事实精确时间
MoE 缓存按专家张量的数据类型和形状分组，每组在 VRAM 中分配一个共享槽位池，采用 LRU 淘汰策略。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
已验证语义记忆层的实现通常借助向量数据库（如Chroma、Qdrant、Pinecone）进行向量化存储和相似度检索，这一技术路线被称为RAG63% 相似待验证Llama 3系列采用了GQA(Grouped Query Attention)设计以压缩KV Cache内存占用62% 相似待验证语义记忆的技术实现依赖向量数据库，本地部署方案包括ChromaDB、Qdrant和FAISS62% 相似待验证GQA通过让多个Query头共享同一组Key-Value头来减少KV Cache的大小，这对WebLLM在内存受限环境下运行尤为关键62% 相似待验证vLLM的前缀缓存实现基于基数树（radix tree）数据结构进行细粒度的缓存命中匹配61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060505API
curl https://kongchang.com/api/v1/knowledge/claims/1060505MCP
get_claim(id=1060505)