Unverified50% confidenceReleaseExact time
Netpreme将其自研的X-Mem™ MPU作为TB/s级内存层接入SGLang的HiCache分层KV缓存体系
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/11/2026
First Seen
Valid until: 10/9/2026
Sources
TB/s内存层加速SGLang：X-Mem让TTFT降低6.7倍的技术解析
twitterlmsysorg7/8/2026
Related Claims
UnverifiedHiCache是SGLang实现的分层KV缓存系统，将KV数据按访问热度分级存储于GPU HBM、Host DRAM和NVMe SSD71% similarUnverifiedSGLang 核心特性包括 RadixAttention（KV 缓存共享）、Continuous Batching 和原生结构化输出约束64% similarUnverifiedMem0定位为轻量级记忆中间件，核心优势在记忆管理层，通过LLM驱动的事实抽取和智能更新机制自动沉淀结构化记忆60% similarUnverified基于Electron的应用缓存结构通常包含GPU缓存（GPUCache）、网络缓存（Cache）、本地存储（Local Storage）和IndexedDB数据库60% similarUnverifiedMEM0（原Mem0）是一个开源记忆层框架，支持向量数据库后端（Qdrant、Chroma等），通过嵌入模型实现语义相似度检索59% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/486850API
curl https://kongchang.com/api/v1/knowledge/claims/486850MCP
get_claim(id=486850)