Unverified50% confidenceFactExact time
Strata在显存中划出约6GB作为专家缓存,存放约4,500个专家,全部24,576个专家固定在系统内存中
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
10/5/2026
First Seen
Valid until: 1/3/2027
Sources
Related Entities
Related Claims
UnverifiedStrata将整台电脑转化为三级内存层级:显存存放每个Token触及的内容、系统内存固定存放全部约2.4万组专家、固态硬盘存放29GB的N-gram查找表77% similarUnverifiedStrata使用低比特量化,最小配置约需38GB的内存+显存总和,最高质量配置约需55GB,64GB系统内存是理想目标67% similarUnverifiedStrata 会额外下载一个约 6GB 多的 data 目录,包含 MTP(多 token 预测)相关内容67% similarUnverified当上下文超过6.4万Token时,Strata将大部分KV缓存保留在内存中,仅把最热的3.2万Token保留在显存,在26.2万上下文下速度从约51提升至63 Token/秒66% similarUnverifiedStrata采用KV缓存分层管理,显存只保留32K单元KV缓存,其余下沉到内存,实测KV显存命中率达98.9%65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/978805API
curl https://kongchang.com/api/v1/knowledge/claims/978805MCP
get_claim(id=978805)