待验证50% 置信基准精确时间

采用分层存储后单张GPU可支持的并发会话数提升73.02倍，每会话成本降低62.04倍

1

来源数

50%

置信度

长期有效

时效性

2026/9/16

首次发现

来源

KV缓存该放在哪？GPU/CPU/SSD分层放置策略实测解析

涉及实体

分层存储concept

相关事实

待验证同一张GPU卡能够同时服务的2B模型请求数量远高于大模型，单位请求成本可降低一到两个数量级71% 相似待验证基于耦合振荡器的新型计算机功耗仅为传统GPU的千分之一，性能损失约6.7%，完全开源69% 相似待验证连续批处理相比传统静态批处理可将GPU利用率和吞吐量提升数倍至十倍以上68% 相似待验证对于一个100万面的模型，LOD1可简化至25万面、LOD2简化至6万面，远距离渲染时GPU负载可降低75%以上68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924725

API

curl https://kongchang.com/api/v1/knowledge/claims/924725

MCP

get_claim(id=924725)