待验证50% 置信事实精确时间
Agens Volundr 32B 为稠密结构，约 32B 参数，共 72 层，其中只有 18 层保留 KV 缓存
1
来源数
50%
置信度
长期有效
时效性
2026/10/5
首次发现
来源
涉及实体
相关事实
待验证LLaMA-2 7B 在上下文扩展到 32K token 时 KV Cache 显存膨胀至约 16 GB，接近单张消费级 GPU 的全部显存70% 相似已验证以LLaMA-3 70B（80层、64头、每头128维）为例，单个token的KV Cache约占2.6MB（FP16精度），32K上下文的KV Cache总量约达83GB70% 相似待验证Agens Volundr 32B 的上下文窗口达到 262K69% 相似已验证LLaMA-2 70B单条32K上下文长度序列在FP16下KV缓存可达约80GB68% 相似已验证32B参数规模的模型在量化后通常可以压缩到约16-20GB显存占用，一张NVIDIA RTX 4090（24GB显存）就能运行68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/977109API
curl https://kongchang.com/api/v1/knowledge/claims/977109MCP
get_claim(id=977109)