待验证50% 置信基准精确时间
Glacier协调器会对Qwen2-57B-A14B（57B参数，每token激活14B，8/64 MoE）在4节点上每节点分7层共28层，磁盘占用约25.6GB（Q3_K_M量化）。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/12
首次发现
有效期至：2027/1/10
来源
涉及实体
相关事实
待验证Qwen3-27B的16个全注意力层每层拥有4个KV头、256的头维度，在16位精度下每个Token占用64KB68% 相似已验证以LLaMA-3 70B（80层、64头、每头128维）为例，单个token的KV Cache约占2.6MB（FP16精度），32K上下文的KV Cache总量约达83GB65% 相似待验证Qwen3.8-Max-0902采用2.4T参数量的混合专家架构（MoE），支持128K上下文长度64% 相似待验证典型7B模型（32层、32头、128维度）在FP16精度下处理2048 token序列、批大小8时，KV Cache约消耗4GB显存64% 相似待验证Qwen3-235B-A22B采用MoE架构，235B总参数中每次只激活22B64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1010454API
curl https://kongchang.com/api/v1/knowledge/claims/1010454MCP
get_claim(id=1010454)