待验证50% 置信事实精确时间
Hy-Memory-30B-A3B的262K最大上下文是配置值,GGUF上传者实测仅到32K。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
涉及实体
相关事实
待验证实际部署Hy-Memory-30B-A3B,现实门槛是24 GB显卡或32 GB Mac跑Q4_K_M,想上Q8_0加长上下文则需64 GB。72% 相似已验证LLaMA-2 70B单条32K上下文长度序列在FP16下KV缓存可达约80GB71% 相似已验证以LLaMA-3 70B(80层、64头、每头128维)为例,单个token的KV Cache约占2.6MB(FP16精度),32K上下文的KV Cache总量约达83GB71% 相似已验证NVIDIA H20 的 BF16 峰值算力约为 296 TFLOPS,相比 H100 的 989 TFLOPS 大幅削减,但保留了 141GB HBM3 显存与 4.0 TB/s 显存带宽70% 相似待验证单颗HBM3e堆叠最大容量目前约36GB,DDR5总线位宽仅为64位而HBM可达4096位69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1054163API
curl https://kongchang.com/api/v1/knowledge/claims/1054163MCP
get_claim(id=1054163)