待验证50% 置信事实精确时间
麒麟9050系列采用多级存算协同方案,将参与计算的热专家加载到DDR,冷专家保留在Flash,配合低比特量化,在新增占用不到2.5GB内存的情况下可运行30B MoE大模型。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
涉及实体
相关事实
待验证本次测量的工作负载是公开的 typed-decisions 行集:400 个用例、2000 个决策,本地模型为 Phocinae-Largha-150M-v1(CPU、fp32),对照的托管模型是 flash 档的 deepseek-flash(temperature 0)。66% 相似待验证1250 亿参数模型能跑在 12G 显存上,核心依赖模型量化与混合专家(MoE)架构,通过只激活部分专家参数、将权重量化至 4bit 或更低并按需从内存或 SSD 动态加载未激活参数来实现。64% 相似待验证70B级模型往往需要多卡或云端A100/H100才能流畅推理63% 相似已验证70B级别的模型即便经过量化,往往也需要40GB以上显存或多卡配置62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1033112API
curl https://kongchang.com/api/v1/knowledge/claims/1033112MCP
get_claim(id=1033112)