待验证50% 置信事实精确时间
星辰4.0 29B每次推理计算量大致与4B稠密模型持平,显存占用和算力需求由激活参数量决定而非总参数量
1
来源数
50%
置信度
长期有效
时效性
2026/9/24
首次发现
来源
涉及实体
相关事实
待验证星辰4.0 29B是一款国产开源模型,采用MoE架构,总参数29B,每次仅激活4B参数74% 相似待验证2.4万亿参数模型在BF16精度下考虑KV Cache和激活值后实际约需1.4-1.5TB显存71% 相似已验证Gemma 4的26B MOE模型采用混合专家架构,拥有260亿总参数但任意时刻仅约40亿参数处于激活状态70% 相似已验证模型参数量越大,对量化的鲁棒性越强,使得70B级别模型在4-bit量化后仍能保持接近FP16的性能70% 相似待验证在4-bit量化下,纯参数理论最小占用为:7B约3.26GiB,13B约6.05GiB,32B约14.90GiB,70B约32.60GiB68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/946991API
curl https://kongchang.com/api/v1/knowledge/claims/946991MCP
get_claim(id=946991)